Equité et explicabilité des algorithmes :  définitions, paradoxes et biais - Cnam - Conservatoire national des arts et métiers Access content directly
Conference Papers Year :

Equité et explicabilité des algorithmes :  définitions, paradoxes et biais

Abstract

L’équité ou fairness des algorithmes suscite une abondante littérature et des conférences spécialisées y sont consacrées comme ACM FaccT. Sur un plan qualitatif on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en est rien car la transparence ou l’explicabilité sont relatives à l’algorithme alors que l’équité concerne son application différenciée à des groupes d’individus. Suivant Rudin (2019) on distinguera l’interprétabilité, qui est liée à la simplicité, de l’explicabilité qui est en général post-hoc avec des approches globales ou locales, agnostiques ou spécifiques, utilisant souvent des modèles de substitution (Molnar, 2021). La diversité des mesures d’équité ne simplifie pas son appréhension: Verma & Rubin (2018) en ont dénombré plus de 20 qui conduisent d’ailleurs à des incompatibilités comme l’illustre la controverse sur laquelle nous reviendrons concernant l’application « COMPAS » de prédiction de la récidive. Cf Mitchell et al. (2021) et Rudin, Wang & Coker (2020). Les « biais » des algorithmes ne sont souvent que la reproduction de ceux des décisions antérieures que l’on retrouve dans les données d’apprentissage. Mais ce ne sont pas les seuls. On tentera de dresser une typologie des principaux biais : statistiques, sociétaux, cognitifs, etc.
No file

Dates and versions

hal-03668668 , version 1 (15-05-2022)

Identifiers

  • HAL Id : hal-03668668 , version 1

Cite

Gilbert Saporta. Equité et explicabilité des algorithmes :  définitions, paradoxes et biais. CISEM 2022, 3eme Colloque international statistique et économétrie, Faculté des sciences économiques et de gestion, Mahdia, May 2022, Mahdia, Tunisie. ⟨hal-03668668⟩
146 View
0 Download

Share

Gmail Facebook Twitter LinkedIn More