Algorithms: Bias, Discrimination and Fairness - Archive ouverte HAL Access content directly
Preprints, Working Papers, ... Year :

Algorithms: Bias, Discrimination and Fairness

Algorithmes : Biais, Discrimination et Équité

(1) , (2, 3) , (4, 5) , (6, 3, 2)
1
2
3
4
5
6

Abstract

Les algorithmes s’immiscent de plus en plus dans notre quotidien à l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boites noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique. L’objectif de cet article est de décrire les biais liés aux algorithmes et d’esquisser des pistes pour y remédier. Nous nous intéressons en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité, et à leurs conséquences en termes de discrimination. Trois questions motivent cet article : Par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ? Dans une première partie, nous décrivons comment fonctionne un algorithme d’apprentissage statistique. Dans une deuxième partie nous nous intéressons à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Dans une troisième partie, nous présentons quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Nous concluons l’article en discutant des principaux enjeux de société soulevés par les algorithmes d’apprentissage statistique tels que l’interprétabilité, l’explicabilité, la transparence, et la responsabilité.
Fichier principal
Vignette du fichier
Algorithmes_-_Biais__discrimination__equite.pdf (944.41 Ko) Télécharger le fichier
Origin : Files produced by the author(s)
Loading...

Dates and versions

hal-02077745 , version 1 (23-03-2019)

Identifiers

  • HAL Id : hal-02077745 , version 1

Cite

Patrice Bertail, David Bounie, Stéphan Clémençon, Patrick Waelbroeck. Algorithmes : Biais, Discrimination et Équité. 2019. ⟨hal-02077745⟩
1649 View
3001 Download

Share

Gmail Facebook Twitter LinkedIn More