Allez au contenu, Allez à la navigation

Recherche Recherche avancée

Un algorithme est une chaîne de responsabilité


Mercredi 8 septembre 2021

La mission d’information, présidée par Martine BERTHET (Groupe Les Républicains - Savoie), a repris ses auditions en entendant mardi 7 septembre Eric DELISLE, chef du service des questions sociales et des ressources humaines à la CNIL, et Nicolas KANHONOU et Sarah BENICHOU, directeur et adjointe chargés de la promotion de l’égalité et de l’accès au droit auprès de la Défenseure des droits.

À l’issue d’un séminaire réunissant des experts du sujet, organisé en partenariat avec la CNIL les 28 et 29 mai 2020, le Défenseur des droits a publié des premières recommandations afin de prévenir et lutter contre les biais discriminatoires des algorithmes. Selon ces institutions, "derrière l’apparente neutralité des algorithmes, des recherches ont mis à jour l’ampleur des biais qui peuvent intervenir lors de leur conception et leur déploiement. Tout comme les bases de données qui les alimentent, ils sont conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations".

Dans le monde du travail, les algorithmes traitent, classent, notent sélectionnent et éliminent, en confondant souvent corrélation et causalité. Les garanties apportées par le RGPD, comme le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, sont-elles suffisantes ? Ainsi, le Défenseur des Droits et la CNIL se demandent "comment exercer son droit au recours quand on ne sait même pas que l’on a été victime d’une discrimination liée à un algorithme, que l’organisation utilisatrice de l’algorithme elle-même n’en a pas conscience, que le concepteur de l’algorithme ne veut ou ne peut expliquer comment fonctionne cet outil ?". Ils sont susceptibles d’approfondir les discriminations actuelles mais le manque d’études et d’accès à des outils couverts par le secret des affaires limitent l’appréhension du phénomène.

Pour le rapporteur, Pascal SAVOLDELLI (Groupe CRCE – Val-de-Marne) : "les créateurs des algorithmes doivent être vigilants et jouer un rôle de lanceur d’alerte, complété, le cas échéant, par l’information et la consultation du comité économique et social". Pour la présidente Martine BERTHET : "Une prise de conscience est doublement nécessaire : du risque juridique pris par les entreprises utilisatrices, mais aussi des contraintes sociologiques et juridiques par les créateurs d’algorithmes".

L’actualité de la mission d’information sur le site internet du Sénat :

http://www.senat.fr/commission/missions/uberisation_de_la_societe.html

Contact(s) presse :