II. ADAPTER LE DROIT DU TRAVAIL POUR LIMITER LES DÉRIVES ET LES BIAIS LIÉS À L'USAGE D'ALGORITHMES
A. RESPONSABILISER LES EMPLOYEURS ET PROTÉGER LES SALARIÉS FACE À L'UTILISATION DES ALGORITHMES
Si les algorithmes constituent une aide considérable pour améliorer l'organisation des entreprises et exonérer les travailleurs de tâches parfois répétitives et contraignantes, ils doivent être encadrés et contrôlés lorsqu'ils sont utilisés à des fins d'organisation du travail.
D'une part, les travailleurs doivent être informés de l'utilisation de ces outils et avoir accès à leurs modalités de fonctionnement, dès lors qu'ils affectent leurs conditions de travail. D'autre part, l'utilisation d'algorithmes doit être considérée comme un simple outil d'aide à la décision de l'employeur qui doit demeurer entièrement responsable des décisions qu'il prend dans l'entreprise.
L'utilisation d'algorithmes doit être considérée comme un simple outil d'aide à la décision de l'employeur qui doit demeurer entièrement responsable des décisions qu'il prend.
À cette fin, l'article 1er de la proposition de loi inscrit les décisions des employeurs prises à l'aide de moyens technologiques parmi les décisions relevant de leur pouvoir de direction. Il prévoit de renforcer l'accessibilité du contenu des décisions et d'informer le salarié des motivations des décisions le concernant. Il permet au salarié de demander qu'une nouvelle décision soit prise par un être humain à la suite d'un recours contre une décision résultant de l'utilisation d'algorithmes.
B. ASSURER LA RESPECT DU PRINCIPE DE NON-DISCRIMINATION DANS L'UTILISATION DES ALGORITHMES
Ayant pour but d'opérer des tris de données et de proposer des recommandations en fonction d'un ensemble de données, les algorithmes peuvent conduire à des discriminations des travailleurs contraires à la loi. Les discriminations induites par l'usage des algorithmes peuvent résulter des critères fixés dès la construction de l'algorithme mais aussi du traitement des données opéré par l'algorithme pour formuler un tri ou une recommandation.
Une telle situation peut notamment se produire en matière de recrutement : en 2017, l'entreprise Amazon a dû renoncer à l'utilisation d'un algorithme pour le recrutement de salariés, car il induisait une discrimination à l'embauche en privilégiant les hommes aux femmes. Le logiciel s'appuyait sur une base de données recensant les curriculum vitae reçus par l'entreprise depuis dix ans. Cette base comprenant une grande majorité de curriculum vitae d'hommes, l'algorithme en a déduit que les candidats masculins étaient préférables et rejetait les candidatures féminines3(*).
Face à de tels risques, il est nécessaire que l'employeur soit responsable des outils technologiques sur lesquels il s'appuie pour le recrutement ou la gestion des salariés dans l'entreprise.
La protection des travailleurs contre toutes les formes de discriminations au travail ne saurait être affaiblie par l'utilisation d'outils technologiques pour l'organisation des entreprises.
En conséquence l'article 2 de la proposition de loi pose le principe selon lequel, en cas de litige portant sur une discrimination au travail, l'employeur doit apporter la preuve que les outils qu'il utilise ne sont pas source de discriminations. À cette fin, il étend la procédure contentieuse sur les discriminations au travail aux litiges portant sur les décisions des employeurs prises à l'aide de moyens technologiques.
* 3 « Quand le logiciel de recrutement d'Amazon discrimine les femmes », Les Échos, 13 octobre 2018.