Question de Mme PONCET MONGE Raymonde (Rhône - GEST) publiée le 07/11/2024
Mme Raymonde Poncet Monge attire l'attention de M. le ministre des solidarités, de l'autonomie et de l'égalité entre les femmes et les hommes à propos de plusieurs pans de ses missions parmi lesquels la pauvreté, le handicap, la famille.
En 2023, la Quadrature du Net avait révélé l'existence d'un algorithme discriminatoire qui viserait délibérément les allocataires les plus vulnérables, et ce, depuis 2010. Un « score de suspicion », allant de 0 à 1, serait attribué à chaque allocataire en fonction de critères, tels que disposer de faibles revenus, être au chômage, habiter dans un quartier considéré « défavorisé » ou encore percevoir l'allocation adulte handicapé.
La quadrature du Net note un possible ciblage indirect des familles monoparentales, dont la grande majorité sont - nous le savons des femmes. Plus le score est élevé, plus la probabilité de faire l'objet d'un contrôle à domicile est élevée.
Face à cette pratique jugée discriminatoire, le 16 octobre 2024, 15 organisations, dont la Quadrature du Net, Amnesty International, APF France handicap, la ligue des droits de l'Homme, le syndicat des avocats de France, ont saisi le Conseil d'État, en demandant l'arrêt de l'utilisation de l'algorithme de notation utilisé par la caisse nationale des allocations familiales (CNAF).
Ainsi, selon les associations, l'algorithme assimilerait précarité et soupçon de fraude, et participerait d'une politique de stigmatisation voire de maltraitance institutionnelle des personnes les plus défavorisées qui seraient donc surcontrôlées par rapport au reste de la population.
Comme le résumait déjà un article publié en décembre 2023 par le Journal Le Monde, qui avait enquêté sur le système, « les contrôles ciblent (...) davantage des profils types, sur des critères que les déclarants ne maîtrisent pas, que des comportements suspects ou des situations incohérentes, comme le prétend la CNAF ».
Tout cela pose la question, au-delà de choix discriminants, de la délégation à des algorithmes dans un contexte de baisse sensible des moyens humains.
Étant en charge de mettre en oeuvre, en lien avec le ministère de la santé et de la prévention, les règles des organismes de sécurité sociale en matière de prestations familiales, elle souhaite lui demander ce qu'il compte mettre en oeuvre afin de faire la lumière sur ce système algorithmique jugé discriminatoire.
- page 4328
Transmise au Ministère de la santé, des familles, de l'autonomie et des personnes handicapées
Réponse du Ministère de la santé, des familles, de l'autonomie et des personnes handicapées publiée le 02/04/2026
Le réseau des Caisses d'allocations familiales (CAF) met en oeuvre des démarches de lutte contre les erreurs constitutives ou non d'une fraude. Elles sont nécessaires et sont fondées sur les articles L. 114-9 du code de la sécurité sociale et suivants : avec plus de 95 milliards d'euros de prestations - versées à 13,6 millions de foyers représentant plus de 30 millions de personnes - conditionnées en partie par déclarations, les CAF se doivent d'assurer l'exactitude de celles-ci, ne serait-ce que pour l'application du principe du « paiement à bon droit ». A titre d'exemple illustrant cette nécessité, les éléments justificatifs de la prime d'activité connaissent un taux d'erreur avant contrôle de 50 %. Globalement, sur les 4 millions de contrôles réalisés en 2021, 740 000 ont permis de détecter des indus, dont parmi eux 43 000 (sur les 8 Mds euros estimés de fraude) faisant apparaitre une intention avérée de fraude. Parallèlement, 351 000 contrôles ont permis de générer des rappels de droits, en faveur de l'allocataire. Les algorithmes sur lesquels la Caisse nationale des allocations familiales (CNAF) fonde ses actions en matière de lutte contre la fraude présentent des caractéristiques communes qui sont autant de garanties pour les allocataires. Ils concernent à titre principal les prestations sous conditions de ressources (revenu de solidarité active, prime d'activité, allocations logement ) qui appellent des données déclaratives. Les techniques algorithmiques en jeu ont été mises au point depuis une dizaine d'années à partir de l'étude objective des situations générant potentiellement le plus d'erreurs au regard de la réglementation et visent uniquement à minimiser la probabilité de générer un indu ou un rappel de versement aux allocataires au regard de critères objectifs. Ces outils qui s'appuient sur le traitement de données à caractère personnel s'inscrivent dans le cadre juridique en vigueur. Seules les données détenues par les CAF sont utilisées, c'est-à-dire des informations utiles pour la vie du dossier de l'allocataire (éléments d'identification, situation familiale, professionnelle, données financières, résidence des allocataires, etc.) au regard des règles de droit qui encadrent le bénéfice des prestations (notamment les conditions de ressources et de résidence). Par ailleurs, la CNAF mène une politique d'ouverture et de communication sur les principes qui guident sa politique de contrôle et de lutte contre la fraude tout en restant vigilante à l'égard des impacts qu'une transparence complète sur le fonctionnement de ses algorithmes pourrait entrainer. En effet, une trop grande ouverture pourrait alimenter des stratégies de contournement. De fait, l'utilisation de dispositifs de fraude de plus en plus sophistiqués (i.e. capables de contourner un grand nombre de mesures de contrôle) a malheureusement été constatée ces dernières années. En tout état de cause, l'objectif de ces algorithmes est d'accroître la probabilité que les dossiers individuels faisant l'objet d'un contrôle correspondent effectivement à des situations non conformes à la réglementation. Ces méthodes améliorent l'efficacité des dispositifs de contrôle, y compris au profit direct des allocataires ou assurés concernés lorsque ces contrôles aboutissent à augmenter les prestations dont ils bénéficient. Elles permettent aussi de réduire significativement la probabilité que des données relatives à des situations personnelles donnent lieu à des échanges et des investigations sans qu'aucune anomalie le justifie au final, en corrigeant et en améliorant les outils lorsque, à l'examen, le dossier s'avère conforme mais relevant de cas particulier comme une simple erreur ou un retard de mise à jour d'une situation. Ce processus de ciblage de certains dossiers révélant des atypies appelle systématiquement des vérifications complémentaires et une intervention humaine, contribue ainsi à minimiser quantitativement et qualitativement les risques d'atteinte à la vie privée des assurés ou allocataires dans leur ensemble et participe au cercle vertueux de l'amélioration continue des détections remontées. Enfin, ces préoccupations ne doivent pas occulter que les techniques de datamining sont aussi utilisées de façon croissante pour favoriser l'accès aux droits pour les 20 à 30 % de personnes qui n'y recourent pas. C'est ainsi qu'ont été réalisées des campagnes d'appels sortants ciblés sur des allocataires repérés au préalable, et qui ont permis d'ouvrir des milliers de droits à la prime d'activité ou à l'allocation de soutien familial. De nouvelles campagnes du même ordre ont été organisées cette année, dans l'objectif de les reconduire dans le cadre de la mise en oeuvre de la « solidarité à la source ».
- page 1622
Page mise à jour le