Question de M. MAUREY Hervé (Eure - UC) publiée le 20/02/2025
M. Hervé Maurey attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée de l'intelligence artificielle et du numérique sur la prolifération de contenus sponsorisés à caractère pornographique sur les plateformes du principal groupe de réseaux sociaux.
Selon le rapport publié le 8 janvier 2025 par l'organisation non gouvernementale AI Forensics, plus de 3 000 publicités à caractère pornographique ont pu être mise en ligne en 2024, sans modération, sur ces plateformes.
Certaines d'entre elles contiennent notamment des images et sons de synthèse de type « deep fake » de célébrités faisant la promotion de produits de l'industrie pornographique. Selon ce rapport, ces publicités auraient été visionnées près de 8 millions de fois au sein de l'Union européenne en 2024 et viseraient principalement, via le système de fléchage algorithmique, un public masculin d'une quarantaine d'années.
Le rapport souligne que le propriétaire de la plateforme dispose des technologies permettant de détecter instantanément ce type de contenus publicitaires et de les supprimer, mais qu'il a choisi de ne pas le faire - s'agissant de contenus sponsorisés, donc d'une source de revenus.
Selon AI Forensics, ces contenus sont en infraction avec le règlement européen sur les services numériques.
Il souhaite connaître l'avis du Gouvernement en la matière et les mesures qu'il compte prendre afin d'assurer le respect des règles encadrant la police des contenus sur les réseaux sociaux.
- page 692
Réponse du Ministère délégué auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargé de l'intelligence artificielle et du numérique publiée le 01/05/2025
Le Gouvernement est fermement engagé en faveur de la protection des mineurs, tout particulièrement en ce qui concerne les risques d'exposition à la pornographie en ligne et la lutte contre la propagation de contenus truqués. L'adoption du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques (DSA) renforce le cadre juridique visant à responsabiliser les fournisseurs de plateforme en ligne dans l'objectif de lutter contre les contenus illicites et d'introduire plus de transparence en ligne, notamment dans le domaine de la publicité sur les plateformes en ligne. Concernant les dispositions en matière de transparence de la publicité sur les plateformes en ligne, le règlement DSA dispose, en son article 26, que les fournisseurs de plateformes en ligne qui présentent de la publicité sur leurs interfaces sont tenus à ce que les informations suivantes soient accessibles à l'utilisateur : - Le caractère publicitaire de l'information présentée ; - Le commanditaire de la publicité ; - Le financeur de la publicité ; - Les informations concernant les paramètres de ciblage de la publicité et, le cas échéant, la possibilité de modifier ces paramètres. L'article 28 précise également les obligations en matière de protection des mineurs en ligne, requérant que soient mises en place « des mesures appropriées et proportionnées pour garantir un niveau élevé de protection de la vie privée, de sûreté et de sécurité des mineurs sur leur service. » Par ailleurs, les grandes plateformes en ligne et très grands moteurs de recherche (VLOPSE) sont assujettis à des obligations supplémentaires de trois types. Premièrement, sur demande de la Commission européenne ou des coordinateurs nationaux, les très grandes plateformes doivent expliquer la conception, la logique, le fonctionnement et la procédure de test de leurs systèmes algorithmiques, y compris leurs systèmes de recommandation (article 40). Dans le cadre des enquêtes (article 72) et des opérations de contrôle (article 69), la Commission peut exiger des très grandes plateformes l'accès aux données et informations relatives aux systèmes algorithmiques. Deuxièmement, les très grandes plateformes doivent évaluer comment la conception de leurs systèmes de recommandation et de tout autre système algorithmique pertinent, leurs systèmes de modération des contenus et les systèmes de sélection et de présentation de la publicité impactent les risques systémiques (article 34). A ce titre, elles sont tenues de prendre des mesures d'atténuation, pouvant être des mesures d'adaptation de ces systèmes (article 35). La Commission européenne contrôle le respect de ces obligations au sein des rapports de transparence, publiés tous les six mois (article 42), et peut procéder, le cas échéant, à l'ouverture d'enquêtes. Dans le cadre du DSA, les autorités françaises peuvent signaler toute violation des dispositions de ce règlement par les fournisseurs de plateforme établis hors de France aux autorités compétentes des autres États membres et à la Commission européenne. Le risque d'atteinte à la protection des mineurs découlant de l'utilisation des services d'une très grande plateforme pourrait ainsi, le cas échéant, être signalé aux services de la Commission européenne à toutes fins utiles dans le cadre de sa mission de surveillance des très grandes plateformes. L'Autorité de régulation de la communication audiovisuelle et numérique (Arcom) siège également au sein du comité européen des services numériques et peut dès lors assister la Commission européenne dans la surveillance des très grandes plateformes en ligne (i), mais aussi contribuer aux enquêtes en cours (ii). La France reste pleinement engagée dans la lutte contre ce type de pratiques dommageables aux utilisateurs de plateformes en ligne, qui sont passibles de sanctions, renforcées dans le cadre de la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et réguler l'espace numérique. La diffusion d'un contenu publicitaire à caractère pornographique « susceptible d'être vu ou perçu par un mineur » est illicite au sens de l'article 227-24 du code pénal. La sanction des délits d'atteinte à la représentation de la personne a également été significativement renforcée par les articles 15 et 21 de la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et réguler l'espace numérique (SREN). D'une part, l'article 15 modifie l'article 226-8 du code pénal, interdisant le partage de montages d'une personne réalisés sans son consentement, afin d'inclure les contenus générés par un traitement algorithmique. D'autre part, l'article 21 crée l'article 226-8-1 dans le même code, interdisant les montages à caractère sexuel. Ces articles prévoient également que lorsque le délit est commis par l'entremise d'un service en ligne, les sanctions sont majorées. L'Arcom est le coordinateur pour les services numériques (CSN) pour la France et s'avère, à ce titre, chargée de la centralisation des injonctions à agir contre un contenu illicite émises par les autorités judiciaires et administratives françaises, sur le fondement de ce règlement, et ce afin de les transmettre à l'ensemble des CSN européens. A cet égard, le ministère de l'Intelligence artificielle et du numérique a pris l'attache de l'Arcom pour leur signaler les contenus sur lesquels vous avez attiré l'attention, manifestement en infraction avec le DSA.
- page 2169
Page mise à jour le