Question de M. COURTIAL Édouard (Oise - UC) publiée le 06/03/2025
M. Édouard Courtial attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée de l'intelligence artificielle et du numérique sur le phénomène nouveau et alarmant de la diffusion en ligne de contenus pédopornographiques créés par intelligence artificielle (IA).
En effet, le 28 février 2025, Europol procédait à une arrestation de 25 individus impliqués dans la diffusion de contenus pédopornographiques générés par IA, une des premières arrestations en la matière. En échange d'une somme modique, tout internaute se voyait autoriser l'accès à un site sur lequel il pouvait voir des vidéos d'enfants abusés. Ce phénomène est, de toute évidence, très grave : en plus de diffuser des pratiques illégales, ces vidéos contribuent à la sexualisation des mineurs.
La diffusion de ce type de contenu demande une réponse urgente de l'État français car il n'existe aujourd'hui aucune législation à cet égard.
Aussi, il lui demande comment le Gouvernement compte agir pour protéger nos enfants et prévenir totalement la diffusion de contenus pédopornographiques créés par IA.
- page 955
Transmise au Ministère de la justice
Réponse du Ministère de la justice publiée le 21/08/2025
Le ministère de la Justice est particulièrement attentif au développement de l'intelligence artificielle (IA) pouvant être utilisée à des fins infractionnelles, et en particulier aux systèmes d'intelligence artificielle pouvant générer du contenu pédopornographique. L'attention du ministère de la Justice a d'ores et déjà été portée sur ce phénomène permettant à l'utilisateur d'un système d'IA de créer du contenu nouveau à travers du contenu déjà existant ou de créer ex nihilo un tel contenu. Conscients de ces enjeux, le législateur et le pouvoir exécutif ont souhaité renforcer les moyens de lutte aux niveaux national et européen sur le plan répressif et préventif. À l'heure actuelle, le droit pénal français et la jurisprudence afférente appréhendent déjà de manière très large la notion de « matériel pédopornographique », dès lors qu'il constitue l'image ou la représentation, présentant un caractère pornographique d'un mineur, conformément à l'article 227-23 du code pénal. Au regard du vaste champ application de cet article 227-23 du code pénal ne faisant pas référence à un moyen précis de commission, il en ressort que la diffusion, la fixation, l'enregistrement ou la transmission d'une image ou de la représentation d'un mineur lorsque cette image ou cette représentation présente un caractère pornographique, mais également le fait de détenir, d'offrir, de rendre disponible et d'importer/exporter de telles images ou représentation pédopornographiques issues de systèmes d'IA peuvent d'ores et déjà être poursuivis et jugés en France au titre de cet article. Il incrimine également l'accès volontaire à de tels contenus, et plus particulièrement le fait de consulter habituellement ou en contrepartie d'un paiement un service de communication au public en ligne mettant à disposition une telle image ou représentation. En outre, et conformément au troisième alinéa de ce même article, la diffusion de l'image ou de la représentation du mineur à destination d'un public non déterminé est réprimée plus sévèrement lorsqu'un réseau de communications électroniques a été utilisé à cette fin. Ces images ou vidéos sont parfois utilisées dans le cadre du phénomène de « sextorsion » consistant en une extorsion ayant pour support le chantage lié à la diffusion de tels contenus, souvent auprès de mineurs, ou de « grooming » consistant dans le fait de se lier d'amitié avec un mineur pour obtenir des images sexualisées de sa part. Ces pratiques, qu'elles soient commises ou non à l'aide de l'IA, peuvent d'ores et déjà être poursuivies et jugées en France, eu égard à la législation existante, via les infractions d'extorsion, de chantage, mais également de corruption de mineurs. La loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique (loi « SREN ») a notamment instauré une circonstance aggravante au délit de chantage, réprimé par l'article 312-10 du code pénal, lorsqu'il est exercé par un service de communication au public en ligne, au moyen d'images ou de vidéos à caractère sexuel, ou en vue d'obtenir des images ou des vidéos à caractère sexuel. En outre, la loi SREN a également introduit l'article 226-8-1 du code pénal portant création d'un nouveau délit de publication d'un montage présentant un caractère sexuel sans le consentement de la personne. Cet article punit de deux ans d'emprisonnement et de 60 000 euros d'amende le fait de porter à la connaissance du public ou d'un tiers, sans son consentement, un montage ou un contenu visuel ou sonore généré par un traitement algorithmique à caractère sexuel réalisé avec les paroles ou l'image d'une personne. Selon la même logique que celle retenue à l'article 227-23 du code pénal, les peines sont portées à trois ans d'emprisonnement et à 75 000 euros d'amende lorsque la publication du montage ou du contenu généré par ce traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne. Ce nouvel article permet ainsi de couvrir la création d'hypertrucages (ou « deepfakes ») à caractère sexuel, dont ceux pouvant être créés et diffusés à l'encontre des mineurs dans un contexte pédopornographique, et d'englober plus largement tout montage d'une telle nature crées via l'utilisation de l'IA. La lutte contre la diffusion de tels contenus générés par l'IA passe également par l'action régulatrice des plateformes en ligne : à ce titre, le règlement européen sur les services numériques ("Digital Services Act"- DSA) du 19 octobre 2022, et dont les dispositions sont pleinement applicables depuis le 17 février 2024, a ainsi introduit un cadre juridique à l'échelle de l'Union européenne visant à réguler les services numériques et à mieux protéger les droits des internautes européens. Le règlement DSA fixe donc un ensemble de règles imposant aux plateformes en ligne, y compris les réseaux sociaux, de mettre en place des outils permettant de lutter contre la présence et la diffusion de contenus illicites, dont les contenus pédopornographiques. Ces plateformes doivent ainsi permettre aux internautes de signaler facilement des contenus illicites, afin de réduire les délais de traitement et d'améliorer l'efficacité des signalements. Le règlement DSA a notamment instauré le statut de « signaleur de confiance », contribuant ainsi à accélérer le traitement des signalements. Les associations, entités ou organisations reconnues pour leur expertise et leurs compétences dans la lutte contre la diffusion de contenus pédopornographiques notamment, peuvent postuler au statut de "signaleur de confiance" auprès de l'Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) qui constitue le coordinateur des services numériques (CSN) pour la France. Au 4 avril 2025, 5 signaleurs de confiance ont été désignés par l'ARCOM, dont l'association « e-Enfance » permettant de signaler et de faire supprimer en quelques heures tous contenus préjudiciables rencontrés sur Internet ou sur les réseaux sociaux. Afin de cibler plus efficacement la fourniture de tels contenus pédopornographiques, la loi SREN a également modifié l'article 323-3-2 du code pénal incriminant désormais le fait, pour un fournisseur de services de plateforme en ligne (tel que visé dans la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique), de permettre sciemment la cession de produits, de contenus ou de services dont la cession, l'offre, l'acquisition ou la détention sont manifestement illicites, lorsque cette plateforme restreint son accès aux personnes utilisant des techniques d'anonymisation des connexions (exemple : recours à un dispositif d'anonymisation d'adresses IP tel qu'un VPN), ou contrevient aux obligations que la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique leur impose. Ce délit d'administration de plateforme illicite permet en outre de disposer d'une réponse pénale particulièrement utile pour lutter à grande échelle contre les places de marché de contenus pédopornographiques, notamment celles mettant à disposition de tels contenus générés par l'IA, et en alourdissant les peines lorsque ces infractions ont été commises en bande organisée. La combinaison de ces outils de prévention et de répression doit ainsi contribuer à une lutte plus efficace contre la diffusion en ligne de contenus pédopornographiques, quelles que soient la façon dont ils ont été créés.
- page 4614
Page mise à jour le