AMENDEMENT

Après l’article 3

Insérer un article additionnel ainsi rédigé :

Après la section 1 du chapitre I^er du titre III du livre IV du code pénal, est insérée une section ... ainsi rédigée :

« Section ...

« Des atteintes non intentionnelles à l’intégrité du débat démocratique et des scrutins commises au moyen de systèmes d’intelligence artificielle

« Art. 431-2-1. – Pour l’application de la présente section :

« 1° Les termes “système d’intelligence artificielle”, “modèle d’intelligence artificielle à usage général”, “fournisseur” et “déployeur” s’entendent au sens de l’article 3 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle ;

« 2° Sont des infractions portant atteinte à l’intégrité du débat démocratique ou d’un scrutin :

« a) Le délit prévu à l’article L. 97 du code électoral ;

« b) Le délit prévu à l’article 226-8 du présent code, lorsque le contenu concerne une personne candidate à une élection, titulaire d’un mandat électif public ou membre du Gouvernement, ou un parti ou groupement politique ;

« c) Le délit prévu à l’article 27 de la loi du 29 juillet 1881 sur la liberté de la presse, lorsque les nouvelles fausses ou pièces fabriquées portent sur une élection, un référendum ou sur les personnes ou groupements mentionnés au b.

« Art. 431-2-2. – I. – Est puni d’un an d’emprisonnement et de 45 000 euros d’amende le fait de contribuer, par imprudence, négligence ou manquement à une obligation de prudence, de sécurité ou de diligence prévue par la loi, le règlement ou le droit de l’Union européenne, à ce qu’une infraction portant atteinte à l’intégrité du débat démocratique ou d’un scrutin soit commise par un tiers au moyen d’un système d’intelligence artificielle ou d’un modèle d’intelligence artificielle à usage général, ou d’un contenu généré par eux. Ce délit est applicable au fournisseur de ce système ou de ce modèle, ainsi qu’au déployeur de ce système.

« II. – Pour l’application du I, il est tenu compte de la nature, des capacités et de la finalité du système ou du modèle, de l’étendue de sa diffusion, de l’état de la technique et de la connaissance qu’avait l’auteur de la faute de l’utilisation de ce système ou de ce modèle pour commettre une infraction mentionnée au 2° de l’article 431-2-1.

« III. – Les personnes physiques sont pénalement responsables de l’infraction mentionnée au I dans les conditions de l’article 121-3.

« IV – Les personnes morales déclarées responsables de l’infraction mentionnée au I encourent une amende dont le montant peut être porté à 3 % de leur chiffre d’affaires mondial hors taxes pour l’exercice précédant la sanction. »

Cet amendement crée un délit de contribution par négligence des fournisseurs et des déployeurs de systèmes d’intelligence artificielle aux atteintes à l’intégrité du débat démocratique et des scrutins.

Les systèmes d’IA générative permettent de produire, à coût quasi nul et à grande échelle, des hypertrucages de candidats, de fausses nouvelles et des contenus imitant des sources officielles. Le droit pénal réprime l’auteur de ces contenus (article L. 97 du code électoral, article 226-8 du code pénal, article 27 de la loi du 29 juillet 1881), mais celui-ci est souvent anonyme, établi à l’étranger ou agissant pour le compte d’une puissance étrangère. Le fournisseur de l’outil, dont la négligence a rendu l’opération possible, échappe en revanche à toute responsabilité pénale.

Le délit reprend ainsi la structure des délits non intentionnels de l’article 121-3 du code pénal : une faute, appréciée au regard des diligences normales et qui peut résulter du manquement à une obligation nationale ou européenne, et un résultat, la commission par un tiers, au moyen du système, d’une infraction limitativement énumérée, avec un lien de causalité entre ces deux éléments. Les personnes morales répondraient d’une faute simple et les personnes physiques d’une faute délibérée ou caractérisée, conformément à l’équilibre fixé par la loi du 10 juillet 2000.

La négligence, en l’occurrence, appréciée au regard du règlement européen sur l’intelligence artificielle, pourrait par exemple consister :

-dans le fait de ne pas avoir marqué les contenus synthétiques dans un format lisible par machine et détectable ;

-dans un défaut d’examen des biais possibles, des jeux de données non représentatifs ou inadaptés au contexte géographique et comportemental d’usage, ou l’absence de mesures de détection et de correction des biais ;

-dans le fait d’avoir un niveau d’exactitude, de robustesse et de cybersécurité insuffisant, une absence de résilience face à l’empoisonnement des données ou aux attaques adverses (par exemple quelqu’un qui publie des articles ou analyses comportant des fake news qui viennent de réponses de l’IA générées du fait que les données d’entraînement ont été « empoisonnées » par un État étranger comme cela s’est déjà produit).

Cette nouvelle infraction s’inscrit ainsi dans la logique de celles qui punissent la négligence d’une personne ayant d’un devoir de garde lorsqu’elle permet à un tiers de commettre une infraction : celle du dépositaire public (article 432-16 du code pénal), du dépositaire d’un secret de la défense nationale (article 413-10) ou du titulaire d’un accès à internet (article R. 335-5 du code de la propriété intellectuelle). Le fournisseur d’IA générative est ainsi le « gardien » d’une capacité qui, mal contrôlée, permet de fabriquer à grande échelle de faux contenus réalistes.

Le délit est limité aux atteintes au débat démocratique et aux scrutins, dans la mesure où le dommage y est collectif, potentiellement irréparable et éventuellement lié aux ingérences étrangères. Cette liste fermée rend en outre prévisible la faute reprochée au fournisseur.

Le dispositif respecte le droit de l’Union européenne : il renvoie aux définitions du règlement sur l’intelligence artificielle sans en reproduire le contenu, sans viser spécifiquement les services intermédiaires, mais seulement les systèmes d’IA quel que soit leur mode de fourniture. Enfin, il garantit la liberté d’expression, dans la mesure où seuls des faits constitutifs d’une infraction déjà existante sont visés.