M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. J’avais émis au nom de la commission un avis défavorable sur l’amendement n° 15 rectifié. Par conséquent, l’avis est également défavorable sur celui-ci.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Dans la même logique, comme j’avais émis un avis favorable sur l’amendement n° 15 rectifié, l’avis du Gouvernement sur celui-ci est également favorable.
M. le président. L’amendement n° 13 rectifié, présenté par Mme Conway-Mouret, MM. Chantrel, Chaillou, Temal, Bourgi et Coriton, Mme de La Gontrie, M. Kerrouche, Mme Linkenheld, M. Marthey, Mme Narassiguin, M. Roiron, Mme Carlotti, MM. Darras, Éblé, P. Joly, Rebsamen, M. Vallet, Vayssouze-Faure et les membres du groupe Socialiste, Écologiste et Républicain, est ainsi libellé :
Après l’alinéa 15
Insérer un paragraphe ainsi rédigé :
…. – Au premier alinéa du I de l’article 15 de la loi n° 2013-659 du 22 juillet 2013 relative à la représentation des Français établis hors de France, après les mots : « les articles », est insérée la référence : « L. 48-3, ».
La parole est à Mme Hélène Conway-Mouret.
Mme Hélène Conway-Mouret. Au travers de cet amendement, je souhaite appeler l’attention de notre assemblée sur les élections des conseillers des Français de l’étranger.
Le référé « anti-manipulation de l’information » leur est certes applicable par le jeu du renvoi prévu par la loi du 22 juillet 2013 relative à la représentation des Français établis hors de France, que je connais bien.
Pourtant, alors même que l’article 2 du présent projet de loi étend ce référé « à l’ensemble des élections politiques », les élections consulaires sont les seules à ne pas être listées dans l’exposé des motifs. Force est de constater que leur rôle n’est toujours pas reconnu à sa juste valeur.
Ces élections ne sont ni secondaires ni accessoires. La France a la particularité de permettre à ses compatriotes établis à l’étranger d’élire pour six ans leurs propres élus de proximité.
Comme tous les autres élus locaux, ces derniers sont au contact direct de leurs concitoyens dans leur circonscription. Ils sont aussi les grands électeurs des douze sénatrices et sénateurs représentant les Français établis hors de France.
Ce scrutin mérite donc toute notre attention et la même exigence dans la protection de sa sincérité, d’autant que les Français de l’étranger sont tout autant, voire plus encore exposés aux manipulations de l’information.
En effet, leur accès à l’actualité française et leur participation démocratique reposent largement sur des plateformes numériques. Pour preuve, lors des dernières élections consulaires, plus de 85 % des votants ont choisi le vote par internet.
Il me paraît donc essentiel de reconnaître explicitement l’importance de ces élections et de réaffirmer la nécessité de les protéger contre la diffusion de fausses informations.
Vous l’aurez compris, cet amendement d’appel vise à pallier l’oubli de nos compatriotes qui ne vivent pas sur le territoire français et qui, pourtant, vivent pleinement leur citoyenneté par le vote.
M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. Loin de la commission l’idée d’oublier l’élection des conseillers de l’Assemblée des Français de l’étranger !
Le fait est, toutefois, que les règles de propagande électorale ne s’appliquent pas à ces scrutins. En conséquence, je sollicite l’avis du Gouvernement sur cet amendement.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Cet amendement vise à inclure les élections des conseillers des Français de l’étranger et des membres de l’Assemblée des Français de l’étranger dans le champ du référé « anti-manipulation de l’information ».
Le dispositif qui fait l’objet de l’article 2 est d’ores et déjà applicable aux élections des conseillers des Français de l’étranger au moyen du renvoi prévu au II de l’article 15 de la loi du 22 juillet 2013.
Cependant, la rédaction que vous proposez, madame la sénatrice, permet de rendre le dispositif également applicable aux élections des membres de l’Assemblée des Français de l’étranger.
Le Gouvernement émet par conséquent un avis favorable sur cet amendement.
M. le président. Quel est donc l’avis de la commission ?
Mme Muriel Jourda, rapporteur. Favorable, monsieur le président !
M. le président. La parole est à Mme Olivia Richard, pour explication de vote.
Mme Olivia Richard. Je remercie M. le ministre de cet avis favorable, ainsi que notre collègue Hélène Conway-Mouret d’avoir pris ainsi l’initiative d’inclure les Français de l’étranger dans ce texte important.
Je m’interroge simplement sur l’effectivité de la lutte contre les ingérences étrangères lorsque les élections sont organisées dans le monde entier.
Les Français établis à l’étranger y sont parfois nés et y ont construit leur vie. Ils baignent dans une culture étrangère. Je ne comprends pas très bien comment le dispositif peut fonctionner.
Il convient ensuite de bien distinguer les conseillers des Français de l’étranger, les délégués consulaires et les conseillers élus à l’Assemblée des Français de l’étranger. Nous avons de nombreux élus différents !
M. le président. Je mets aux voix l’article 2, modifié.
(L’article 2 est adopté.)
Article 3
I. – À l’article L. 97 du code électoral, les mots : « d’un an » sont remplacés par les mots : « de trois ans » et, à la fin, le montant : « 15 000 euros » est remplacé par le montant : « 45 000 euros ».
II et III. – (Supprimés)
M. le président. L’amendement n° 5 rectifié, présenté par M. Daubet, Mmes Briante Guillemont, M. Carrère et N. Delattre, M. Fialaire, Mme Gasto Oustric, M. Gold, Mme Lermytte, M. Masset, Mme Pantel et MM. Roux, Théophile et Wattebled, est ainsi libellé :
Après l’alinéa 1
Insérer un paragraphe ainsi rédigé :
…. - L’article L. 97 du code électoral est complété par deux alinéas ainsi rédigés :
« Lorsque l’infraction est commise dans les conditions prévues à l’article 411-12 du code pénal, les personnes physiques coupables encourent également la peine complémentaire de confiscation de tout ou partie de leurs biens ou, sous réserve des droits du propriétaire de bonne foi, des biens dont elles ont la libre disposition, quelle qu’en soit la nature, meubles ou immeubles, divis ou indivis.
« Les personnes morales déclarées responsables pénalement, dans les conditions prévues à l’article 121-2 du code pénal, de l’infraction prévue au premier alinéa du présent article encourent, outre l’amende suivant les modalités prévues à l’article 131-38 du même code, les peines prévues aux 1°, 2°, 8° et 9° de l’article 131-39 dudit code ainsi que, lorsque l’infraction est commise dans les conditions prévues à l’article 411-12 dudit code, la confiscation de tout ou partie de leurs biens ou, sous réserve des droits du propriétaire de bonne foi, des biens dont elles ont la libre disposition, quelle qu’en soit la nature, meubles ou immeubles, divis ou indivis. »
La parole est à Mme Sophie Briante Guillemont.
Mme Sophie Briante Guillemont. Une fabrique de faux comptes est une entreprise : elle a des salariés, des serveurs, des clients.
Les campagnes d’ingérence s’appuient sur ces structures, sur des sociétés écrans et sur des prestataires rémunérés. Le moyen le plus sûr de mettre un terme à leur activité est de les priver de leurs ressources.
Le texte porte à six ans d’emprisonnement la peine encourue pour des manœuvres électorales commises pour le compte d’une puissance étrangère, mais il ne permet ni de confisquer le patrimoine de leurs auteurs ni de dissoudre les sociétés qui leur servent de paravent.
Cet amendement vise à combler ce manque, étant entendu que les partis politiques restent, eux, exclus de toute dissolution.
Certains jugeront la confiscation de patrimoine excessive pour ce délit. Notre droit la prévoit pourtant déjà pour le blanchiment, par ailleurs puni de cinq ans d’emprisonnement. Fausser un scrutin pour le compte d’un État étranger n’est pas moins grave.
Si le droit actuel permet déjà de dissoudre les sociétés écrans, je demande au ministre de le confirmer clairement.
M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. Le droit pénal en vigueur permet déjà la confiscation des biens ayant servi à commettre l’infraction, ainsi que de son produit direct et indirect.
Le présent amendement vise à étendre le champ de cette confiscation à l’ensemble du patrimoine. La question de la proportionnalité d’une telle peine se pose. Je ne dis pas que les faits en question soient anodins, et je reconnais que de telles peines peuvent être prononcées pour sanctionner le trafic de stupéfiants ou le blanchiment.
Néanmoins, la commission a décidé de trancher la question en défaveur de cet amendement, d’autant que les autres peines complémentaires proposées ne seraient pas réservées aux situations où le but de servir des intérêts étrangers est avéré ; elles paraissent de ce fait assez sévères, puisque nous nous écarterions de l’infraction initialement visée.
Pour l’ensemble de ces raisons, l’avis est défavorable.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Avis défavorable, pour les mêmes motifs : nous avons un sérieux doute sur la proportionnalité de la mesure proposée.
M. le président. L’amendement n° 17 rectifié, présenté par M. Lafon, Mme S. Robert et M. Levi, est ainsi libellé :
Après l’article 3
Insérer un article additionnel ainsi rédigé :
L’article 323-2 du code pénal est ainsi modifié :
1° Le premier alinéa est ainsi modifié :
a) Après le mot : « fait », sont insérés les mots : « , pour toute personne, » ;
b) Après le mot : « données », sont insérés les mots : « , y compris lorsqu’elle dispose du droit d’administration ou d’accès à un tel système, » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Cette infraction est notamment constituée par le fait de porter atteinte aux contenus d’un tel système de traitement automatisé ou à ses mécanismes de classement, de hiérarchisation et de présentation de ces contenus, de sorte que le système de traitement automatisé produit des résultats différents de ceux qui résulteraient de l’application des règles qui s’imposent à lui ainsi que des règles de fonctionnement du système communiquées à l’utilisateur. »
La parole est à M. Laurent Lafon.
M. Laurent Lafon. L’intégrité des systèmes de traitement des données est cruciale en période électorale.
Il est alors particulièrement important que ce traitement soit protégé de toute falsification, de manière à éviter, par exemple, qu’un réseau social, au moyen d’une manipulation algorithmique orchestrée par son propriétaire, ne vienne semer le trouble dans la campagne, voire conforter un candidat ou en dénigrer un autre.
Pour lutter contre ce phénomène, des recours ont été intentés sur le fondement de l’article 323-2 du code pénal. Or ce dernier n’a pas été rédigé dans cet esprit.
Au travers de cet amendement, que Sylvie Robert et Pierre-Antoine Levi ont signé avec moi, nous demandons que ce dispositif soit conforté et qu’il soit clairement indiqué que, même lorsque l’auteur de ces délits est l’administrateur du système, la modification de l’algorithme ne peut pas être opérée.
M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. En ce qui concerne l’identité de l’auteur de la manipulation, la jurisprudence de la Cour de cassation ne pose pas de difficulté particulière.
Il en va différemment de l’extension proposée de la définition de la falsification d’un système de traitement automatisé de données.
Votre proposition en la matière nous laisse un peu sur notre faim et mériterait peut-être une expertise complémentaire. Que se passerait-il, par exemple, dans le cas d’ajustements apportés à l’algorithme d’un moteur de recherche en ligne ? Je ne suis pas certaine que ces algorithmes soient communiqués aux utilisateurs. Or leur modification unilatérale pourrait tomber sous le coup de cette infraction.
Il conviendrait de préciser cette partie du dispositif pour lui conférer le sens que vous souhaitez, sauf à méconnaître, me semble-t-il, l’exigence constitutionnelle de légalité des délits et des peines.
Pour l’ensemble de ces raisons, l’avis est défavorable.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Cet amendement tend à modifier le délit d’entrave au fonctionnement d’un système de traitement automatisé de données, de manière à préciser qu’il est également applicable à l’administrateur d’un tel système et que la falsification peut porter tant sur le fonctionnement du traitement que sur le contenu.
Cette disposition ne présente peut-être pas un lien suffisant avec le projet de loi, mais il me semble surtout qu’il est satisfait par le droit positif, puisque les juridictions pénales appliquent déjà aux administrateurs le délit d’atteinte à un système de traitement automatisé de données.
Par ailleurs, la formulation proposée ne permet pas de résoudre les difficultés d’application de cette infraction aux manipulations d’algorithmes.
Je demande par conséquent le retrait de cet amendement ; à défaut, l’avis du Gouvernement sera défavorable.
M. le président. La parole est à Mme Catherine Morin-Desailly, pour explication de vote.
Mme Catherine Morin-Desailly. Je crois comprendre que notre collègue Laurent Lafon souhaite tout simplement introduire dans ce texte une disposition permettant d’exiger des grandes plateformes numériques qu’elles ne modifient pas leurs algorithmes en période électorale.
Il me semble que la commission des affaires européennes, dont j’étais la rapporteure à cette occasion, avait formulé la même proposition lors de ses travaux sur le bouclier démocratique européen. Nous n’en avons pas parlé, monsieur le ministre, et je le regrette, car le texte proposé aujourd’hui s’inscrit tout de même dans cette stratégie plus globale.
Cette proposition relève-t-elle du droit français ou du droit européen ? Je n’ai aucune certitude à cet égard. Sans doute faudrait-il une notification à Bruxelles. Cependant, l’intention de notre collègue Laurent Lafon est à mon sens excellente et mérite de prospérer, quitte à être précisée, affinée, voire amendée au cours de la navette. Je soutiendrai cet amendement.
M. le président. En conséquence, un article additionnel ainsi rédigé est inséré dans le projet de loi, après l’article 3.
L’amendement n° 18 rectifié, présenté par M. Lafon, Mme S. Robert et M. Levi, est ainsi libellé :
Après l’article 3
Insérer un article additionnel ainsi rédigé :
Après la section 1 du chapitre Ier du titre III du livre IV du code pénal, est insérée une section … ainsi rédigée :
« Section …
« Des atteintes non intentionnelles à l’intégrité du débat démocratique et des scrutins commises au moyen de systèmes d’intelligence artificielle
« Art. 431-2-1. – Pour l’application de la présente section :
« 1° Les termes “système d’intelligence artificielle”, “modèle d’intelligence artificielle à usage général”, “fournisseur” et “déployeur” s’entendent au sens de l’article 3 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle ;
« 2° Sont des infractions portant atteinte à l’intégrité du débat démocratique ou d’un scrutin :
« a) Le délit prévu à l’article L. 97 du code électoral ;
« b) Le délit prévu à l’article 226-8 du présent code, lorsque le contenu concerne une personne candidate à une élection, titulaire d’un mandat électif public ou membre du Gouvernement, ou un parti ou groupement politique ;
« c) Le délit prévu à l’article 27 de la loi du 29 juillet 1881 sur la liberté de la presse, lorsque les nouvelles fausses ou pièces fabriquées portent sur une élection, un référendum ou sur les personnes ou groupements mentionnés au b.
« Art. 431-2-2. – I. – Est puni d’un an d’emprisonnement et de 45 000 euros d’amende le fait de contribuer, par imprudence, négligence ou manquement à une obligation de prudence, de sécurité ou de diligence prévue par la loi, le règlement ou le droit de l’Union européenne, à ce qu’une infraction portant atteinte à l’intégrité du débat démocratique ou d’un scrutin soit commise par un tiers au moyen d’un système d’intelligence artificielle ou d’un modèle d’intelligence artificielle à usage général, ou d’un contenu généré par eux. Ce délit est applicable au fournisseur de ce système ou de ce modèle, ainsi qu’au déployeur de ce système.
« II. – Pour l’application du I, il est tenu compte de la nature, des capacités et de la finalité du système ou du modèle, de l’étendue de sa diffusion, de l’état de la technique et de la connaissance qu’avait l’auteur de la faute de l’utilisation de ce système ou de ce modèle pour commettre une infraction mentionnée au 2° de l’article 431-2-1.
« III. – Les personnes physiques sont pénalement responsables de l’infraction mentionnée au I dans les conditions de l’article 121-3.
« IV. – Les personnes morales déclarées responsables de l’infraction mentionnée au I encourent une amende dont le montant peut être porté à 3 % de leur chiffre d’affaires mondial hors taxes pour l’exercice précédant la sanction. »
La parole est à M. Laurent Lafon.
M. Laurent Lafon. Cet amendement vise à créer un délit de contribution par négligence des fournisseurs et des déployeurs de systèmes d’intelligence artificielle (IA) aux atteintes à l’intégrité du débat démocratique et des scrutins.
Les systèmes d’IA générative permettent de produire, pour un coût quasi nul et à grande échelle, des hypertrucages de candidats, de fausses nouvelles et des contenus imitant des sources officielles. Le droit pénal réprime l’auteur de ces contenus, mais il est fréquent que celui-ci soit anonyme ou établi à l’étranger, et qu’il agisse pour le compte d’une puissance étrangère. Le fournisseur de l’outil, dont la négligence a rendu l’opération possible, échappe en revanche à toute responsabilité pénale.
Nous proposons de reprendre pour ce délit la structure des délits non intentionnels qui font l’objet de l’article 121-3 du code pénal. Il serait caractérisé, d’une part, par une faute, appréciée au regard des diligences normales et qui peut résulter du manquement à une obligation nationale ou européenne, et, d’autre part, par un résultat, à savoir la commission par un tiers, au moyen du système, d’infractions limitativement énumérées. Les personnes morales répondraient ainsi d’une faute simple et les personnes physiques d’une faute délibérée ou caractérisée.
Le champ du délit est limité aux atteintes au débat démocratique et aux scrutins, dans la mesure où le dommage y est collectif, potentiellement irréparable et éventuellement lié aux ingérences étrangères.
Je précise que le dispositif de cet amendement, que Sylvie Robert et Pierre-Antoine Levi ont signé avec moi, respecte parfaitement le droit de l’Union européenne.
M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. Cet amendement tend à créer un délit non intentionnel. Or vous savez que le Sénat n’est pas très friand des délits non intentionnels, qui sont d’un maniement assez difficile.
M. Thomas Dossus. Ah, quelle surprise !
Mme Muriel Jourda, rapporteur. La question me semble assez complexe. Je me demande tout de même s’il ne serait pas plus raisonnable de mener une réflexion d’ensemble sur l’adaptation du droit français au règlement européen sur l’intelligence artificielle, plutôt que de découper le sujet en morceaux, surtout de cette façon, avec ce délit non intentionnel.
L’avis de la commission est par conséquent défavorable.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Il est également défavorable. La définition proposée de l’infraction est rédigée dans des termes trop larges et imprécis pour répondre aux exigences constitutionnelles de légalité des peines et de responsabilité personnelle.
M. le président. La parole est à M. Pierre-Antoine Levi, pour explication de vote.
M. Pierre-Antoine Levi. L’intelligence artificielle générative permet aujourd’hui de fabriquer en quelques secondes et pour quelques euros un faux candidat, une fausse déclaration, une fausse vidéo. Les auteurs de ces contenus sont souvent anonymes ou étrangers, parfois soutenus par un État. Ils échappent à toute poursuite.
En revanche, l’outil a un concepteur et un exploitant. Nous proposons que ceux-ci répondent de leur négligence lorsque, par imprudence ou manquement à une obligation de prudence, leur système contribue à une atteinte au débat démocratique. Le périmètre est volontairement limité à trois infractions déjà existantes, à savoir les fausses informations électorales, l’usurpation d’identité et la diffusion de fausses nouvelles.
Il s’agit non pas de créer un délit d’opinion, mais de rappeler que celui qui met sur le marché un outil d’une telle puissance doit prendre des précautions : marquer des contenus synthétiques et se prémunir contre l’empoisonnement des données.
Ce dispositif, comme Laurent Lafon l’a rappelé, respecte le droit européen, notamment le règlement sur l’intelligence artificielle, auquel il renvoie. Il s’inscrit dans la logique de nos délits non intentionnels, c’est-à-dire que la faute doit être établie au sens de l’article 121-3 du code pénal. Quand la démocratie est en jeu, personne ne devrait pouvoir dire : « Ce n’est pas moi, c’est l’outil ! »
M. le président. Monsieur le ministre, mes chers collègues, il est bientôt vingt heures et il nous reste une dizaine d’amendements à examiner. Aussi, je vous propose que nous poursuivions nos travaux pour terminer l’examen de ce texte avant la suspension du soir.
Il n’y a pas d’opposition ?…
Il en est ainsi décidé.
Article 4 (nouveau)
Le code pénal est ainsi modifié :
1° Au premier alinéa de l’article 411-12, après les mots : « livre III », sont insérés les mots : « , aux titres III et IV du présent livre, aux articles 24 et 24 bis, aux deuxième et troisième alinéas de l’article 32 et aux troisième à cinquième alinéas de l’article 33 de la loi du 29 juillet 1881 sur la liberté de la presse, à l’article L. 97 du code électoral, à l’article L. 442-9 du code de commerce ou aux articles L. 465-3-2 et L. 465-3-3 du code monétaire et financier » ;
2° Après le mot : « loi », la fin de l’article 711-1 est ainsi rédigée : « n° … du … relative à la lutte contre les ingérences étrangères dans la vie démocratique, en Nouvelle-Calédonie, en Polynésie française et dans les îles Wallis et Futuna ».
M. le président. L’amendement n° 9 rectifié, présenté par Mmes Briante Guillemont et M. Carrère, M. Daubet, Mme N. Delattre, M. Fialaire, Mme Gasto Oustric, M. Gold, Mme Lermytte, M. Masset, Mme Pantel et MM. Roux, Théophile et Wattebled, est ainsi libellé :
Alinéa 2
1° Après les mots :
présent livre
insérer les mots :
, aux articles 226-4-1 et 226-8 du présent code
2° Après les mots :
code de commerce
insérer les mots :
, aux articles L. 716-9 et L. 716-10 du code de la propriété intellectuelle
La parole est à Mme Sophie Briante Guillemont.
Mme Sophie Briante Guillemont. En juin 2023, Viginum a révélé la campagne dite Doppelgänger. Souvenez-vous : ses auteurs avaient copié les sites des journaux Le Monde, Le Figaro, Le Parisien et 20 Minutes pour y publier de faux articles. Ils avaient même reproduit le site du ministère de l’Europe et des affaires étrangères.
Dorénavant, les opérations de ce type utilisent aussi des vidéos fabriquées par l’intelligence artificielle, qui font tenir à des responsables publics des propos qu’ils n’ont jamais prononcés.
Cet amendement vise à punir plus sévèrement ces procédés lorsqu’ils servent une puissance étrangère. Il concerne l’usurpation d’identité en ligne, les contenus truqués et les contrefaçons de marque.
M. le président. Quel est l’avis de la commission ?
Mme Muriel Jourda, rapporteur. Nous comprenons bien votre intention, ma chère collègue, mais les deux infractions du code pénal visées sont déjà couvertes par cette circonstance aggravante. Il est donc inutile de le préciser dans ce texte.
Quant aux délits de contrefaçon de marque, qui sont sensiblement différents, ils répriment la production et la commercialisation de marchandises contrefaites et supposent que l’usage s’inscrive dans une activité économique ou poursuive une finalité commerciale. Je ne suis pas sûre que cette incrimination soit très adaptée au but visé, c’est-à-dire les campagnes de désinformation, dont la finalité n’est pas commerciale.
Je demande donc le retrait de l’amendement ; à défaut, l’avis de la commission sera défavorable.
M. le président. Quel est l’avis du Gouvernement ?
M. Laurent Nunez, ministre. Comme Mme la rapporteure, je considère que les deux premières infractions sont déjà couvertes et que la troisième ne correspond pas vraiment à l’objectif visé. Considérant que l’amendement est pour partie satisfait, j’en demande le retrait, faute de quoi l’avis du Gouvernement sera défavorable.