AMENDEMENT

Après l’article 24

Insérer un article additionnel ainsi rédigé :

Le titre III du livre III de la première partie du code de la défense est complété par un chapitre X ainsirédigé :

« Chapitre X

« Surveillance du marché et contrôle des systèmes d’intelligence artificielle à haut risque dans le domaine des infrastructures critiques

« Art. L. 1340-1. – I. – Les dispositions du présent chapitre définissent les modalités de surveillance du marché et de contrôle des systèmes d’intelligence artificielle à haut risque, au sens du 2 de l’article 6 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828, destinés à être utilisés comme composants de sécurité dans la gestion et l’exploitation d’infrastructures critiques mentionnées au 2 de l’annexe III du même règlement.

« II. – Pour l’application du présent chapitre, les infrastructures critiques mentionnées à l’article 3 dudit règlement sont celles désignées en application de la section 1 du chapitre II du présent titre dans les domaines suivants :

« 1° La gestion et l’exploitation d’infrastructures numériques ;

« 2° La gestion et l’exploitation du trafic routier ;

« 3° La gestion et l’exploitation de la fourniture d’eau ;

« 4° La gestion et l’exploitation de la fourniture de gaz ;

« 5° La gestion et l’exploitation de la fourniture de chauffage ;

« 6° La gestion et l’exploitation de la fourniture d’électricité.

« III. – Les dispositions du présent chapitre sont applicables aux fournisseurs, mandataires de fournisseur, importateurs, distributeurs et déployeurs de systèmes d’intelligence artificielle à haut risque mentionnés au présent article.

« Art. L. 1340-2. – Un décret en Conseil d’État désigne, pour chacun des domaines d’activité mentionnés à l’article L. 1340-1, l’autorité de surveillance du marché compétente pour assurer le respect des obligations issues des dispositions du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828.

« Art. L. 1340-3. – I. – Les agents de l’autorité de surveillance du marché, dûment habilités et assermentés dans des conditions définies par décret en Conseil d’État, sont compétents pour rechercher et constater les manquements aux chapitres III, aux sections 1 à 3 du chapitre IX et à l’article 86 du règlement (UE) 2024/1689 F, s’agissant des systèmes d’intelligence artificielle à haut risque mentionnés à l’article L. 1340-1.

« II. – Les agents mentionnés au I disposent des pouvoirs prévus au 4 de l’article 14 du règlement (UE) 2019/1020 du Parlement européen et du Conseil du 20 juin 2019 sur la surveillance du marché et la conformité des produits, et modifiant la directive 2004/42/CE et les règlements (CE) n° 765/2008 et (UE) n° 305/2011. Ils établissent un procès-verbal. Les procès-verbaux font foi jusqu’à preuve du contraire. Un exemplaire en est remis à l’intéressé.

« III. – Les agents de l’autorité de surveillance du marché peuvent recourir à toute personne qualifiée, pour l’accomplissement de leurs missions, dans les conditions prévues à l’article L. 512-17 du code de la consommation et dans le respect de l’article 78 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828.

« Art. L. 1340-4. – I. – Lorsque les agents habilités et assermentés dans les conditions prévus au I. de l’article L. 1340-3 constatent qu’un système d’intelligence artificielle à haut risque mentionné à l’article L. 1340-1 présente un risque au sens du 1 de l’article 79 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 ou n’est pas conforme aux exigences du même règlement, ils peuvent, après avoir mis l’opérateur en mesure de présenter ses observations dans un délai qu’ils fixent et qui ne peut pas être inférieur à dix jours ouvrables :

« 1° Enjoindre à l’opérateur concerné de prendre, dans un délai qu’elle détermine, toute mesure de nature à mettre fin au manquement constaté ;

« 2° Ordonner la suspension ou l’interdiction de la mise sur le marché, de la mise à disposition sur le marché, de la mise en service ou de l’utilisation du système d’intelligence artificielle concerné ;

« 3° Ordonner le rappel ou le retrait du système d’intelligence artificielle concerné ;

« 4° Ordonner la diffusion de mises en garde relatives au système d’intelligence artificielle concerné.

« Art. L. 1340-5. – I. – L’autorité de surveillance du marché mentionnée à l’article L. 1340-2 est compétente afin de sanctionner les manquements des opérateurs de systèmes d’intelligence artificielle à haut risque au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828.

« II. – Avant toute décision, l’autorité de surveillance du marché informe par écrit la personne mise en cause de la sanction envisagée à son encontre, en lui indiquant les motivations détaillées, la sanction envisagée et qu’elle peut se faire assister par le conseil de son choix et en l’invitant à présenter, dans un délai d’un mois, ses observations écrites et, le cas échéant, ses observations orales. Passé ce délai, elle peut, par décision motivée, prononcer l’amende.

« III. – Sont prononcées les amendes administratives mentionnées à l’article 99 du même règlement, fondées sur des constatations réalisées par les agents habilités et assermentés au sens du I. de l’article L. 1340-3.

« IV. – Sont prononcées les amendes administratives sanctionnant les manquements aux articles 21, 27, 72, 73 et 86 dudit règlement, fondées sur des constatations réalisées par les agents habilités et assermentés au sens du I de l’article L. 1340-3.

« Tout manquement aux obligations mentionnées à l’article 21 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 est passible d’une amende administrative dont le montant et ses modalités sont définis aux paragraphes 5 et 6 de l’article 99 du même règlement.

« Tout manquement aux obligations mentionnées aux articles 27, 72, 73 et 86 dudit règlement est passible d’une amende administrative dont le montant et ses modalités sont définis aux 4 et 6 de l’article 99 dudit règlement.

« V. – Le fait de ne pas déférer dans le délai imparti à une mesure prise sur le fondement de l’article L. 1340-4, est passible d’une amende administrative prononcée dans les mêmes conditions.

« Cette amende ne peut excéder le montant de l’amende encourue pour le manquement ayant justifié la mesure.

« Art. L. 1340-6. – I. – Pour l’application à Saint-Barthélemy du présent chapitre, les références au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 et au règlement (UE) 2019/1020 du Parlement européen et du Conseil du 20 juin 2019 sur la surveillance du marché et la conformité des produits, et modifiant la directive 2004/42/CE et les règlements (CE) n° 765/2008 et (UE) n° 305/2011 sont remplacées par les références aux règles applicables en métropole en vertu de ces règlements.

« II. – Pour l’application à Saint-Pierre-et-Miquelon du présent chapitre, les références au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 et au règlement (UE) 2019/1020 du Parlement européen et du Conseil du 20 juin 2019 sur la surveillance du marché et la conformité des produits, et modifiant la directive 2004/42/ CE et les règlements (CE) n° 765/2008 et (UE) n° 305/2011 sont remplacées par les références aux règles applicables en métropole en vertu de ces règlements.

« III. - Les dispositions du présent chapitre sont applicables en Polynésie française et à Wallis-et-Futuna.

« IV. – Pour l’application des dispositions du présent chapitre en Polynésie française et à Wallis-et-Futuna :

« 1° Les références au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 et au règlement (UE) 2019/1020 du Parlement européen et du Conseil du 20 juin 2019 sur la surveillance du marché et la conformité des produits, et modifiant la directive 2004/42/ CE et les règlements (CE) n° 765/2008 et (UE) n° 305/2011 sont remplacées par les références aux règles applicables en métropole en vertu de ces règlements.

« 2° Les références au tribunal judiciaire sont remplacées par les références aux juridictions compétentes en application des statuts respectifs de ces collectivités.

« Art. L. 1340-7. – Les modalités d’application du présent chapitre sont fixées par décret en Conseil d’État. »

Le présent amendement a pour objet d’assurer la mise en œuvre effective en droit interne du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (règlement sur l’IA), conformément aux exigences de transposition et d’adaptation prévues par ce texte directement applicable.

Il vise dans ce cadre à adapter le code de la défense afin de mettre en œuvre le règlement (UE) 2024/1689 sur l’intelligence artificielle pour les systèmes d’IA à haut risque utilisés comme composants de sécurité de certaines infrastructures critiques dans les domaines des infrastructures numériques, du trafic routier ou de la fourniture d’eau, de gaz, de chauffage ou d’électricité. Il prévoit la désignation pour chacun de ces domaines d’activité, de l’autorité de surveillance du marché ASM) compétente pour assurer le respect des obligations issues des dispositions du règlement (UE) 2024/1689 précité. Il prévoit également les pouvoirs nécessaires à la recherche et à la constatation par les agents de ces autorités de surveillance de marché des manquements aux dispositions du règlement relatives à ces systèmes d’IA à haut risque et la possibilité pour ces ASM de prendre les sanctions administratives et garanties procédurales associées prévues à l’article 99 du règlement.

Il adapte également les dispositions pour les territoires d’Outre-mer.