AMENDEMENT

Après l’article 24

Insérer un article additionnel ainsi rédigé :

Le titre I^er de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication est complété par des articles 20-12 et 20-13 ainsi rédigés :

« Art. 20-12. – I. – L’Autorité de régulation de la communication audiovisuelle et numérique, en tant qu’autorité compétente au sens de l’article 70 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828, contrôle le respect du chapitre II de ce même règlement pour les systèmes d’intelligence artificielle qui constituent des pratiques interdites en matière d’IA au sens des a et b du paragraphe 1 de l’article 5 dudit règlement.

« Elle contrôle le respect du chapitre IV du même règlement pour les systèmes d’intelligence artificielle qui sont soumis à des obligations de transparence en application des paragraphes 1, 2 et 4 de l’article 50 du même règlement.

« II. – Elle est consultée par la Commission nationale de l’informatique et des libertés, en tant qu’autorité compétente au sens de l’article 70 du même règlement, dans le cadre des missions de cette dernière de surveillance des systèmes d’intelligence artificielle mentionnés au point 8, b) de l’annexe III du même règlement, lorsque le système d’intelligence artificielle en cause est directement lié à la régulation d’une plateforme en ligne ou d’un service de communication audiovisuelle, au pluralisme ou à la protection du discours civique, ou des processus électoraux.

« III. – Dans le cadre de ses missions mentionnées au I, l’Autorité de régulation de la communication audiovisuelle et numérique dispose, dans les conditions prévues à l’article 78 du même règlement, des pouvoirs prévus aux paragraphes 3 et 6 de l’article 11 et au paragraphe 4 de l’article 14 du règlement (UE) 2019/1020 du Parlement européen et du Conseil du 20 juin 2019 sur la surveillance du marché et la conformité des produits, et modifiant la directive 2004/42/CE et les règlements (CE) n° 765/2008 et (UE) n° 305/2011 .

« Conformément au paragraphe 5 de l’article 74 du règlement (UE) 2024/1689, l’Autorité peut exercer les pouvoirs prévus à l’article 14, paragraphe 4, points d) et j), du règlement (UE) 2019/1020 à distance, le cas échéant.

« L’Autorité peut procéder auprès des opérateurs de système d’intelligence artificielle tel que défini au 8) de l’article 3 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 aux enquêtes nécessaires pour s’assurer du respect des obligations mentionnées au I du présent article, de manière proportionnée aux besoins liés à l’accomplissement de ses missions et sur la base d’une décision motivée de sa part.

« Ces enquêtes sont menées par des agents de l’Autorité de régulation de la communication audiovisuelle et numérique spécialement habilités à cet effet par celle-ci et assermentés dans des conditions fixées par décret en Conseil d’État.

« Ces agents peuvent :

« - obtenir des opérateurs précités la communication de tout document ou supports d’information nécessaires à l’enquête ;

« - procéder à des auditions de ces mêmes personnes, qui donnent lieu à un procès-verbal établi de façon contradictoire. Si l’intéressé refuse de signer, mention en est faite au procès-verbal. Un double du procès-verbal est transmis dans un délai de cinq jours à compter de son établissement aux personnes concernées ;

« - recueillir auprès de ces mêmes personnes les renseignements et justifications nécessaires à l’enquête.

« Dans le cadre de ces enquêtes, ils peuvent, sans être tenus pénalement responsables :

« a) Participer, sous un pseudonyme, à des échanges électroniques susceptibles de se rapporter à des infractions aux dispositions régissant les activités soumises à l’enquête ;

« b) Extraire, acquérir ou conserver des éléments de preuve aux fins de caractérisation des faits ;

« c) Procéder à la simulation automatisée de comportements du système d’intelligence artificielle, ainsi que, le cas échéant, des modèles sur lesquels il est fondé, y compris en ayant recours à des profils d’utilisateurs fictifs répondant à certains critères pertinents pour l’enquête ;

« d) Acquérir et étudier les systèmes d’intelligence artificielle mentionnés au I du présent article ainsi que des modèles, versions ou configurations de modèles sur lesquels les systèmes sont basés.

« A peine de nullité, ces actes ne peuvent avoir pour effet d’inciter autrui à commettre une infraction.

« IV. – 1° Pour la recherche et la constatation des manquements aux obligations mentionnées au I, les agents habilités et assermentés de l’Autorité de régulation de la communication audiovisuelle et numérique peuvent procéder, de 6 heures à 21 heures, à des inspections dans tout lieu, local, enceinte, installation ou établissement utilisé par un opérateur tel que défini au 8) de l’article 3 du règlement UE 2024/1689 du 13 juin 2024 afin d’examiner, de saisir, de prendre ou d’obtenir des copies d’informations, sous quelque forme et sur quelque support de stockage que ce soit.

« Le procureur de la République territorialement compétent en est préalablement informé.

« Lorsqu’il y a lieu de soupçonner que les informations relatives à un manquement à ces obligations sont conservées dans des lieux, des locaux, des enceintes, des installations ou des établissements partiellement ou entièrement affectés au domicile privé, la visite ne peut se dérouler qu’avec l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux à visiter, dans les conditions prévues au 2° du IV du présent article ;

« 2° Le responsable de ces lieux, de ces locaux, de ces enceintes, de ces installations ou de ces établissements est informé de son droit d’opposition à la visite.

« Lorsqu’il exerce ce droit, la visite ne peut se dérouler qu’avec l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux à visiter. Toutefois, lorsque l’urgence, la gravité des faits à l’origine du contrôle ou le risque de destruction ou de dissimulation de documents le justifie, la visite peut avoir lieu sur autorisation préalable du juge des libertés et de la détention sans que le responsable mentionné au 2° du IV du présent article en ait été informé. Dans ce cas, ce responsable ne peut s’opposer à la visite. La visite s’effectue sous l’autorité et le contrôle du juge des libertés et de la détention qui l’a autorisée, en présence de l’occupant des lieux ou de son représentant, qui peut se faire assister d’un conseil de son choix ou, à défaut, en présence de deux témoins qui ne sont pas placés sous l’autorité des personnes chargées de procéder au contrôle.

« L’ordonnance ayant autorisé la visite est exécutoire au seul vu de la minute. Elle mentionne que le juge ayant autorisé la visite peut être saisi à tout moment d’une demande de suspension ou d’arrêt de cette visite. Elle indique le délai et la voie de recours applicables. Elle peut faire l’objet, suivant les règles prévues par le code de procédure civile, d’un appel devant le premier président de la cour d’appel ; 

« 3° Il est dressé un procès-verbal des vérifications et des visites ; le cas échéant, la liste des documents saisis lui est annexée. Ce procès-verbal est dressé contradictoirement lorsque les vérifications et les visites sont effectuées sur place ou sur convocation.

« Les documents saisis en application du IV du présent article sont restitués sur décision du procureur de la République, d’office ou sur requête, dans un délai de six mois à compter de la visite ou, en cas d’engagement d’une procédure visant au prononcé des injonctions et des sanctions prévues au VI du présent article et à l’article 20-13, dans un délai de six mois à compter de la décision rendue par l’Autorité de régulation de la communication audiovisuelle et numérique.

« V. – Pour l’accomplissement des missions mentionnées au I du présent article, lorsque l’opérateur du système d’intelligence artificielle tel que défini au 8) de l’article 3 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 ne respecte pas les obligations mentionnées au même I, l’Autorité de régulation de la communication audiovisuelle et numérique peut :

« 1° Enjoindre à l’opérateur concerné de mettre fin à la mise sur le marché, à la mise en service ou à l’utilisation d’un système d’intelligence artificielle dans un délai déterminé ;

« 2° Enjoindre à l’opérateur concerné de prendre toute mesure corrective de nature structurelle ou comportementale proportionnée au manquement et nécessaire pour faire cesser dans un délai déterminé le manquement ;

« 3° Enjoindre à l’opérateur concerné de fournir les informations demandées par l’Autorité de régulation de la communication audiovisuelle et numérique dans le cadre d’une enquête conduite en application du III du présent article.

« Lorsque l’Autorité de la communication audiovisuelle et numérique envisage de prononcer l’une de ces mesures, elle notifie sans tarder son projet de décision à l’opérateur, qui peut déposer des observations sur ce projet dans un délai qu’elle fixe conformément à l’article 18 du règlement (UE) 2019/1020. Dans les cas où l’Autorité n’aura pas pu entendre l’opérateur avant de prendre la mesure, conformément au paragraphe 3 de l’article 18 du même règlement, l’opérateur se voit accorder cette possibilité dans les meilleurs délais après l’adoption de ladite mesure.

 « Les injonctions mentionnées aux 1° , 2° et 3° peuvent être assorties d’une astreinte, dont le montant ne peut excéder 100 000 euros par jour de retard calculé à compter de la date spécifiée dans la décision de l’Autorité de régulation de la communication audiovisuelle et numérique, notamment pour faire cesser un manquement grave et répété. Le montant de l’astreinte prend en considération les critères précisés au point 7 de l’article 99 du règlement UE 2024/1689 du 13 juin 2024.

« L’astreinte est liquidée par l’Autorité de la communication audiovisuelle et numérique, qui en fixe le montant définitif. Elle est recouvrée comme les créances de l’État étrangères à l’impôt et au domaine.

« L’Autorité de régulation de la communication audiovisuelle et numérique peut rendre publiques les injonctions qu’elle prononce.

« Un décret en Conseil d’État fixe les modalités d’application du présent article.

« Art. 20-13. – I. - Lorsque l’opérateur tel que défini au 8) de l’article 3 du règlement (UE) 2024/1689 ne se conforme pas à l’injonction qui lui est adressée en application du V de l’article 20-12, l’Autorité de régulation de la communication audiovisuelle et numérique peut prononcer à son encontre, dans les conditions prévues à l’article 42-7, une amende administrative dont le montant est porté à celui de l’amende encourue pour le manquement ayant justifié la mesure d’injonction. Ce montant ne peut excéder les plafonds prévus aux paragraphes 3, 4, 5 et 6 de l’article 99 du règlement (UE) 2024/1689 et tenant compte des éléments mentionnés au paragraphe 7 du même article.

« II. – Lorsque l’opérateur ne respecte pas les obligations mentionnées au I de l’article 20-12, l’Autorité peut également, sans avoir au préalable mis en œuvre la procédure prévue au V du même article, prononcer à son encontre, dans les conditions prévues à l’article 42-7, une amende administrative ne pouvant excéder les plafonds prévus aux paragraphes 3, 4, 5 et 6 de l’article 99 du règlement (UE) 2024/1689 et tenant compte des éléments mentionnés au paragraphe 7 du même article.

« III. - A titre complémentaire, l’Autorité de régulation de la communication audiovisuelle et numérique peut décider, sous réserve des secrets protégés par la loi, de publier, soit au Journal officiel, soit sur un service de communication au public par voie électronique édité par ses soins, soit par ces deux moyens, l’amende qu’elle a prononcée. Elle détermine dans sa décision les modalités de cette publication, qui sont proportionnées à la gravité du manquement.

« Les amendes administratives sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine. »

Le présent amendement a pour objet d’assurer la mise en œuvre effective, en droit interne, des compétences confiées à l’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) par le règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle.

Il vise à modifier la loi du 30 septembre 1986 relative à la liberté de communication afin de confier à l’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) les habilitations et les pouvoirs nécessaires pour exercer les missions de contrôle, de surveillance du marché et de sanction prévus au règlement (UE) 2024/1689 pour les champs relevant de sa compétence.

L’amendement confie en premier lieu à l’ARCOM le contrôle des pratiques d’intelligence artificielle interdites au sens de l’article 5 du règlement (UE) 2024/1689 s’agissant des pratiques mettant en œuvre des techniques subliminales, manipulatrices ou trompeuses ou exploitant les vulnérabilités des personnes physiques. Ces compétences sont exercées conjointement avec la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF).

L’amendement confie également à l’ARCOM le contrôle du respect des obligations de transparence prévues à l’article 50 du règlement (UE) 2024/1689. Pour les obligations relatives à l’information des personnes physiques lorsqu’elles interagissent avec un système d’intelligence artificielle, au marquage des contenus générés ou manipulés par IA ainsi qu’aux hypertrucages, les compétences sont exercées conjointement avec la DGCCRF. Pour les systèmes d’intelligence artificielle assurant la génération de contenus textuels informatifs sur des questions d’intérêt public, l’ARCOM est seule compétente.

Pour les systèmes d’intelligence artificielle à haut risque destinés à influencer les processus démocratiques, le présent amendement prévoit que la compétence est exercée par la Commission nationale de l’informatique et des libertés (CNIL), l’ARCOM étant consultée pour avis dans le cadre des enquêtes de la CNIL.