AMENDEMENT

Après l’article 1^er

Insérer un article additionnel ainsi rédigé :

Après l’article 6-1-1 A de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, il est inséré un article 6-1-1... ainsi rédigé :

« Art. 6-1-1.... - Chaque année, les personnes définies au I de l’article 6 remettent à l’Autorité de régulation de la communication audiovisuelle et numérique un rapport faisant obligatoirement mention de leurs engagements en matière de responsabilité, d’autonomie des utilisateurs et de transparence, dans les domaines suivants :

« I. - Responsabilité

« Afin de garantir que les risques connus et anticipés ont été évalués lors de la conception et de la fourniture d’une plateforme ou d’un service en ligne, il est fait obligation aux personnes définies au I de l’article 6 de : communiquer la liste des personnes ou équipes désignées comme responsables de la création, de l’évaluation, de la mise en œuvre et du fonctionnement de la politique de sécurité des utilisateurs ; communiquer les règles communautaires, les conditions d’utilisation et les procédures de modération appliquées ; mettre en place une infrastructure qui prenne en charge le triage interne et externe, des voies d’escalade claires et le signalement de tous les problèmes de sécurité des utilisateurs, ainsi que des mécanismes facilement accessibles permettant aux utilisateurs de signaler les problèmes et les violations dès qu’ils se produisent ; définir des protocoles internes pour interagir avec les forces de l’ordre, les services de soutien et les lignes d’assistance téléphonique concernant les contenus illégaux ; définir des procédures permettant de détecter, de faire remonter, de signaler et de supprimer les comportements, les contacts et les contenus illégaux et nuisibles, dans le but de prévenir les préjudices avant qu’ils ne surviennent ; élaborer des évaluations documentées de gestion des risques et d’impact afin de corriger tout préjudice potentiel en ligne qui pourrait être permis ou facilité par le produit ou le service.

« II. - Autonomie des utilisateurs

« Afin de garantir que les fonctionnalités confèrent aux utilisateurs un niveau d’autonomie et de responsabilisation favorisant des interactions en ligne sécurisées, il est fait obligation aux personnes définies au I de l’article 6 de : garantir des mesures et des outils techniques permettant aux utilisateurs de gérer adéquatement leur propre sécurité, et configurés par défaut aux niveaux de confidentialité et de sécurité les plus élevés ; établir des protocoles en cas de violation des règles de sécurité ; assurer la disponibilité des fonctions de support intégrées et des boucles de rétroaction pour les utilisateurs, les informant de l’état de leurs rapports, des mesures prises et leur offrant une possibilité de recours ; présenter les process de conception et de fonctionnement visant à limiter les facteurs de risque pour tous les utilisateurs avant la mise à disposition des produits ou des fonctionnalités au public.

« III. - Transparence et responsabilité

« Pour renforcer la confiance des utilisateurs, leur sensibilisation et leur compréhension de l’importance de la sécurité des utilisateurs, il est fait obligation aux personnes définies au I de l’article 6 de : démontrer que les politiques de sécurité des utilisateurs, les conditions générales d’utilisation, les règles de la communauté et les procédures relatives à la sécurité des utilisateurs sont accessibles, faciles à trouver, régulièrement mises à jour et faciles à comprendre, les utilisateurs devant être régulièrement informés de ces politiques et des changements ou mises à jour doivent leur être communiqués de manière proactive par le biais de communications ciblées au sein du service ; mener un dialogue ouvert avec un large éventail d’utilisateurs, y compris des experts et des acteurs clés, sur le développement, l’interprétation et l’application des normes de sécurité et leur efficacité ou leur pertinence et de rendre publics ces échanges ; publier une évaluation annuelle des abus signalés sur le service, ainsi que la publication ouverte d’une analyse significative de paramètres tels que les données et les signalements d’abus, l’efficacité des efforts de modération et la mesure dans laquelle les directives communautaires et les conditions d’utilisation sont respectées grâce à des indicateurs d’application.

« En cas de manquement à cette obligation, lorsqu’elle constate que les personnes définies au I de l’article 6 n’ont pas mis en œuvre les dispositions prévues à cet article, l’Autorité de régulation de la communication audiovisuelle et numérique adresse à ce fournisseur une mise en demeure de prendre toutes les mesures requises pour satisfaire aux obligations prévues au IV de l’article 6. Le fournisseur dispose d’un délai de quinze jours à compter de la mise en demeure pour présenter ses observations.

« À l’expiration de ce délai, en cas d’inexécution de la mise en demeure, le président de l’Autorité de régulation de la communication audiovisuelle et numérique peut saisir le président du tribunal judiciaire de Paris aux fins d’ordonner au fournisseur de mettre en œuvre une solution technique conforme.

« Le fait pour un fournisseur de services de réseaux sociaux en ligne de ne pas satisfaire aux obligations prévues au même I est puni d’une amende ne pouvant excéder 3 % de son chiffre d’affaires mondial pour l’exercice précédent. »

Le présent amendement, relatif à la lutte contre la diffusion de contenus dangereux pour les mineurs, vise à exiger des acteurs du numérique le respect des principes minimaux de Safety by Design afin de promouvoir la protection des personnes, en particulier des enfants, contre les préjudices en ligne.

Safety by Design est une approche du développement de produits et de services dans laquelle la sécurité est une caractéristique centrale, un centre d’intérêt et un domaine de préoccupation dès le départ, plutôt qu’une réflexion a posteriori ou un ajout après le lancement d’un produit ou d’un service.

Les organisations technologiques à but non lucratif Thorn et All Tech is Human ont collaboré avec onze développeurs d’IAG pour s’engager publiquement à respecter les principes de Safety by Design afin de « lutter contre la création et la diffusion de matériel d’abus sexuel d’enfants généré par l’IA [...] et d’autres préjudices sexuels à l’encontre d’enfants. »

Pour les plateformes qui n’ont pas été développées avec les principes de Safety by Design, la « sécurité par la refonte » est possible grâce à une évaluation réfléchie des risques et à l’élaboration et la mise en œuvre de mesures d’atténuation visant à améliorer la sécurité pour les utilisateurs et les non-utilisateurs.

 Ces principes définissent des mesures réalistes, concrètes et réalisables que les fournisseurs de toutes tailles et de tous niveaux de maturité peuvent utiliser pour protéger les utilisateurs contre les risques et les préjudices en ligne. Ils reposent sur une approche centrée sur l’humain qui place la sécurité et les droits des utilisateurs au cœur de ses préoccupations, tout en tenant compte de leurs besoins et de leurs attentes. Ces principes érigent la sécurité des utilisateurs en troisième pilier du processus de développement de toutes les technologies numériques et en ligne, au même titre que la protection de la vie privée et la sécurité.

Les plateformes et des prestataires de services doivent démontrer que les enjeux de la responsabilité des prestataires de services, l’autonomisation et l’autonomie des utilisateurs, ainsi que la transparence et la responsabilisation sont au cœur de la conception.

La responsabilité de la sécurité ne doit jamais reposer uniquement sur l’utilisateur. Tout doit être mis en œuvre pour que les risques en ligne soient compris, évalués et pris en compte lors de la conception et de la fourniture des plateformes et services en ligne.

Cela implique d’évaluer en amont les risques potentiels des interactions en ligne et de prendre des mesures actives pour prévenir tout usage abusif potentiel, réduisant ainsi l’exposition des personnes aux risques.

Le respect de la dignité des utilisateurs est primordial.

 nécessité de concevoir des fonctionnalités qui préservent les droits fondamentaux des consommateurs et les droits humains. Cela implique de comprendre que les abus peuvent être multiples, affectant un utilisateur de diverses manières et pour de multiples raisons, et que la technologie peut aggraver les inégalités sociales.

La transparence et la responsabilité sont les piliers d’une approche rigoureuse en matière de sécurité. Elles garantissent non seulement que les plateformes et les services fonctionnent conformément à leurs objectifs de sécurité publiés, mais contribuent également à informer et à responsabiliser les utilisateurs quant aux mesures qu’ils peuvent prendre pour répondre à leurs préoccupations en matière de sécurité.

La publication d’informations sur la manière dont les entreprises appliquent leurs politiques et de données sur l’efficacité des dispositifs de sécurité ou des innovations permettra d’évaluer précisément ce qui fonctionne. Si les interventions améliorent la sécurité des utilisateurs ou dissuadent les abus en ligne, ces innovations devraient être partagées et plus largement adoptées.