Allez au contenu, Allez à la navigation

COMPTES RENDUS DE LA DELEGATION AUX DROITS DES FEMMES


Mercredi 8 juin 2022

- Présidence de Mme Dominique Vérien, vice-présidente -

Table ronde sur la régulation de l'accès aux contenus pornographiques en ligne

Mme Dominique Vérien, présidente. - La présidente Annick Billon ayant un empêchement, j'ai le plaisir de présider cet après-midi notre table ronde consacrée à la régulation de l'accès aux contenus pornographiques en ligne.

Nos quatre sénatrices rapporteures - Annick Billon, Alexandra Borchio Fontimp, Laurence Cohen et Laurence Rossignol - travaillent depuis près de six mois sur la thématique de la pornographie.

Nous accueillons, pour l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom), Guillaume Blanchot, directeur général, et Lucile Petit, directrice des plateformes en ligne, présents par visioconférence. Nous recevons également Bertrand Pailhès, directeur des technologies et de l'innovation de la Commission nationale de l'informatique et des libertés (CNIL) ; Florent Laboy, directeur adjoint du pôle d'expertise de la régulation numérique (PEReN), accompagné de Victor Amblard, data scientist ; Michel Combot, directeur général de la Fédération française des télécoms (FFT) ; Olivier Esper, responsable des relations institutionnelles, et Arnaud Vergnes, responsable juridique, chez Google France ; enfin, Julie Dawson, directrice des affaires réglementaires de Yoti, une entreprise de vérification d'âge.

Notre réunion fait l'objet d'un enregistrement vidéo, disponible sur le site Internet du Sénat.

L'objet de cette table ronde est d'examiner les solutions techniques, déjà disponibles ou envisageables, pour bloquer l'accès des mineurs aux contenus pornographiques en ligne, dans le respect de la liberté de communication, de la vie privée et de la confidentialité des données des internautes, majeurs comme mineurs.

On estime que 80 % des jeunes de moins de 18 ans ont déjà vu des contenus pornographiques, de façon délibérée par l'accès à des sites pornographiques ou à des réseaux sociaux, ou de façon involontaire, à l'occasion de recherches Internet, de téléchargement de films ou de discussion sur des réseaux sociaux. Selon un sondage Ifop (Institut français d'opinion publique) publié en avril 2022, 40 % des adolescents de 15 à 17 ans ont déjà consulté des sites pornographiques et le font en moyenne tous les mois.

Or la loi française interdit la diffusion de tout contenu pornographique susceptible d'être vu par un mineur. Depuis la loi du 30 juillet 2020, les sites pornographiques ne peuvent plus se contenter de la simple question rhétorique : « Avez-vous plus de 18 ans ? ». Ils doivent mettre en place une solution efficace de contrôle de l'âge.

Après une première audition en janvier dernier, nous souhaitons approfondir le rôle de l'Arcom dans la mise en oeuvre de cette loi. Quelles actions ont été menées pour accompagner ces sites dans l'élaboration de solutions ? Où en sommes-nous, deux ans déjà après l'adoption de la loi, même si nous savons que le décret a été publié tardivement ? Quel contrôle est effectué par l'Arcom ? Une démarche davantage proactive est-elle possible ? Les procédures prévues ne sont-elles pas trop complexes, avec, par exemple, le recours à des constats d'huissier pour contrôler l'accès des mineurs aux sites pornographiques ?

Nous attendons dans les prochaines semaines une décision au fond du tribunal judiciaire de Paris, saisi par l'Arcom à l'encontre de cinq sites ne respectant pas la loi. Si le tribunal ordonne le blocage, il reviendra aux fournisseurs d'accès à Internet (FAI) de bloquer ces sites. Comment la Fédération française des télécoms (FFT) s'est-elle préparée à cette possible décision ? Quelles autres solutions seraient envisageables pour empêcher l'accès des mineurs à de tels contenus ?

Nous nous intéresserons aussi aux solutions développées par Google, Android, Google Play, YouTube et d'autres entités du groupe Alphabet, et à celles développées par Yoti, qui propose un système de vérification d'âge des internautes par analyse faciale. Cet outil est notamment utilisé par les sites de la marque Jacquie & Michel comme alternative à l'utilisation d'une carte bancaire.

Nous étudierons les solutions permettant d'appliquer efficacement la législation. La loi dite « Studer 2 » du 2 mars 2022, qui a introduit une obligation d'installation par défaut d'un dispositif de contrôle parental sur les équipements terminaux permettant de naviguer sur Internet vendus en France, est une avancée dont nous nous félicitons. Elle ne sera malheureusement pas suffisante. Nous sommes convaincus de la nécessité de réunir tous les acteurs pertinents, publics et privés, afin d'élaborer des solutions opérationnelles.

Diverses pistes avaient été analysées en 2019 dans un rapport commun de l'Inspection générale des finances et du Conseil général de l'économie. En mai dernier, le PEReN, une structure interministérielle rattachée à la direction générale des entreprises à Bercy, a publié, avec la Cnil, une note intitulée Détection des mineurs en ligne : peut-on concilier efficacité, commodité et anonymat ? C'est évidemment tout l'enjeu du sujet. Nous sommes particulièrement intéressés par les analyses que peuvent porter à la fois le PEReN, l'Arcom et la Cnil sur cette problématique et sur les solutions qui vont nous être présentées aujourd'hui.

Enfin, une coordination au niveau européen pour mettre en place cette politique publique de régulation numérique n'est-elle pas nécessaire ?

Je laisse sans plus tarder la parole aux représentants de l'Arcom, connectés par visioconférence.

M. Guillaume Blanchot, directeur général de l'Arcom. - Merci, Madame la Présidente, Mesdames les Sénatrices, de me donner l'occasion de présenter un premier bilan de la mise en oeuvre de l'article 23 de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales, voté sur l'initiative de votre assemblée.

Je suis accompagné de Lucile Petit, directrice des plateformes en ligne, et de Justine Boniface, directrice de cabinet du président de l'Arcom, Roch-Olivier Maistre. Nous sommes en visioconférence, ce dont nous nous excusons, car le mercredi est le jour de la réunion hebdomadaire du collège de notre Autorité.

L'article 23 susmentionné prévoit l'intervention de l'autorité administrative pour demander au juge de bloquer les sites qui permettent à un mineur d'avoir accès à un contenu pornographique, en méconnaissance de l'article 227-24 du code pénal. Le législateur a chargé l'Arcom d'une mission de protection du public mineur en ce qui concerne les médias audiovisuels, à laquelle nous attachons la plus grande importance.

Il ne s'agit ni d'interdire les contenus pornographiques ou d'intervenir sur des pratiques de cette industrie qui relèvent, le cas échéant, du seul juge pénal, ni de s'assurer de la conformité des dispositifs de vérification d'âge mis en place par les sites au regard du droit de la protection des données personnelles. Cette protection des données personnelles est néanmoins une préoccupation forte de l'Arcom, et nous en discutons régulièrement avec la Cnil.

Je vais d'abord revenir sur les différentes étapes de la mise en oeuvre de cette loi.

Votée en juillet 2020, elle a donné lieu à la publication d'un décret d'application en octobre 2021. Ce décret avait auparavant fait l'objet d'une notification à la Commission européenne, qui a formulé des observations en juillet 2021. Par conséquent, le dispositif juridique n'a été véritablement effectif qu'à compter d'octobre 2021.

À la suite de la publication de ce texte réglementaire, nous avons mis en demeure cinq sites : Pornhub, xHamster, XVideos, Tukif et Xnxx. Nous avons informé nos homologues européens, ainsi que la Commission européenne, de ces mises en demeure.

En mars 2022, le président de l'Arcom a saisi le tribunal judiciaire, comme le prévoit la loi ; nous avons de nouveau informé nos homologues européens de cette démarche. L'audience a été fixée le 24 mai dernier ; comme vous le savez, en raison d'une erreur de procédure des conseils de l'Arcom, cette audience a conduit à une annulation des assignations des FAI. Une nouvelle date d'audience a été fixée par le tribunal judiciaire : celle-ci se tiendra le 6 septembre 2022.

Les sites que nous avons mis en demeure par notre assignation devant le tribunal judiciaire nous ont été signalés par les associations. Ils représentent une part très importante de l'audience des sites pornographiques en France : les cinq sites que j'ai mentionnés, ajoutés à deux autres que nous avons mis en demeure plus récemment, à savoir YouPorn et Redtube, représentent environ 25 millions de visiteurs uniques par mois en 2021.

La procédure mise en place par le législateur est complexe : ce sera mon deuxième point.

À cet égard, l'enjeu de sécurité juridique est fort : il faut entourer nos décisions de toutes les garanties nécessaires pour pouvoir mener à son terme la procédure que nous avons engagée. Il s'agit d'une nouvelle procédure, dite « accélérée au fond », et non d'une procédure en référé : les conditions de délai ne sont donc pas les mêmes.

Les sites pornographiques qui sont indirectement, mais in fine, visés par cette procédure se sont entourés des meilleurs avocats de la place de Paris ; ils sont, à notre égard, dans une approche que l'on peut qualifier de contentieuse. Ils ont d'ores et déjà attaqué le décret d'application de la loi. Dans les écritures que nous avons récemment reçues, ils multiplient les actes contentieux, puisqu'ils entendent poser une question préjudicielle au juge européen et déposer une question prioritaire de constitutionnalité (QPC).

Il est par conséquent vraiment essentiel pour la bonne mise en oeuvre de la loi de s'entourer des procédures juridiques les plus éprouvées. C'est ce qui nous a conduits à recourir à des constats d'huissier : c'est une procédure qui est plus longue mais qui nous offre des garanties. Nous réfléchissons pour l'avenir à recourir à des procédures plus souples, qui nous permettront de traiter plus rapidement les saisines, pour les autres sites qui sont visés par les associations. En guise d'exemple, pour montrer que la procédure est enserrée dans des délais qui sont relativement longs, lorsque nous assignons un FAI en outre-mer, le délai est au minimum d'un mois. Les dates d'audiences sont, et c'est bien normal, fixées par le juge judiciaire : cela peut prendre entre deux et trois mois. Je rappelle par ailleurs que les assignations doivent être remises par huissier.

Nous sommes enfin soumis à des contraintes procédurales qui s'inscrivent dans le cadre de l'Union européenne. Du fait de l'application du principe du pays d'origine, inscrit dans la directive e-commerce, nous devons informer de la procédure l'État membre où est établi l'éditeur des sites et lui demander s'il compte lui-même mettre en oeuvre des actions à l'égard de ces sites. Parallèlement, nous devons aussi informer la Commission européenne. La mise en oeuvre de ces garanties allonge la durée de la procédure, d'autant que nous devons en amont identifier l'éditeur et son établissement géographique.

Tout au long de la mise en oeuvre du texte législatif, qu'il s'agisse du prononcé de mise en demeure ou de la saisine du juge judiciaire, nous discutons avec l'ensemble des parties prenantes : ce sera le troisième point de mon propos.

Nous avons d'abord des échanges avec les sites eux-mêmes. Les contacts ont été pris avant même la publication du décret. Nous avons cherché à les accompagner, à nouer le dialogue avec eux, même si, parfois, nous n'avons pas eu de réponse de leur part. Ceux qui ont répondu étaient, le plus souvent, dans un état d'esprit contentieux, rendant difficile un dialogue nourri ; ils cherchaient sinon à nous faire valider a priori un dispositif de vérification d'âge, ce qui n'est pas la mission qui nous est confiée par la loi. En effet, c'est une fois qu'il est effectivement en place que nous devons nous assurer que le système de vérification d'âge installé par le site répond aux critères permettant d'empêcher que les mineurs puissent accéder aux contenus pornographiques.

Nous avons discuté également avec les fournisseurs de ces dispositifs de vérification d'âge. Nous avons eu de nombreux échanges techniques, en expliquant que notre rôle n'était pas de valider a priori ces dispositifs, mais de s'assurer a posteriori qu'ils répondaient aux critères de la loi.

Nous avons aussi échangé régulièrement avec la Cnil, avant même la publication du décret. Nous parlons tous les quinze jours de ces sujets, car il est nécessaire que nous ayons une approche coordonnée entre nos deux autorités de régulation.

Nous avons enfin des échanges étroits et réguliers avec les associations qui nous ont saisis, par exemple Osez le féminisme !, le Cofrade, e-Enfance ou l'Union nationale des associations familiales (Unaf). Le sujet a également été abordé au sein de notre comité d'experts du jeune public. Le président de l'Arcom revoit certaines de ces associations dans quelques jours, signe de notre dialogue étroit.

Pour conclure, nous pouvons comprendre l'impatience qui peut être la vôtre et celle des associations s'agissant de la mise en oeuvre de ce texte législatif. J'ai souhaité vous expliquer les raisons pour lesquelles la procédure était longue et qui justifiaient de s'entourer de garanties. Je peux vous assurer de la détermination de l'Arcom à faire vivre ce dispositif et aller jusqu'au bout de la procédure. Il reviendra au juge de décider, in fine, du blocage ou non des sites visés.

Mme Dominique Vérien, présidente. - Nous attendons donc le 6 septembre pour connaître la décision du juge. Monsieur Combot, si le juge décidait de couper l'accès, serait-ce à vous, opérateurs fournisseurs d'accès à Internet, de le faire et comment procéderiez-vous ?

M. Michel Combot, directeur général de la Fédération française des télécoms (FFT). - Les opérateurs fournisseurs d'accès à Internet sont toujours prêts à mettre en oeuvre les décisions de justice en matière de blocage des sites Internet. La procédure en cours est une adaptation de la procédure générale définie par la loi pour la confiance dans l'économie numérique et des décisions de blocage de sites pornographiques ont été prises dès le début des années 2000, sur la base de la version initiale de la loi. Dans le cas qui nous intéresse, nous appliquerons donc la décision de blocage selon les délais indiqués par le juge, comme nous le faisons déjà. Néanmoins, le blocage pratiqué par les opérateurs a ses limites : l'utilisation de réseaux privés virtuels, virtual private network ou VPN, ou encore de logiciels intégrés au navigateur permettant d'accéder à Internet, court-circuitent nos systèmes de blocage ; c'est un réel sujet d'inquiétude.

L'accès des jeunes aux contenus pornographiques en ligne constitue à la fois un enjeu s'agissant de la mise en conformité des sites diffusant ces contenus aux dispositions législatives en vigueur ainsi qu'un enjeu de pédagogie et de mise à disposition d'outils auprès des familles.

Depuis près de quinze ans, nous avons ainsi mis en place des outils de contrôle parental, mais aussi, depuis près de cinq ans, un parcours de souscription spécifique pour les familles, afin de les informer et de présenter l'intérêt de ces outils à tout souscripteur d'accès à Internet fixe ou mobile. Cet enjeu pédagogique est le plus important, car l'existence de ces outils est parfois peu connue, et leur utilisation ainsi que leur intérêt pour la protection des jeunes donnent lieu à des débats au sein des familles. Nous publions régulièrement un livre, Jeunes et internet, qui présente les dangers d'Internet - dont l'accès des jeunes à des contenus pornographiques en ligne - et les solutions pour s'en prémunir. Néanmoins, les familles peuvent être désemparées face à l'habileté des jeunes pour contourner ou désactiver les outils mis en place.

Avec la loi visant à renforcer le contrôle parental sur les moyens d'accès à Internet, dite « Studer 2 », le contrôle parental porte maintenant sur l'ensemble de la chaîne de valeur, aussi bien sur le terminal que sur les offres que nous pouvons proposer. L'écosystème s'est ainsi réuni autour de ces enjeux de contrôle parental et de la plateforme d'information du Gouvernement jeprotègemonenfant.gouv.fr.

L'enjeu pédagogique est essentiel également pour faire comprendre ceux plus larges de politique publique qui, au-delà de la pornographie en ligne, concernent aussi le temps passé devant des écrans par les jeunes. Cela doit être une cause nationale. La jeunesse est l'avenir de notre pays. Elle doit pouvoir mieux appréhender les enjeux d'Internet. C'est un monde virtuel, certes, mais qui recèle des dangers.

Mme Dominique Vérien, présidente. - Messieurs Olivier Esper et Arnaud Vergnes, de Google France, des solutions de contournement, comme les VPN, notamment proposées par Google, permettent d'accéder depuis l'étranger à des sites interdits en France. Que peut faire Google ? Vous sentez-vous responsables si un jeune arrive à accéder à ces sites ?

M. Olivier Esper, responsable des relations institutionnelles de Google France. - Je vous remercie de nous associer à vos travaux sur un sujet essentiel pour nos enfants. Il nous a paru naturel et important d'être présents pour échanger sur ce sujet sur lequel nous travaillons depuis de nombreuses années, je me souviens par exemple avoir échangé avec le cabinet de Mme Rossignol en 2014 sur la question plus large de la protection des enfants sur Internet.

Nous vous proposons de vous présenter notre approche d'abord en matière de contenus, à savoir les règles de YouTube, Google Play, Google Ads, du moteur de recherche concernant les contenus pornographiques, puis en matière de protection des utilisateurs - en particulier les jeunes - dans leur usage du numérique en général.

Les règles fixées par Google et YouTube relatives à la pornographie existent depuis de nombreuses années. Elles excluent ces contenus de YouTube et des services publicitaires ou payants de Google. Premièrement, les sites pornographiques ne peuvent ni faire de la publicité ni se financer grâce aux solutions publicitaires de Google. Ainsi, les annonces Google ne peuvent pas être placées sur des pages de contenus à caractère pornographique ou réservées à un public adulte ou averti. De même, le règlement de YouTube dispose que la plateforme n'est pas destinée aux contenus pornographiques ou à caractère sexuel. Enfin, les applications comportant des contenus sexuellement explicites comme la pornographie, ou qui en font la promotion, sont interdites et ne peuvent figurer dans le magasin d'applications Google Play. Il n'existe donc aucune dépendance entre les modèles économiques de Google ou de YouTube et les contenus pornographiques.

Le moteur de recherche de Google est bien évidemment entièrement automatisé et algorithmique. En effet, il répond à plusieurs trilliards de questions chaque année et, chaque jour, 15 % de nouvelles requêtes lui sont adressées. Google y répond en indexant des centaines de milliards de pages web. Il s'agit donc de contenus sur lesquels nous n'exerçons pas le même contrôle que sur ceux que nous hébergeons sur YouTube ou ceux des annonces Google. Ceci étant posé, pour le référencement naturel, nous avons aussi des règles, des possibilités de déréférencement que je laisse mon collègue Arnaud vous présenter.

M. Arnaud Vergnes, responsable juridique de Google France. - Le moteur de recherche est en quelque sorte le reflet de ce qui figure sur le web. Cela appelle trois remarques.

Tout d'abord, Google ne peut pas supprimer un contenu du web, mais uniquement retirer le lien cliquable qui pointe vers ce contenu : c'est le déréférencement. Même si un lien est supprimé du moteur de recherche, les utilisateurs peuvent donc toujours accéder au site Internet vers lequel ce lien dirige en tapant le nom du site dans un navigateur Internet. Pour supprimer un contenu du web, soit le webmaster supprime le contenu en question, soit le fournisseur d'accès à Internet met en oeuvre une mesure de blocage.

Ensuite, le moteur de recherche n'affiche que les pages publiquement accessibles en ligne. Ainsi, dès lors qu'un site supprime une page, celle-ci ne sera plus référencée sur Google ; c'est automatique.

Enfin, les webmasters qui ne souhaitent pas que leur site, ou certaines de ses pages, soit référencé sur Google, peuvent s'opposer au référencement.

Cela étant, Google va bien sûr prendre des mesures de déréférencement dès lors qu'un site manifestement illicite lui est notifié. La difficulté soulevée par les contenus pornographiques est qu'ils ne sont en principe, en droit français, pas illicites pour la majorité d'entre eux. Certains le sont, comme par exemple les contenus sexuels filmés ou diffusés à l'insu de la personne, appelés revenge porn.

L'article 227-24 du code pénal interdit de donner accès au mineur à tout message à caractère pornographique. Si un juge considère qu'un site ne respecte pas les termes de l'article 227-24, Google procédera à un déréférencement de ce site dès lors que la décision de justice lui sera notifiée.

De même, un utilisateur peut notifier à Google tout contenu pornographique illicite. Google procédera alors à une mesure de déréférencement de la page Internet visée, sur simple demande, en dehors de toute décision de justice. Par exemple, si un contenu de revenge porn est notifié à Google, il sera procédé au déréférencement de l'URL. Dans ce cas précis, la victime peut également demander à Google de bloquer les contenus explicites apparaissant lors d'une recherche portant sur ses nom et prénom.

Enfin, une personne peut faire valoir son droit à l'oubli sur le moteur de recherche pour demander le déréférencement d'un contenu pornographique associé à ses nom et prénom ; ce droit peut ainsi être utilisé par d'anciens acteurs ou actrices de films pornographiques, pour toute recherche portant sur leurs nom et prénom.

M. Olivier Esper. - Du côté des utilisateurs, Google a mis en place des outils, en particulier celui de contrôle parental, Family Link, qui permet aux parents de superviser l'utilisation du numérique par leurs enfants. Il permet de contrôler le temps d'écran ou de bloquer le téléchargement de certaines applications, mais surtout de filtrer les résultats de recherche grâce à la fonctionnalité SafeSearch consultable sur google.com/safesearch.

Ce filtrage est activé par défaut pour les utilisateurs connectés sous le contrôle parental Family Link, pour ceux connectés avec un compte de moins de 18 ans et pour tous les utilisateurs que nous suspectons d'avoir moins de 18 ans à partir d'une analyse automatisée de l'utilisation de nos services. Cette approche est récente : elle a été annoncée l'été dernier. Elle peut être amenée à évoluer en fonction de la technologie, des solutions disponibles sur le marché, mais aussi des orientations adoptées par les régulateurs.

Si des utilisateurs, pour lesquels SafeSearch n'est pas activé par défaut et qui ne l'ont pas mis en oeuvre, entrent pour la première fois une requête sur le moteur de recherche qui pourrait proposer des résultats choquants, par exemple pornographiques, un avertissement est alors affiché en haut de la page pour les en informer et les inviter à activer SafeSearch. Ce filtrage est automatisé, compte tenu du volume des contenus disponibles sur le web, et également fondé sur les signalements des webmasters qui peuvent indiquer à Google les pages de leur site qui doivent être filtrées. Ce dispositif n'est pas infaillible et nous le complétons par un dispositif de signalement permettant aux utilisateurs d'indiquer des résultats de recherche qui seraient passés entre les mailles de notre filet.

Les outils existent, mais l'enjeu est de les faire connaître. Nous avons signé en 2019 la charte qui a donné naissance au site jeprotegemonenfant.gouv.fr, dans laquelle figure l'engagement de faire connaître les outils de contrôle parental, ce que nous faisons pour Family Link à travers des campagnes médias en ligne et hors ligne.

Par exemple, en octobre 2021, nous avons édité un livret avec les associations de protection de l'enfance - e-Enfance, l'Union nationale des associations familiales (Unaf), l'Observatoire de la parentalité et l'éducation numérique (Open) - qui a été distribué à plus d'un million d'exemplaires sous forme de supplément dans les magazines nationaux et la presse régionale.

Il existe également un enjeu de sensibilisation et d'éducation à destination des parents et des enfants.

Nous avons des liens étroits avec les associations déjà citées et le Conseil français des associations pour les droits de l'enfant (Cofrade). Google.org, la branche philanthropique de Google, soutient financièrement plusieurs de leurs programmes, notamment ceux d'e-Enfance et de l'Open, à destination des enfants et des parents, pour les sensibiliser aux risques du numérique et aux bonnes pratiques à mettre en oeuvre pour s'en protéger. Nous avons soutenu notamment la réalisation de vidéos de sensibilisation, réalisées par l'Open, l'Unaf et la Ligue de l'enseignement, portant sur la pornographie en ligne. Ces vidéos ont été lancées en mai 2021 à l'occasion d'un webinaire organisé par l'Open avec l'Arcom, ainsi qu'Adrien Taquet, alors secrétaire d'État chargé de la protection de l'enfance, et une sexologue spécialiste de l'éducation à la sexualité. Ce lien avec les associations nous permet de répondre au cas par cas aux situations auxquelles peuvent être confrontés les parents ou les enfants. C'est ainsi que nous sommes en lien étroit avec le 3018, géré par e-Enfance.

Ce lien avec les associations nous permet par ailleurs de répondre au cas par cas à certaines situations auxquelles peuvent être confrontés les parents ou les enfants, notamment à travers notre lien étroit avec le 3018, géré par e-Enfance.

Mme Dominique Vérien, présidente. - Des sites à l'étranger, interdits en France, peuvent être accessibles via un changement de DNS (Domain Name System), une fonctionnalité que Google propose : qu'en est-il ?

M. Arnaud Vergnes. - Je ne suis pas certain que cette question se pose en matière de protection de l'enfance à l'égard des sites pornographiques. Certes, les critères DNS peuvent être modifiés par Google, mais cette possibilité existe dans tous les pays du monde et la question ne se pose pas sur les blocages effectués par les fournisseurs d'accès. Tout dépend du blocage réalisé. Nous n'indiquons pas à l'utilisateur qu'il peut contourner une mesure de blocage.

Mme Dominique Vérien, présidente. - Vous n'allez pas le lui dire mais vous lui permettez de le faire...

M. Olivier Esper. - Lorsqu'une décision de justice est rendue, nous nous en faisons l'écho sur les services que nous proposons, notamment par un déréférencement sur les résultats de recherche.

Mme Julie Dawson, directrice des affaires réglementaires de Yoti. - Yoti est une société d'origine britannique qui se propose d'aider les individus à prouver qui ils sont et quel âge ils ont. Les trois principaux services que nous proposons sont la vérification d'identité, la vérification d'âge et les signatures électroniques. Je précise que notre organisation s'efforce de prêter attention à son impact sociétal et environnemental.

Plus d'une cinquantaine de sites de toutes tailles utilisent notre outil de vérification d'âge, notamment via l'estimation de l'âge par analyse faciale. Nos outils sont utilisés dans le cadre de la lutte contre l'exploitation sexuelle des mineurs pour vérifier l'âge des victimes et des auteurs d'abus sexuels, ils sont intégrés dans certaines consoles de jeux vidéo ou encore installés dans les points de vente électronique des grandes surfaces qui proposent certains produits dont la vente est réglementée et, plus récemment, dans des cinémas. Enfin, nous proposons un produit qui permet de prévenir le partage de photos par un enfant depuis son téléphone mobile.

Nous travaillons avec des réseaux sociaux, avec des sites proposant des jeux vidéo, des jeux de compétition ou d'argent. Nous travaillons également avec des organisations qui aident les mineurs à supprimer des photos intimes qui sont diffusées sur Internet contre leur gré. Enfin, un certain nombre de sites pornographiques tels que Mindgeek ou Pornhub ont recours à nos services. Ces sites ont intégré nos solutions mais ils restent libres de décider du nombre de vérifications qu'ils souhaitent effectuer.

Le site pornographique Jacquie & Michel a intégré notre portail mais nous n'avons pas d'autre lien commercial ou financier avec le groupe qui le détient.

Nous avons opéré plus de 500 millions de vérifications d'âge mais, chaque mois, la ventilation de ces vérifications varie en fonction des demandes. Nous ne la connaissons qu'a posteriori.

Entre 75 % et 90 % de nos clients optent pour la méthode par vérification faciale lorsque plusieurs solutions leur sont proposées. 95 % de ceux qui utilisent cette méthode réussissent du premier coup, et dans la majorité des cas, cette vérification prend moins d'une seconde. Elle a été conçue afin de ne pas exclure les personnes qui ne disposent pas d'une pièce d'identité ou qui n'y ont pas accès.

La vérification faciale repose sur une intelligence artificielle que nous enrichissons sans cesse grâce à de nouvelles images, dont je précise qu'elles sont obtenues avec le consentement des personnes concernées. Je précise également qu'il s'agit bien d'une technique non pas de reconnaissance, mais d'analyse faciale, aucune donnée personnelle n'est utilisée ni conservée. Cette méthode ne permet ni de reconnaître ni d'identifier un individu. Par ailleurs, les images ne sont pas conservées. Cette méthode a d'ailleurs été évaluée par des instances indépendantes et par des organisations gouvernementales tierces.

J'en viens aux autres méthodes. Plus de 11 millions de personnes dans le monde ont téléchargé l'application Yoti ou disposent d'un compte. Une fois leur pièce d'identité ajoutée, celle-ci a été vérifiée par l'un de nos experts. En cas de validation, ces personnes peuvent partager anonymement leur attribut d'âge, et uniquement cette donnée.

Nous proposons également de scanner le document d'identité directement depuis un navigateur Internet ou un téléphone mobile.

Ces méthodes sont disponibles dans de nombreuses langues et à un coût très raisonnable, dans un portail configurable et personnalisable.

Vous nous avez interrogés sur la marge d'erreur. Pour une personne entre 15 et 20 ans, le différentiel probable entre l'âge estimé et l'âge véritable s'élève à 1,41 an.

Le règlement général sur la protection des données (RGPD) est au coeur de notre démarche. Mais, je le répète, notre outil algorithmique permet simplement d'estimer l'âge d'un individu sans pour autant le reconnaître. Nos méthodes ont d'ailleurs été validées par les autorités indépendantes compétentes allemandes et anglaises.

S'agissant d'éventuelles évolutions de la législation, j'estime que le véritable défi est plutôt d'appliquer les textes en vigueur, qui suffisent.

Mme Dominique Vérien, présidente. - Je viens de me rendre via Google sur le site Jacquie & Michel TV, auquel j'ai pu accéder sans aucune vérification. Manifestement, ils n'ont pas encore tout à fait installé votre solution...

Je donne maintenant la parole à Florent Laboy, directeur adjoint du pôle d'expertise de la régulation numérique (PEReN), qui vient de publier une note très complète d'analyse technique des différentes solutions de vérification d'âge et qui a contribué à développer une solution expérimentale de transmission de preuve de l'âge par double tiers interopérable avec plusieurs méthodes de vérification. Vous nous direz comment cette solution pourrait s'appliquer aux sites pornographiques, ainsi qu'aux réseaux sociaux dont on a vu qu'ils sont de plus en plus un lieu d'accès à des contenus pornographiques. Des évolutions législatives ou réglementaires sont-elles nécessaires pour la mise en oeuvre de cette solution ?

M. Florent Laboy, directeur adjoint du pôle d'expertise de la régulation numérique (PEReN). - Le PEReN est un service à compétence nationale créé en 2020 afin de mutualiser une expertise numérique à la disposition des services de l'État et des autorités indépendantes pour les accompagner dans leurs missions liées à la régulation des plateformes numériques. Le service est placé sous l'autorité des ministres chargés de l'économie, de la culture et du numérique et rattaché à la direction générale des entreprises pour sa gestion administrative. Il est composé d'une vingtaine de personnes, principalement docteurs et ingénieurs, et regroupe une expertise en science des données pour travailler à la conception, la mise en oeuvre et l'évaluation de la régulation des plateformes numériques.

Le PEReN produit des notes, des études, et il développe des preuves de concept. Ses travaux sont notamment guidés par le principe de neutralité, c'est-à-dire qu'il s'efforce de poser les termes du débat, de tester la faisabilité d'hypothèses et d'outils techniques sans prendre position.

L'élaboration d'une note d'analyse des solutions de vérification de l'âge, publiée en mai 2022, nous a permis de formuler plusieurs observations. La première est que pratiquement aucun service en ligne analysé n'utilise de méthode complètement fiable de vérification de l'âge. En l'état actuel, ces vérifications se fondent presque exclusivement sur de l'auto-déclaratif. Naturellement, du fait du risque de fausses déclarations, cette méthode est très peu efficace.

Cela a conduit les plateformes à compléter leur dispositif par des méthodes de détection en continu des enfants de moins de 13 ans passant par la recherche de mots-clés prédéfinis dans le contenu publié par l'utilisateur susceptibles de suggérer son âge. Cette méthode n'est pas satisfaisante non plus en raison du taux de fausse alerte élevé et de son manque de précision.

Notre seconde observation est qu'aucune solution de vérification de l'âge n'est à la fois performante, totalement transparente pour l'utilisateur et peu intrusive en matière de traitement de données à caractère personnel.

La vérification par carte bancaire, binaire, ne permet pas de discriminer finement en fonction de l'âge. De plus, on peut avoir une carte bancaire avant 18 ans.

La vérification par consultation d'une base de données nationale avec ou sans utilisation de la carte d'identité, outre sa faible acceptabilité sociale, comporte le risque de connaissance par l'exploitant de la base de données du site qui va être visité.

Quant aux solutions fondées sur des données biométriques, non seulement elles nécessitent la collecte de données d'enfants de moins de 13 ans, mais leur marge d'erreur est importante.

Par ailleurs, si l'utilisation du nouveau service de garantie de l'identité numérique (SGIN) paraît intéressante, ce service s'adresse à un public assez restreint, puisqu'il faut posséder une carte nationale d'identité électronique et un smartphone doté des technologies requises.

Reste le contrôle parental et la vérification par un bureau de tabac, qui peut être perçue comme contraignante ou gênante.

Le PEReN relève que la mise en place d'obligations en matière de détection des mineurs devrait être menée au regard de la proportionnalité de ces obligations par rapport au contenu auquel un site donne accès, sous réserve qu'une politique de modération efficace des contenus soit menée.

De plus, la mise en place d'obligations doit prendre en compte les enjeux liés aux données à caractère personnel. La vérification de l'âge entraîne en effet un risque de collecte et de croisement des données personnelles, ce risque étant renforcé pour les acteurs qui proposent un ensemble de services adossés à une solution mutualisée de vérification de l'âge.

Le PEReN considère, avec la Commission nationale de l'informatique et des libertés (Cnil), qu'un dispositif fondé sur un double anonymat est susceptible de remédier à ce risque.

Le principe est de rediriger l'utilisateur vers un service tiers qui effectue la vérification de l'âge et génère un jeton en retour à destination d'un service requérant. L'innovation consiste dans la mise en place d'une extension sur le terminal de l'utilisateur qui assure l'interface entre le service requérant et le service tiers certificateur. Le service requérant ne disposerait ainsi d'aucune donnée de l'utilisateur ayant permis le contrôle de l'âge, le service certificateur ne connaîtrait pas le service requérant et le confort de l'utilisateur serait optimisé.

Cette solution pourrait être mise en oeuvre par l'ensemble des acteurs et elle permettrait au certificateur de déployer un ensemble de solutions de vérification de l'âge proportionnées en fonction du contenu. Elle suppose toutefois l'identification de solutions fiables, efficaces et proportionnées, et la mise en oeuvre d'une procédure de certification des opérateurs habilités.

S'agissant enfin du cadre législatif, il nous apparaît que les lignes directrices prévues dans le cadre de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales sont de nature à permettre à l'Arcom d'identifier les solutions de vérification d'âge fiables et, en s'appuyant sur l'avis de la CNIL, de proposer une solution de transmission du résultat de vérification respectueuse de la vie privée.

Mme Dominique Vérien, présidente. - Toute la question est de savoir qui habiliterait ces services certificateurs...

M. Florent Laboy. - Au nom du principe de neutralité que j'évoquais, je ne trancherai pas cette question.

Mme Dominique Vérien, présidente. - Je donne la parole à notre dernier intervenant, Bertrand Pailhès, directeur des technologies et de l'innovation à la Cnil. Nous savons la Cnil très soucieuse, à juste titre, du respect des données personnelles et de la vie privée des internautes. Quel regard portez-vous sur les différentes solutions techniques envisagées, notamment sur celles qui ont été présentées par les précédents intervenants, pour lutter plus efficacement contre l'accès des mineurs aux contenus pornographiques en ligne ? Comment vérifier l'âge des utilisateurs et s'assurer du consentement parental tout en respectant la vie privée des internautes, y compris mineurs ?

M. Bertrand Pailhès, directeur des technologies et de l'innovation à la Commission nationale de l'informatique et des libertés (Cnil). - Contrairement à l'Arcom, la Cnil n'a pas de compétence directe sur les dispositifs mis en oeuvre par les sites pornographiques, mais elle a donné un avis sur le projet de décret en juin 2021, avant sa parution. En outre, elle a une mission générale de vérification de la conformité au RGPD des traitements de données à caractère personnel effectués par les éditeurs de sites ou par les tiers vérificateurs.

Des travaux que nous menons en étroite collaboration avec l'Arcom et le PEReN, il ressort que le mécanisme de double tiers dans la vérification d'identité paraît particulièrement intéressant dans le cas des sites à caractère pornographique, d'autant que ces derniers sont parfois édités par des sociétés qui ne sont pas établies en France. La preuve de concept qui sera publiée prochainement devra démontrer la faisabilité de cette méthode.

Il nous paraît important d'éviter la collecte directe de données identifiantes, notamment de cartes d'identité et d'historiques de navigation, par les sites pornographiques. De même, nous estimons que la reconnaissance biométrique, par exemple faciale, n'est pas souhaitable. Je précise toutefois qu'il faut distinguer la reconnaissance faciale, interdite par principe, avec des dérogations, par exemple pour l'ouverture d'un compte bancaire, de l'analyse faciale, telle que proposée par Yoti, qui ne relève a priori pas des données sensibles dont le traitement est interdit au titre du RGPD.

Plus généralement, la Cnil est attachée à ce que l'ensemble des dispositifs de vérification d'âge n'entravent pas la capacité à naviguer en ligne librement et sans s'identifier. C'est une composante importante pour nous de l'exercice des libertés individuelles. Au vu de la nécessité de développer des systèmes permettant de fournir des preuves d'âge, il nous semble important de prévoir un processus de certification et une évaluation indépendante de l'ensemble des dispositifs. Ainsi, pour les dispositifs de vérification d'identité, une certification est établie par l'Anssi (Agence nationale de la sécurité des systèmes d'information).

Enfin, il faut encourager une montée en gamme relativement rapide de systèmes permettant de délivrer une preuve d'âge ou d'autres attributs qui ne soient pas limités à la preuve de majorité sur les sites pornographiques. Au Royaume-Uni, on a par exemple constaté que la délivrance de jetons par les bureaux de tabac était perçue comme trop stigmatisante par les utilisateurs, justement parce que ces jetons ne donnaient accès qu'à des contenus pornographiques.

J'insiste sur la nécessité de ne pas créer de collecte de données potentiellement problématique. Par exemple, les systèmes d'estimation de l'âge pourraient être détournés pour capturer des vidéos à l'insu des personnes.

Il est également important que les organismes vérificateurs soient soumis à une évaluation externe sur les taux de performance, notamment les taux de faux positifs et de faux négatifs à la limite de 18 ans.

Enfin, je partage ce qui a été dit sur la nécessité de l'éducation et de la sensibilisation des parents, des enfants et de l'ensemble des personnels éducatifs. Les outils de contrôle parentaux, qui ont montré leur efficacité, nous semblent globalement les plus adaptés pour protéger les mineurs.

Mme Dominique Vérien, présidente. - De nombreux parents sont touchés par l'illectronisme et au-delà, les enfants maîtrisent généralement mieux les outils informatiques que leurs parents.

Mme Laurence Cohen, co-rapporteure. - Je vous ai trouvé extrêmement prudents dans les solutions que vous proposez. Nous avons pu constater les dégâts causés par l'accès à ces sites sur des enfants de plus en plus jeunes. Toutes les personnes que nous avons auditionnées ont insisté sur la nécessité d'agir de manière plus efficace. Certes, il faut protéger les libertés, mais n'oublions pas que nous parlons de mineurs. Les propos qui nous ont été tenus récemment par des élèves d'une classe de troisième montrent qu'ils ont eu accès très tôt à des images pornographiques, sans aucun pare-feu et sans que les parents en soient conscients.

Sans négliger l'éducation ni le rôle des parents, il me semble important de prendre des mesures contraignantes. Quelles sont vos solutions efficaces pour protéger les mineurs ?

Monsieur Combot, combien de blocages de sites ont-ils été effectués par les FAI ?

Monsieur Laboy, estimeriez-vous souhaitable que le PEReN soit rattaché au Premier ministre et son périmètre élargi à l'ensemble des ministères, notamment ceux du droit des femmes et des familles ?

Monsieur Pailhès, je suis sensible à l'analyse s'agissant de la confidentialité des données mais je suis étonnée de votre prudence quant à la stigmatisation des personnes qui souhaitent naviguer sur des sites pornographiques.

M. Olivier Esper. - La tendance de notre côté est clairement à un renforcement des protections, et nous sommes bien conscients que nous ne sommes pas au bout du chemin. Parallèlement, vous avez évoqué dans vos propos introductifs la dimension internationale ; il me semblerait effectivement pertinent de réfléchir à une échelle européenne, de viser une harmonisation européenne.

En tout état de cause, le contrôle parental de Google, Family Link, de même que Safe Search sont activés par défaut de plus en plus souvent, notamment avec notre nouvelle approche qui consiste à essayer d'estimer l'âge de nos utilisateurs.

J'ai moi aussi consulté le site Jacquie & Michel et le message d'avertissement est bien apparu. Peut-être n'est-il pas apparu dans votre navigateur parce que vous avez déjà effectué des requêtes depuis votre appareil, Madame la Présidente ?

Mme Dominique Vérien, présidente. - Je vous confirme que depuis quelques mois nous avons toutes consulté de tels sites ! Cela dit, ce n'est pas parce qu'on a déjà consulté un site qu'il ne faut pas que l'avertissement apparaisse de nouveau.

Mme Laurence Cohen, co-rapporteure. - L'activation par défaut de Safesearch est-elle systématique ?

M. Olivier Esper. - Elle intervient dans trois cas : si l'utilisateur est sous contrôle parental, s'il s'est connecté à un compte dans lequel il a indiqué avoir moins de 18 ans ou si Google estime que l'utilisateur a moins de 18 ans.

Mme Julie Dawson. - Nos solutions existent et sont appliquées, mais les éditeurs de site voudraient bien sûr être sur un pied d'égalité.

Sur le plan européen, il y a déjà le EU Consent Project.

M. Michel Combot. - Cela fait plus de vingt ans que les juges n'ont pas été saisis de demandes de blocages de sites pornographiques. En 2021, quelque 439 demandes de blocages de sites pédopornographiques ou terroristes ont été déposées. Cette même année, nous avons enregistré 140 000 demandes de retrait de contenus. Le blocage de site reste donc la solution de dernier recours, d'autant que nous savons que les sites de piratage audiovisuel ou de streaming, dont une centaine est bloquée chaque année, renaissent instantanément sur des sites miroirs.

M. Florent Laboy. - Vous suggériez l'élargissement du périmètre du PEReN et son rattachement au Premier ministre. Cela me paraît cohérent car nous constatons que les problématiques numériques sont transversales.

M. Bertrand Pailhès. - La stigmatisation des utilisateurs doit être prise en compte parce qu'elle peut entraîner des stratégies de contournement. Au Royaume-Uni, 23 % des jeunes savent utiliser un réseau privé virtuel (VPN).

Mme Alexandra Borchio Fontimp, co-rapporteure. - L'Inspection générale des finances a récemment envisagé d'utiliser France Connect pour conditionner l'accès aux sites pornographiques. La situation est-elle à ce point désespérée ?

Le soft porn commence à prendre de l'ampleur sur YouTube. Si les actes sexuels y sont seulement simulés, les éditeurs utilisent ces contenus pour rediriger les internautes vers des sites pornographiques. Vous semble-t-il envisageable et pertinent de contrôler l'accès à ces contenus ?

Disposez-vous de statistiques sur l'âge et le sexe des internautes accédant aux sites pornographiques, en particulier pour les 12-17 ans ?

Mme Laurence Rossignol, co-rapporteure. - Notre devoir de législateur est de chercher des solutions qui sécurisent les parents. La loi du 13 novembre 2014 relative à la lutte contre le terrorisme a accordé à l'Arcom le pouvoir de prendre des décisions coercitives à l'égard des sites pédopornographiques et terroristes. Compte tenu de la fragilité et de l'engorgement de notre système judiciaire, vous paraîtrait-il pertinent d'étendre le champ de cette loi aux sites pornographiques qui permettent l'accès aux mineurs ?

Par ailleurs, pourrait-on contraindre les sites pornographiques à rendre leurs contenus payants ou, du moins, à afficher un écran noir avant les vérifications prévues, fussent-elles auto-déclaratives ? Sur le site Jacquie & Michel, des contenus pornographiques sont disponibles avant toute mise en garde. Depuis que les banques ont renforcé leurs procédures de vérification pour tout paiement par carte bancaire, je pense pour ma part que l'obligation de paiement serait assez efficace.

M. Arnaud Vergnes. - Les règles sur YouTube vont parfois au-delà des législations locales et elles sont évolutives. Si ce phénomène du soft porn, dont je ne connaissais pas l'existence, prend de l'ampleur, il finira sans doute par être interdit. En tout état de cause, la redirection vers des sites pornographiques l'est déjà. Nous pourrons donc réaliser une étude sur YouTube et supprimer ces contenus.

M. Guillaume Blanchot. - Il faut distinguer les contenus par nature illicites, tels que les contenus pédopornographiques ou faisant l'apologie du terrorisme, et les contenus pornographiques qui ne sont pas par nature illicites et pour lesquels c'est l'accès donné à des mineurs qui est réprimé par le code pénal.

La loi de 2014 ne confie pas à la Cnil hier et à l'Arcom désormais le soin de bloquer les sites. C'est l'OCLTIC (l'Office central de lutte contre la criminalité liée aux technologies de l'information et de la communication), service du ministère de l'intérieur opérant la plateforme Pharos), qui demande le blocage des sites. Le rôle de l'Arcom est de superviser et de s'assurer que ces demandes de blocage adressées aux FAI n'outrepassent pas la loi et n'attentent pas aux libertés. Quoi qu'il en soit, je ne suis pas certain que l'extension de la loi de 2014 permettrait de répondre dans des conditions juridiques et opérationnelles suffisamment sécurisées à l'enjeu majeur que constitue l'accès des mineurs à des sites pornographiques.

S'agissant de la mise en place d'un écran noir, nous pourrions traiter ce sujet dans le cadre des lignes directrices que nous élaborons, en précisant plus globalement que le mécanisme de vérification de l'âge doit intervenir avant toute exposition à une image pornographique.

Enfin, nous vous communiquerons par écrit les statistiques demandées.

Mme Dominique Vérien, présidente. - Peut-on obliger les sites pornographiques à rendre leurs contenus payants ?

M. Guillaume Blanchot. - Dans le cadre législatif actuel, ce n'est pas possible.

Mme Dominique Vérien, présidente. - Je vous remercie de vos interventions.

Mes chers collègues, notre dernière audition plénière aura lieu mercredi prochain, le 15 juin.