Mardi 26 mai 2026
- Présidence de Mme Dominique Vérien, présidente -
La réunion est ouverte à 14 h 30.
Table ronde - Modération des contenus en ligne : les plateformes numériques face à leurs responsabilités
Mme Dominique Vérien, présidente. - Nous clôturons aujourd'hui nos auditions plénières consacrées à la montée en puissance des mouvements et réseaux masculinistes en France, en abordant une dimension incontournable, qui a été au coeur de nombreuses auditions : celle du rôle des grandes plateformes numériques dans la diffusion et la circulation de ces discours, ainsi que dans la facilitation du cyberharcèlement.
Nous avons le plaisir d'accueillir à cette table ronde des représentants de plusieurs acteurs majeurs de l'espace numérique : Mme Sarah Bouchahoua, responsable des affaires publiques de Snapchat ; M. Thibault Guiroy, directeur des affaires publiques pour YouTube France ; M. Mauro Sanna, directeur des affaires publiques EMEA (Europe, Moyen-Orient et Afrique) de Discord ; et Mme Laurence Pécaut-Rivolier, membre de l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom), autorité qui assure notamment la présidence de l'Observatoire de la haine en ligne, récemment réactivé.
J'en profite pour signaler que nous regrettons que les plateformes TikTok, Meta et X ne se soient pas rendues disponibles, car elles sont régulièrement citées sur l'ensemble des sujets qui nous occupent aujourd'hui. Je précise que Meta et TikTok ont proposé de nous transmettre une contribution écrite et ont accepté de répondre à un questionnaire écrit de la délégation.
Au fil de nos auditions, un constat s'est imposé avec constance. Les espaces numériques ne sont pas seulement des lieux où s'expriment les discours masculinistes, ils en sont aujourd'hui l'un des principaux vecteurs de diffusion, de banalisation et parfois même de structuration. Chercheurs, associations, institutions, victimes de cyberharcèlement, tous nous ont décrit un phénomène désormais bien identifié, celui d'une exposition rapide à des contenus misogynes ou masculinistes, notamment chez les plus jeunes.
Ces contenus ne sont pas toujours explicitement haineux ou manifestement illicites. Ils empruntent souvent des voies plus diffuses, parfois plus insidieuses, au travers des contenus liés au développement personnel, au fitness, à la séduction, aux jeux vidéo ou encore à l'humour. Pris isolément, ces contenus ne paraissent pas toujours problématiques, et l'on se situe bien souvent dans ce qu'on appelle la « zone grise ». Mais leur accumulation et leur mise en contexte peuvent conduire vers des représentations beaucoup plus problématiques. Nos auditions ont mis en lumière le rôle des systèmes de recommandation qui enferment certains utilisateurs dans de véritables bulles de filtre.
Comment appréhendez-vous ces fameuses zones grises qui participent à banaliser des représentations sexistes ou à nourrir des dynamiques de radicalisation ?
Un second enjeu nous paraît tout aussi central, celui de la protection des mineurs. Les jeunes sont aujourd'hui parmi les premiers utilisateurs de ces plateformes. Ils y construisent leurs sociabilités, leurs références, mais aussi parfois leur rapport aux relations entre les femmes et les hommes. Or, nos auditions ont montré que certains jeunes garçons peuvent être particulièrement exposés à des contenus promouvant des modèles virilistes et masculinistes.
Comment appréhendez-vous ce risque et quels garde-fous mettez-vous en place ?
Nous souhaitons également vous entendre sur la question du cyberharcèlement, qui constitue un autre versant majeur de notre réflexion. Nous avons auditionné plusieurs victimes et des associations, qui nous ont décrit des campagnes de harcèlement coordonnées d'une violence extrême, facilitées par la viralité des contenus, la rapidité de circulation des messages, les effets de meute et le sentiment d'impunité lié au pseudo-anonymat. Ces violences numériques ne sont pas virtuelles. Elles produisent des conséquences bien réelles sur la santé mentale, la vie professionnelle et, plus largement, sur la participation des femmes à l'espace démocratique.
Dès lors, comment vos plateformes permettent-elles de prévenir, détecter et traiter efficacement ces situations ?
Enfin, les enjeux ne sont évidemment pas identiques selon la nature des plateformes. Les logiques à l'oeuvre ne sont pas les mêmes sur une plateforme fondée sur la recommandation algorithmique, sur un espace de contenus vidéo ou sur un espace de discussion davantage structuré autour des échanges et intérêts communs entre utilisateurs. Mais toutes posent, chacune à leur manière, la même interrogation de fond : comment préserver un espace numérique ouvert sans que celui-ci devienne un espace de banalisation de la haine et d'entre-soi masculiniste ?
Notre objectif n'est pas d'ignorer les efforts engagés par les plateformes. Nous avons d'ailleurs souhaité associer l'Arcom à cette table ronde, précisément parce que cette réflexion ne peut être menée uniquement du point de vue des plateformes elles-mêmes. Elle suppose aussi d'interroger le cadre de régulation existant, son effectivité et ses limites. Notre ambition est donc bien d'avoir une approche globale de la diffusion des contenus haineux et plus particulièrement masculinistes, depuis les mécanismes internes de modération jusqu'aux outils publics de régulation et d'évaluation.
Mme Sarah Bouchahoua, responsable des affaires publiques de Snapchat. - Fondée en 2011, Snapchat est une plateforme de communication visuelle conçue pour refléter la manière dont les amis et la famille communiquent dans la vie réelle, mais dans un espace numérique centré sur la confidentialité, la sécurité et le bien-être des utilisateurs. Contrairement aux réseaux sociaux traditionnels, organisés autour de flux publics et continus largement alimentés par des mécanismes de viralité, Snapchat repose sur des choix structurels différents, notamment sur la confidentialité et la sécurité dès la conception : privacy et safety by design.
La majorité de l'activité sur Snapchat est interpersonnelle et se concentre sur la messagerie privée ; les comptes sont privés par défaut. Nous avons cependant des mécanismes de transparence, comme les notifications lorsqu'une capture d'écran ou un enregistrement de message est effectué, afin que l'utilisateur devienne acteur de ses propres interactions.
Les espaces publics de la plateforme se présentent sous trois formes.
Le premier est Discover, un espace éditorialisé qui présente les contenus de nos partenaires médias - nous en comptons plus de cent en France, comme TF1, M6, Le Monde ou Konbini -, mais il y a également des contenus de nos SnapStars, des créateurs de contenu certifiés.
Le deuxième est la Map, la carte interactive de Snapchat, où l'on peut voir ce qui se passe dans le monde, à condition que l'utilisateur ait autorisé le partage public de ses contenus. On peut y apercevoir des moments de vie publique ou des événements de divertissement, comme un match de football ou Roland-Garros.
Enfin, Spotlight est la troisième partie publique de Snapchat ; nous y diffusons des vidéos publiques de nos Snapchateurs, mais celles-ci font l'objet d'une modération renforcée. Une vidéo destinée à Spotlight ne sera pas directement mise en ligne : un algorithme de modération l'analyse préalablement, afin de s'assurer qu'elle ne contient rien d'explicitement illicite, comme des contenus en lien avec le terrorisme, la pédocriminalité ou un trafic illicite. Ensuite, un modérateur humain intervient avant que cette vidéo n'atteigne une grande audience.
La plateforme n'affiche pas de manière proéminente les indicateurs publics de popularité. Nous encourageons les échanges entre utilisateurs plutôt qu'une compétition où celui qui a le plus d'abonnés ou de likes diffuserait le plus de vidéos possible. Nous faisons appel à cette authenticité.
Par ailleurs, Snapchat s'ouvre directement sur un appareil photo et non sur un fil d'actualité gouverné par un algorithme de recommandations opaque, qui laisserait l'utilisateur dans des rabbit holes, dans un enfermement algorithmique. Aujourd'hui, Snapchat compte plus de 950 millions d'utilisateurs actifs mensuels. La France est le troisième marché avec plus de 26 millions d'utilisateurs actifs mensuels, ce qui nous confère une responsabilité particulière pour assurer la protection de notre communauté.
Nous savons que rien n'est parfait, c'est pourquoi la coopération entre le secteur privé et le secteur public est essentielle pour mettre fin à l'impunité en ligne. Cette architecture ne nous immunise pas contre le contenu problématique, notamment le « contenu gris ». Dans l'espace privé, les plateformes ont une interdiction de surveillance généralisée et ne peuvent agir que sur signalement des utilisateurs.
À cet effet, la prévention et l'importance du signalement sont fondamentales. J'interviens souvent en milieu scolaire et je constate un manque de sensibilisation aux enjeux du numérique. Qu'ils soient victimes ou témoins de cyberharcèlement ou de contenu illicite, nous insistons pour que les utilisateurs signalent le plus rapidement possible ces contenus, afin que nous puissions agir dans les meilleurs délais.
Soyons clairs : les contenus promouvant la haine, l'humiliation, la déshumanisation ou la violence à l'égard des femmes sont incompatibles avec nos règles. Au cours de l'audition, nous nous efforcerons d'être aussi concrets et transparents que possible concernant nos politiques. Il s'agit des systèmes de recommandations, du fonctionnement de l'algorithme, des mesures mises en place concernant la polarisation et les tunnels algorithmiques, ainsi que des défis qui demeurent. Aucune plateforme ne peut agir seule. Il est essentiel que nous soyons toutes sur la même longueur d'onde et je regrette que certaines plateformes ne soient pas présentes à ce type d'audition.
Il y a un lien avec la conception même des plateformes, régie par l'économie de l'attention, qui est un sujet majeur. Il est essentiel de travailler sur cet aspect et de demander aux plateformes de limiter tout ce qui est lié à la viralité. Nous avons un impact sur ce point et nous devons leur demander d'agir le plus possible.
Dans le même temps, ces questions se situent souvent à l'intersection de la sécurité des utilisateurs, de la liberté d'expression et du respect de la vie privée. Lutter contre les comportements nuisibles en ligne nécessite donc une approche prudente, proportionnée et sensible au contexte, notamment face à des contenus ambigus ou des codes en ligne en constante évolution.
Plus largement, il reste beaucoup à faire collectivement en matière d'éducation au numérique, d'esprit critique, de contre-discours et de sensibilisation aux mécanismes d'influence. Il faut aussi renforcer la responsabilisation des auteurs de violences en ligne, qui bénéficient d'une certaine impunité. Le pseudonymat est un sujet intéressant : de nombreux responsables politiques appellent à la levée de l'anonymat en ligne, mais celui-ci n'existe absolument pas. Nous sommes dans un régime de pseudonymat, et l'ensemble des plateformes ici présentes entretiennent d'excellentes relations avec les autorités. Il est donc essentiel de travailler sur la coopération avec les autorités judiciaires pour que les auteurs ne restent pas impunis.
Notre objectif est simple : faire de Snapchat un environnement aussi défavorable que possible à la diffusion de ce type de contenus et aussi protecteur que possible pour les jeunes utilisateurs.
M. Thibault Guiroy, directeur des affaires publiques pour YouTube France. - Selon une étude de Médiamétrie de janvier 2025, YouTube attire chaque semaine 43 millions de Français de 15 ans et plus. Le temps quotidien passé sur la plateforme est de 52 minutes. Nous sommes une plateforme de temps long, sur laquelle les utilisateurs publient des contenus longs ; c'est ce que nous constatons de plus en plus.
Nous avons un défi en matière de modération, puisque 30 000 heures de vidéos sont publiées chaque heure sur YouTube, soit environ 500 heures par minute. À cette échelle, vous comprendrez que nous avons absolument besoin d'une modération via l'intelligence artificielle et que nous ne pouvons pas nous reposer uniquement sur une modération humaine.
Au 31 décembre 2024, nous comptions en France plus de 900 chaînes avec plus d'un million d'abonnés, soit une augmentation de 20 % par rapport à l'année précédente, et 9 000 chaînes avec plus de 100 000 abonnés. Parmi celles-ci, plus de 450 génèrent des revenus d'au moins 100 000 euros par an uniquement via les revenus publicitaires directs.
Nous prenons ces questions très au sérieux. Nous avons énormément de personnel consacré à ces sujets, qui ne se repose pas uniquement sur l'intelligence artificielle. Nous nous appuyons sur les 20 000 personnes chez Google qui travaillent à la modération. Nous pourrons détailler les moyens mis en place pour modérer les contenus francophones, le rapport sur l'application du règlement sur les services numériques nous obligeant à être particulièrement transparents. Nous retirons évidemment les contenus qui sont en contradiction avec la loi française ou avec nos conditions d'utilisation, notamment celles qui sont relatives à la lutte contre les contenus haineux ou le cyberharcèlement.
La différence entre les conditions d'utilisation et la loi française est extrêmement ténue. Il y a quelques spécificités françaises, comme la période de silence électoral quarante-huit heures avant un scrutin, mais, en général, les conditions d'utilisation recoupent la loi française.
Notre approche repose sur une cellule de veille, qui s'efforce de détecter les nouvelles tendances en surveillant l'actualité, les réseaux sociaux et les signalements des utilisateurs. Elle collabore avec les équipes compétentes pour analyser ces signalements avant que les phénomènes n'arrivent sur la plateforme. L'idée est d'avoir une vision panoramique des choses et de ne pas découvrir un phénomène lorsqu'il arrive sur YouTube.
Pour vous donner une idée des volumes, sur le dernier trimestre 2025, nous avons supprimé plus de 8,5 millions de vidéos à l'échelle mondiale. Un peu moins de 64 000 d'entre elles avaient été mises en ligne depuis la France, ce qui est un nombre extrêmement faible, 0,7 % du volume total. Je précise que nous nous basons sur l'adresse IP de l'internaute pour déterminer l'origine de ces contenus ; tout ce qui est mis en ligne via des proxys et des VPN n'est donc pas comptabilisé.
Sur ces 64 000 vidéos retirées, une grande majorité - 41 000 - l'a été en vertu de nos règles relatives à la sécurité des enfants. Un peu plus de 2 200 l'ont été pour incitation à la haine, un peu plus de 6 600 pour violation de nos règles contre le harcèlement et 63 pour violation de nos règles contre la désinformation.
Nous avons besoin de la modération algorithmique, notamment via l'intelligence artificielle, pour traiter ces contenus à grande échelle. Plus de 97 % de ces vidéos ont d'abord été signalées par une machine et non par une personne humaine. Point extrêmement important : parmi ces vidéos, 42 % ont été supprimées sans avoir généré la moindre vue - nous mesurons notre succès dans la modération au nombre de vues générées par la vidéo - et 43 % des vidéos ont été supprimées alors qu'elles ne comptaient qu'entre une et dix vues. Cela signifie que plus de 85 % des vidéos ont été supprimées avant d'atteindre dix vues. Sur la même période, YouTube a clôturé plus de 3,4 millions de chaînes pour violation de ses règles et nous avons supprimé plus de 1,3 milliard de commentaires, ce qui est colossal. La majorité de ces commentaires étaient des spams et quasiment 100 % d'entre eux ont été détectés automatiquement, car il est beaucoup plus simple de détecter du texte problématique.
Comme tout système, il nous arrive de faire des erreurs. C'est pourquoi, conformément au règlement sur les services numériques (RSN), la possibilité pour les créateurs de faire appel de la suppression de leurs contenus est un élément essentiel du processus. Les créateurs sont informés lorsque leurs vidéos sont supprimées et reçoivent un lien leur permettant de faire appel. La décision est alors revue par un nouvel examinateur humain, qui la confirme ou l'annule. Sur les 8,5 millions de suppressions du dernier trimestre 2025, plus de 1 million ont fait l'objet d'un appel, à la suite duquel nous avons rétabli plus de 93 000 vidéos. Il nous arrive donc de faire des erreurs, mais le taux est extrêmement faible.
Je précise que nous travaillons avec des signaleurs de confiance. YouTube a été à l'origine de la création de ce système vers 2011, avec des associations, des chercheurs et des responsables politiques. Nous avons modifié notre système, qui s'appelle maintenant « signaleur prioritaire », pour ne pas interférer avec le système officiel de la Commission européenne et de l'Arcom, avec qui nous travaillons de manière très rapprochée. En France, nous pouvons citer la Ligue internationale contre le racisme et l'antisémitisme (Licra), la Plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements (Pharos), Point de contact ou encore le Conseil représentatif des institutions juives de France (Crif). Nous travaillons également étroitement avec le service de vigilance et de protection contre les ingérences numériques étrangères (Viginum) et, bien sûr, avec l'Arcom, notre régulateur sur de nombreux sujets.
Enfin, en ce qui concerne la modération, nous sommes extrêmement transparents sur les volumes que nous retirons et sur les moyens que nous mettons en oeuvre, avec le rapport de transparence au titre du RSN qui est publié de manière semestrielle. Ce rapport reprend tous les éléments que nous mettons en oeuvre pour lutter contre les contenus problématiques sur la plateforme, avec une granularité pays par pays. Au cours du deuxième semestre 2025, un peu plus de 260 modérateurs français sont intervenus sur des contenus français. Chez Google, nous avons un ADN de transparence et publions le maximum d'informations sur les retraits que nous effectuons et sur les réponses aux réquisitions judiciaires des autorités françaises.
Sur l'ensemble de l'année 2025, nous avons reçu environ 15 000 réquisitions judiciaires, auxquelles nous avons répondu dans plus de 80 % des cas. C'est un point important, car l'angle mort sur ces sujets est souvent la responsabilité des auteurs de contenus. Nous communiquons les informations aux officiers de police judiciaire qui nous en font la demande, mais nous constatons que les enquêtes ne vont pas forcément à leur terme et que, finalement, il y a très peu de condamnations.
Du côté de YouTube, notre règle est la suivante : trois violations de nos conditions d'utilisation entraînent l'exclusion de la plateforme, et le compte est supprimé. C'est la seule sanction que peut aujourd'hui subir un auteur de contenu problématique dans l'extrême majorité des cas. Si aucune poursuite n'est entamée à son encontre, il y a de grandes chances qu'il récidive en recréant un compte par l'intermédiaire d'un VPN ou d'une autre astuce. Il n'y a pas forcément de dissuasion à l'égard de ces auteurs, qui se sentent libres de publier ce qu'ils souhaitent, et une certaine impunité s'installe.
Je souhaite également dire que notre cellule de veille examine en permanence ce qui se passe sur l'ensemble du web et sur les autres réseaux sociaux. Ces équipes sont donc impliquées lorsque des politiques de modération doivent être changées ou créées à la suite de phénomènes et de tendances que nous observons. La manière dont nous créons nos politiques est assez simple : nous prenons un très petit jeu de données, puis nous y appliquons la politique dans un premier temps.
Il s'agit de voir si la politique est cohérente et s'il n'y a pas trop de faux positifs ; si cela est pertinent, nous l'appliquons à l'intégralité des vidéos de la plateforme. Nous essayons d'être aussi réactifs que possible. Des phénomènes comme le covid ou les différents conflits dans le monde ont mis à l'épreuve nos systèmes de modération et nous obligent à réagir extrêmement vite pour appréhender les nouveaux phénomènes. Nous avons des équipes consacrées à ces sujets.
L'enfermement algorithmique et les bulles de filtre sont des sujets que nous avons pris très tôt en considération chez YouTube ; c'est l'avantage d'avoir plus d'une vingtaine d'années d'existence. Les algorithmes de recommandation ont été très largement modifiés - et le sont encore des centaines de fois par an - pour intégrer un maximum de diversité, ne pas reposer uniquement sur des données quantitatives et intégrer aussi des données qualitatives. Se reposer sur des données quantitatives, c'est se dire qu'une miniature particulièrement attractive suffit à générer du clic et à mettre en avant un contenu. Ce n'est pas comme cela que nous concevons la plateforme. L'idée est de proposer des contenus qui intéresseront les utilisateurs, lesquels seront alors satisfaits du système de recommandation.
Les algorithmes ont donc été modifiés au fil des années pour intégrer ces données qualitatives. Lorsque vous consultez la plateforme, nous vous demandons si vous êtes satisfait du contenu que vous venez de visionner, s'il répond à vos besoins. Nous avons des sondages et énormément de signaux - plus de 80 milliards - qui nous aident à déterminer si une recommandation est pertinente. Nous avons été confrontés très tôt aux phénomènes de bulles de filtre, notamment sur des sujets comme la radicalisation en 2014-2015. Il a été extrêmement important pour nous de modifier nos algorithmes de manière à ne pas enfermer les utilisateurs. Des études indépendantes ont d'ailleurs démontré que l'algorithme de YouTube poussait à la diversité des contenus.
M. Mauro Sanna, directeur des affaires publiques Europe, Moyen-Orient et Afrique de Discord. - Je vous remercie de cette invitation, qui me donne l'occasion de contribuer à ce travail très important, que Discord aborde avec le plus grand sérieux dans le cadre de son engagement pour un environnement numérique plus sûr.
Discord est un service de communication en temps réel, qui permet à ses utilisateurs d'échanger des messages écrits et vocaux, des images et des vidéos entre amis et entre communautés. Il n'y a ni fil d'actualité, ni profil public mis en avant, ni mécanisme de défilement infini. Les échanges sont organisés dans un ordre strictement chronologique, au sein de messages privés ou de groupes que nous appelons serveurs. Ces serveurs, qui peuvent être publics ou privés, sont créés par nos utilisateurs, généralement autour d'intérêts communs. Il n'y a donc pas d'algorithme qui sélectionne ou amplifie les contenus vus par les utilisateurs, ni de mécanisme de viralité.
La grande majorité des serveurs sur Discord sont des espaces fonctionnant sur invitation et 80 % de ces communications se déroulent dans des groupes privés de taille restreinte. Discord a été conçu pour que nos utilisateurs gardent le contrôle sur leur expérience : ils choisissent les communautés qu'ils veulent rejoindre et peuvent les quitter à tout moment.
Si ces caractéristiques limitent les risques liés à la captation de l'attention ou à la viralité, elles s'accompagnent néanmoins d'un travail de notre part pour prévenir les usages de notre plateforme par des acteurs malveillants. C'est pourquoi nous avons développé des mécanismes de détection et d'intervention très robustes visant à prévenir et traiter des comportements qui enfreignent nos Règles Communautaires, que tout le monde doit respecter sur Discord.
Discord applique des Règles Communautaires strictes, valables dans tous les espaces, peu importe la taille du serveur ou le nombre d'utilisateurs participant à la conversation, et pour tous les usages. Ces règles interdisent un éventail de comportements et de contenus, notamment les discours de haine, le harcèlement, les menaces, les incitations à la violence, ainsi que toutes les atteintes à la sécurité des mineurs.
Je veux également m'attarder sur notre définition du discours de haine, qui est à la fois large et particulièrement pertinente pour notre discussion. Nous interdisons tout dénigrement fondé sur le genre, l'identité de genre, le sexe, mais aussi sur les responsabilités familiales ou sur le statut de victime de violences domestiques ou sexuelles. Pour garantir le respect de nos Règles Communautaires, nous adoptons une approche à la fois réactive et proactive.
Sur le plan réactif, tout d'abord, notre équipe de sécurité traite les signalements de violation de nos règles issus de différentes sources : nos utilisateurs, les modérateurs bénévoles de nos communautés, ainsi que des partenaires de confiance, à l'instar, en France, des associations Point de Contact ou e-Enfance.
Pour ce qui est des risques les plus graves, notamment la protection des mineurs et l'extrémisme, nous utilisons des modèles d'apprentissage automatique capables d'identifier des comportements et des dynamiques à risque sur notre plateforme, y compris dans les espaces privés. Cette démarche nous permet d'aller au-delà de la simple réaction en identifiant des signaux faibles et des schémas de comportement, ce qui contribue à réduire l'exposition de nos utilisateurs aux contenus les plus préjudiciables.
Lorsque nous constatons, de manière réactive ou proactive, des violations de notre charte, nous appliquons une gamme de sanctions qui va de l'émission d'un simple avertissement à la suppression des contenus, des comptes, voire des serveurs, c'est-à-dire de l'ensemble d'une communauté.
Face aux contenus masculinistes en particulier, Discord adopte des réponses ciblées, la priorité étant accordée à la protection des plus jeunes utilisateurs, à leur santé mentale et à leur bien-être. Ces contenus se situent à la croisée de plusieurs interdictions couvertes par nos Règles Communautaires. Selon la nature des propos ou des comportements, ils peuvent relever du discours de haine, du cyberharcèlement ou de l'incitation à la violence. Dès lors que ces seuils sont franchis, nous intervenons rapidement par des mesures graduées, allant de l'avertissement à la suppression.
Nous portons également une attention particulière aux zones grises, car nous reconnaissons que des contenus apparemment anodins peuvent, par accumulation, banaliser le sexisme ou la violence. C'est dans ces situations que nos équipes spécialisées interviennent de façon contextualisée pour appliquer nos règles.
Je vais dire quelques mots sur la protection des mineurs, sujet essentiel en raison de la vulnérabilité spécifique de ce public. Nous adoptons, en la matière, une approche à plusieurs volets s'appuyant sur plusieurs dispositifs. Nous émettons, par exemple, des alertes de sécurité lorsque des adolescents sont contactés par des inconnus, et nous activons par défaut des filtres de floutage pour les contenus sensibles. En outre, nous avons annoncé au début de cette année le déploiement mondial, y compris donc en France, d'un système de contrôle de l'âge.
Nous appliquons de façon stricte nos règles visant à prévenir les atteintes aux mineurs, ce qui se traduit par une priorisation de nos interventions et une coopération étroite avec les autorités dans les cas les plus graves. Toutefois, l'enjeu dépasse la seule modération des contenus préjudiciables. Nous nous mobilisons et investissons massivement dans des initiatives en faveur du bien-être des jeunes utilisateurs, portées par notre équipe dédiée à la santé mentale et au bien-être en ligne.
Ainsi du partenariat annoncé il y a quelques semaines avec Ecpat International, organisation non gouvernementale de référence dans la protection de l'enfance : cette initiative fait écho aux préoccupations de votre délégation, puisqu'elle vise à remettre en question les normes et les stéréotypes de genre néfastes, y compris les attentes rigides liées à la masculinité toxique. Notre objectif est de lever les freins qui empêchent les adolescents de demander de l'aide. À cette fin, nous développons avec Ecpat des ressources destinées aux mineurs, aux parents, aux tuteurs, mais aussi aux modérateurs bénévoles de Discord, afin de les guider face aux situations complexes rencontrées sur la plateforme.
En conclusion, si l'architecture de Discord ne comporte pas des logiques d'amplification algorithmique, nous assumons pleinement notre responsabilité en matière de sécurité. Nous nous imposons un cadre exigeant, axé sur la protection des mineurs. Comme les autres intervenants l'ont souligné, les plateformes ne peuvent mener ce combat seules. Nous appelons de nos voeux, en ce domaine, un renforcement de l'éducation des jeunes, qui ont besoin de clés pour identifier et déconstruire ces discours. Il convient également d'intensifier les efforts de recherche pour mieux appréhender ces dynamiques, ce à quoi participent précisément les travaux de votre délégation.
Mme Laurence Pécaut-Rivolier, membre du collège de l'Autorité de régulation de la communication audiovisuelle (Arcom) et représentante institutionnelle de l'Observatoire de la haine en ligne. - J'ai déjà eu l'honneur d'être auditionnée par votre délégation. Je me bornerai donc à résumer brièvement les propos que j'ai tenus précédemment, afin d'apporter des éléments nouveaux, ce qui n'est guère difficile en la matière, tant l'actualité et les évolutions y sont permanentes.
Lors de ma dernière intervention, j'évoquais les difficultés inhérentes à la régulation des plateformes en ligne. Contrairement aux médias audiovisuels traditionnels, nous faisons face à des acteurs internationaux qui ne dépendent d'aucune attribution nationale de fréquences et gèrent des milliards de contenus qu'ils n'éditorialisent pas, du moins pas de manière directe. À cela s'ajoute le recours au pseudonymat, qui donne aux utilisateurs le sentiment d'être totalement affranchis des contraintes sociales et juridiques habituelles. Notre rôle consiste précisément à repérer les dérives et à mener un travail de responsabilisation.
Je vous indiquais également que l'Arcom s'efforce d'identifier les chantiers les plus urgents, tant en matière de plateformes que de contenus, afin d'optimiser l'efficacité de ses actions face aux difficultés majeures. Concernant les plateformes, notre action se déploie auprès des plus grands acteurs, sous l'égide de la Commission européenne. Pour ce qui est des contenus, il s'agit parfois de répondre à des situations qui provoquent un tel scandale qu'une intervention immédiate s'impose. Même si le nombre de personnes directement touchées s'avère parfois limité, intervenir demeure indispensable pour préserver la confiance des citoyens dans les institutions et pour démontrer qu'il y a bien réponse et sanction effectives.
Dans le choix des urgences à traiter, nous sommes confrontés à une pression constante. La semaine dernière encore, nous avons reçu une dizaine de signalements émanant des services gouvernementaux au sujet de sites ou de plateformes ayant suscité une vive polémique, souvent à juste titre. Il s'avère extrêmement difficile de répondre à l'ensemble de ces sollicitations. Nous avons ainsi le sentiment permanent d'être tiraillés entre l'obligation d'apporter une réponse à des situations particulières et la nécessité de mener un travail plus générique pour améliorer globalement le système.
Pour répondre à ces enjeux et réguler les plateformes, nous disposons de trois leviers.
Le premier repose sur la collaboration avec l'autorité judiciaire. Le rôle du juge a été fréquemment rappelé, et il est en effet capital. Le juge pénal exerce une fonction essentielle lorsqu'il s'agit de traiter des contenus illicites, et notamment des discours masculinistes.
Nous travaillons en étroite coordination avec le Pôle national de lutte contre la haine en ligne (PNLH) et la section cybercriminalité du parquet de Paris pour détecter les infractions et identifier leurs auteurs. La priorité revient naturellement au juge. En ma qualité de magistrate, je sais que l'institution judiciaire, malgré l'importance de ces problématiques, ne peut intervenir systématiquement. C'est précisément la raison pour laquelle le PNLH et le parquet cyber ont été créés. À l'instar de l'Arcom, ils mènent des actions d'envergure destinées à mettre en lumière les infractions, à sensibiliser l'opinion, à sanctionner les coupables et à donner à ces sanctions une publicité officielle, afin de renforcer leur portée dissuasive.
Le PNLH se concentre spécifiquement sur les contenus. Ses services ciblent un certain nombre d'individus qui lui ont été signalés comme propagateurs systématiques de haine en ligne, et de discours masculinistes en particulier. Le pôle s'attache à faire aboutir ces dossiers et à les porter devant la chambre correctionnelle compétente afin de montrer que le pseudonymat ne garantit en rien l'impunité.
La section cybercriminalité adopte une perspective différente en ciblant les plateformes et les sites eux-mêmes, lorsqu'ils manquent à leurs obligations de modération et de gouvernance. Ce travail a permis de faire aboutir plusieurs procédures importantes récemment.
Je mentionnerai également le Parquet national antiterroriste (Pnat), qui a considéré en 2025 que certains contenus diffusés par la mouvance des « incels » pouvaient être qualifiés de terroristes. Cette qualification s'applique dès lors que les propos dont il s'agit s'inscrivent dans une démarche violente de contestation sociétale visant à remettre en cause des principes fondamentaux. Une telle reconnaissance textuelle constitue une aide précieuse pour l'ensemble des acteurs, car elle permet de catégoriser précisément ces menaces.
Face aux signalements et aux affaires d'envergure, l'Arcom examine la nature des faits. Si le juge pénal décide de s'en saisir, nous lui apportons notre concours en documentant au maximum les dossiers.
Dans le cas contraire, nous évaluons l'opportunité d'une intervention au titre de notre deuxième mode d'action : la mise en oeuvre du RSN, plus connu sous le nom de Digital Services Act (DSA), outil d'une valeur inestimable.
Dans le cadre du RSN, notre action s'exerce de manière plus indirecte, par la gestion des risques systémiques. Il s'agit de vérifier que les plateformes ont mis en place les moyens de prévenir ceux-ci. Nous n'avons pas compétence pour intervenir directement sur les contenus individuels. Notre mission consiste, pour les très grandes plateformes ne relevant pas de la compétence française, à faire remonter à la Commission européenne nos éventuels constats de non-respect de leurs obligations par les plateformes, notamment en ce qui concerne l'évaluation et l'atténuation des risques systémiques. Dès lors, toute la difficulté réside dans la définition de ce qu'est un risque systémique.
Comme nous l'évoquions lors de notre précédente rencontre, le masculinisme peut désormais être qualifié de risque systémique sur certaines plateformes. Nous avons formalisé une première documentation sur ce sujet dans notre rapport consacré au sexisme en ligne. Ce travail a mis en évidence le caractère massif du phénomène et l'utilisation de techniques de diffusion spécifiques. L'intérêt pour cette question doit être d'autant plus soutenu que ces contenus ne sont pas toujours immédiatement identifiables comme problématiques : ils le deviennent par leur inscription dans un contexte global et par leur republication répétée, révélant un système de rabaissement de la femme qui n'apparaît pas au premier regard. Il est donc capital de travailler à l'identification de ce risque systémique.
Nous nous appuyons également sur le réseau des signaleurs de confiance que nous avons agréés. La France ne dispose pas encore de signaleur de confiance spécifiquement dédié à la lutte contre le sexisme. Les structures existantes sont généralistes, mais un acteur spécialisé ferait assurément oeuvre utile. Par ailleurs, nous faisons en sorte que la communauté scientifique puisse accéder plus largement aux données des plateformes, ce qui demeure difficile aujourd'hui, bien que l'article 40 du RSN prévoie explicitement une telle ouverture.
Cette question rejoint directement une autre problématique cruciale : dans quelle mesure les algorithmes des plateformes favorisent-ils la mise en avant et la valorisation des discours masculinistes, leur conférant ainsi une audience qu'ils n'auraient jamais obtenue sans cette amplification artificielle ? C'est là tout l'enjeu du RSN.
Notre troisième mode d'intervention passe par l'Observatoire de la haine en ligne. Cet organisme possède une histoire singulière. Il a été créé par la loi du 24 juin 2020 visant à lutter contre les contenus haineux sur internet, dite loi Avia. Ce texte affichait une ambition très large et l'Observatoire n'y occupait qu'une place modeste. Toutefois, après la censure de l'essentiel du texte par le Conseil constitutionnel, ce dispositif a subsisté et a finalement acquis une dimension tout à fait particulière.
L'Arcom a été chargée de sa mise en oeuvre, de la désignation de ses membres et de l'animation de ses travaux. Initialement, nous avons conçu cet observatoire comme un espace d'accompagnement de la régulation et de mise en réseau des acteurs. C'est pourquoi il réunit les principales plateformes en ligne. Il convient toutefois de préciser que certains grands acteurs, qui n'ont pas été auditionnés aujourd'hui, n'y siègent pas, à l'instar de Telegram ou de Signal.
L'Observatoire rassemble de grandes plateformes, des représentants de l'autorité judiciaire, des délégués des ministères de l'intérieur, de la justice et de la culture, ainsi que des représentants de la société civile et du monde associatif. Afin de garantir l'efficacité des échanges, le nombre de participants doit rester restreint.
Dans un premier temps, cette structure a permis aux différents acteurs de se coordonner pour détecter les signaux d'alerte et identifier les interlocuteurs directs en cas de crise. Ce fut le cas lors de la préparation des jeux Olympiques et Paralympiques. Nous avions mis en place un dispositif d'action partagé, l'idée étant de savoir vers qui nous tourner si des vagues de cyberharcèlement ciblaient certains athlètes ou catégories de personnes. Le rapport publié par l'Arcom - et non ici par l'Observatoire - a révélé que le volume de harcèlement en ligne a été heureusement inférieur aux craintes initiales, sans doute grâce au « bon esprit » qui a plané sur l'événement. Néanmoins, les dérives constatées ont avant tout visé les femmes et ont présenté une dimension transphobe très nette.
Depuis quelques mois, l'Observatoire est entré dans une deuxième phase de son existence. Il a désormais pour mission d'approfondir des thématiques précises afin de formuler des solutions concrètes à droit constant, tout en signalant les éventuelles failles de la législation en vigueur. Deux chantiers majeurs sont inscrits au programme de cette année.
Le premier concerne les conditions générales d'utilisation (CGU) des plateformes. Ce sujet peut sembler éminemment technique, mais les propos introductifs de cette table ronde suffisent à démontrer qu'il n'en est rien. En réalité, pour les opérateurs internationaux, les CGU constituent le principal levier d'action en matière de modération, car elles s'appliquent de manière uniforme à l'échelle mondiale, contrairement aux lois nationales dont la mise en oeuvre au cas par cas s'avère plus complexe. Analyser le contenu précis de ces CGU et identifier leurs failles ou leurs contradictions avec nos lois nationales représente un moyen d'action extrêmement puissant pour contraindre les plateformes à assumer leurs responsabilités. Nos premiers échanges confirment la richesse de cette matière.
Le second sujet est celui du rôle des influenceurs dans la diffusion de la haine en ligne. L'intérêt d'une telle étude est évident, mais l'examen de cette question révèle une multitude de sous-thématiques assez affolante... Il faut aborder la figure de l'influenceur à la fois comme auteur et comme victime, tout en définissant précisément ce statut par rapport à celui de créateur de contenu. Dès que l'on traite de l'influence en ligne, le phénomène du masculinisme apparaît de manière systématique. Toutes les associations soulignent sa récurrence, en insistant de nouveau sur la problématique des zones grises, qui constitue sans doute une spécificité propre au masculinisme et au sexisme sur internet.
Pour conclure, je souhaite rappeler les principaux obstacles auxquels nous sommes confrontés.
Lorsque nous menons des études, nos travaux sont fortement entravés par les CGU des plateformes, qui interdisent le recours au scraping et la création de faux comptes. Cette interdiction s'applique y compris aux régulateurs comme l'Arcom, dont la démarche est pourtant bienveillante et qui utiliseraient ces techniques à des fins de documentation. Le scraping consiste à collecter des données en masse sur les plateformes afin, par exemple, d'alimenter des outils d'intelligence artificielle. S'il est interdit, c'est parce qu'il peut faire l'objet d'utilisations malveillantes, et je laisserai les représentants des plateformes s'exprimer sur ce point. Toutefois, cette règle nous prive, ainsi que la communauté des chercheurs, de la possibilité de mener des analyses quantitatives d'envergure sur les dynamiques internes des réseaux.
Le deuxième obstacle réside dans l'insuffisance des moyens alloués aux signaleurs de confiance, dont le rôle est pourtant essentiel pour détecter les dérives et déclencher les interventions.
Enfin, la troisième difficulté tient au développement de comptes privés ou de partages s'effectuant sous forme de liens hypertextes plutôt que de contenus directement visibles. Ces pratiques font obstacle aux signalements et empêchent tant l'autorité judiciaire que l'Arcom d'accéder aux échanges pour évaluer l'ampleur de la diffusion de ces discours de masse.
Mme Laurence Rossignol, rapporteure. - Ma première question s'adresse spécifiquement aux représentants des plateformes : elle porte sur un terme qui a été employé à deux reprises, et qui vient d'être repris par Mme Pécaut-Rivolier, celui de « zone grise ».
Cette expression a été utilisée il y a quelques années dans le débat public concernant le consentement et le viol, afin de désigner un espace prétendument indécis entre le consentement et le défaut de consentement. Avec le temps et grâce à une expertise accrue en matière de violences sexuelles, cette notion de « zone grise » a fort heureusement disparu de notre vocabulaire au profit d'une approche beaucoup plus claire, rappelant que le consentement est binaire : c'est oui ou c'est non. Cette prétendue zone grise constituait en réalité un espace d'impunité dans lequel les agresseurs se déployaient pour s'affranchir de leurs responsabilités.
Je relève ce terme car je ne l'avais pas entendu depuis plusieurs années, alors qu'il a, à vous entendre, un contenu opérationnel pour vos plateformes. Cela m'amène à vous interroger sur la méthode que vous employez pour appréhender cette réalité.
Les contenus manifestement illicites, tels que l'apologie du terrorisme, l'antisémitisme, l'homophobie, le racisme ou la transphobie, s'identifient de manière évidente. En ce qui concerne le masculinisme, je souhaite savoir comment vous avez travaillé pour identifier précisément ce phénomène. Comment prévoyez-vous de sortir de cette « zone grise » dont par ailleurs nous nous sommes extraits, dans un autre domaine, pour la définition du consentement et du viol ?
Notre délégation s'attache elle-même à documenter et à cerner cette idéologie ; quant à vous, avec quels experts collaborez-vous pour mener ce travail ?
Enfin, comment formez-vous vos équipes à la définition et à la compréhension des discours masculinistes, et comment appréhendez-vous les contenus qui ne sont pas directement illicites ?
M. Thibault Guiroy. - Ce terme de « zone grise », nous ne l'utilisons pas. J'aurai le plaisir d'être auditionné la semaine prochaine, probablement dans cette même salle, par la mission d'information sur les « zones grises » de l'information, conduite par vos collègues Agnès Evren, Laurent Lafon et Sylvie Robert, mais je redirai que les plateformes en ligne n'ont pas l'usage de cette notion.
Nous travaillons en vertu de nos CGU, mentionnées par la représentante de l'Arcom. Notre manière d'appréhender ces contenus consiste à les supprimer dès lors qu'ils franchissent la ligne rouge de conditions générales d'utilisation. Typiquement, pour ce qui est des contenus masculinistes, nous les retirons lorsqu'ils contreviennent à nos règles relatives aux discours de haine en ligne ou au cyberharcèlement. Nos règles sur ces sujets se caractérisent par une granularité extrêmement fine ; chaque règlement s'étend sur plusieurs pages et s'accompagne d'exemples précis de contenus interdits. Les discours masculinistes visant à dégrader ou à dévaloriser l'image des femmes figurent précisément parmi les exemples de contenus que nous retirons.
Le second levier d'action réside dans la suppression des contenus pour non-conformité au droit français. Il y a plusieurs mois, les représentants de toutes les plateformes ont été convoqués par la ministre Aurore Bergé sur ces questions. Un certain nombre de cas d'influenceurs et de créateurs de contenu problématiques nous ont alors été soumis.
Soucieux de mener à bien notre mission, nous avons immédiatement transmis ces contenus à nos équipes de modération pour vérification. Par acquit de conscience, j'ai également sollicité notre conseil, un avocat historique en droit de la presse que l'on ne saurait soupçonner d'être « pro-plateformes ». Je lui ai demandé s'il existait des fondements juridiques pour ordonner le retrait de ces publications. En parallèle, nos équipes de modération nous ont indiqué que ces contenus ne tombaient pas sous le coup de nos politiques de modération.
Il faut préciser, à ce stade de nos échanges, que les contenus diffèrent considérablement selon les plateformes. YouTube privilégie les formats longs, tandis que les formats courts sont plus fréquents sur Instagram ou TikTok. Le fait qu'un créateur de contenu se comporte mal sur une plateforme ne signifie pas qu'il adopte le même comportement sur la nôtre. Nous nous dispenserions volontiers de la présence de certains profils, mais nous ne pouvons procéder à des suppressions arbitraires de comptes : une telle pratique violerait le RSN. Nous devons impérativement motiver nos décisions, nous appuyer sur une base juridique claire ainsi que sur nos CGU, tout en garantissant un droit de recours aux utilisateurs.
La réponse de notre conseil m'a surpris. Il m'a indiqué qu'en l'état actuel du droit, aucun moyen d'action ne permettait d'intervenir, ces contenus étant parfaitement licites. Autrement dit, il est impossible de supprimer les contenus dont nous parlons pour non-conformité au droit français.
Ce constat rejoint l'esprit des travaux de l'Observatoire de la haine en ligne : de la même façon que la définition du consentement a été modifiée, la loi française doit sans doute évoluer sur le point qui nous occupe aujourd'hui. Certains spécialistes du droit de la presse estiment qu'une telle évolution irait dans le sens de l'histoire ; d'autres rappellent qu'en ces matières, le législateur doit intervenir d'une main tremblante pour éviter des effets de bord dommageables ou une extension disproportionnée des incriminations. Pour notre part, nous appelons de nos voeux ces clarifications législatives : elles permettront d'éclairer nos politiques de modération, qui, le cas échéant, refléteront les nécessaires évolutions du droit français.
Mme Sarah Bouchahoua. - Plusieurs règles permettent de traiter les contenus masculinistes, misogynes, sexistes ou antiféministes chez Snapchat. On a beaucoup parlé des CGU ; le droit local s'applique également. Ces contenus relèvent, par exemple, des règles relatives aux discours haineux, aux comportements haineux - y compris sur la base du sexe, du genre ou du genre perçu -, au harcèlement et à l'intimidation.
Les contenus dégradants, déshumanisants ou véhiculant des stéréotypes nuisibles et l'incitation à la violence sont également concernés. On peut penser aux manifestations de transphobie durant les jeux Olympiques de 2024 et au body shaming qu'instaurent certains systèmes pseudo-scientifiques d'évaluation des personnes, à l'instar des classements de valeur ou d'attractivité.
Concrètement, les contenus masculinistes peuvent faire l'objet de diverses mesures d'application lorsqu'ils tombent sous le coup de nos règles : nous pouvons envoyer des notifications, retirer un contenu, supprimer un compte mais, surtout, bannir un utilisateur.
J'ai rejoint Snapchat en 2021. Nous avons travaillé avec les députés Arthur Delaporte et Stéphane Vojetta, qui étaient rapporteurs de la loi du 9 juin 2023 visant à encadrer l'influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux, car nous avons réalisé que, malheureusement, il restait beaucoup à faire.
Plusieurs créateurs de contenu ne respectaient absolument pas les conditions générales d'utilisation de Snapchat ni le droit local. Nous avons donc envoyé des signalements et supprimé des comptes. Mais internet est une zone sans frontières. Nous bannissons certains utilisateurs malveillants de Snapchat, mais ils peuvent revenir sur d'autres plateformes.
Nous avons également travaillé sur les communications commerciales et les placements de produits, avec la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) et le sujet du cyberharcèlement des créateurs de contenu, en particulier des candidates de téléréalité, est revenu également dans le cadre de l'Observatoire de la haine de l'Arcom.
Lorsque l'on parle de masculinisme, nous sommes sur une ligne de crête entre la « liberté d'expression » et le droit. Aux termes du DSA, ce qui est illégal hors ligne est également illégal en ligne. Malheureusement, aujourd'hui, le droit n'est pas encore adapté à ce type de phénomènes.
Nous nous appuyons sur des groupes de travail par l'intermédiaire de l'Arcom, avec les groupes spécifiquement constitués au sein de l'Observatoire de la haine en ligne, mais également avec les organisations non gouvernementales (ONG). L'association Stop Fisha, par exemple, est très active en la matière, même si elle n'a pas encore les ressources nécessaires pour être véritablement un trusted flagger, c'est-à-dire un signaleur de confiance. Elle travaille de concert avec Point de Contact ou e-Enfance.
Par la suite, nous avons mis en place le Safety Advisory Board de Snapchat. Il s'agit d'une instance réunissant plusieurs experts internationaux, au sein de laquelle la France est représentée par Justine Atlan, directrice générale de l'association e-Enfance. Nous avons également notre conseil européen du bien-être en ligne, qui réunit plus d'une quinzaine d'adolescents, utilisateurs de Snapchat. Nous essayons de réunir ce conseil une fois par mois pour suivre les tendances observées sur le terrain, faire évoluer notre produit sur Snapchat, définir les fonctionnalités à mettre en place et, surtout, déterminer comment sensibiliser nos équipes aux nouvelles pratiques. Le masculinisme a été abordé à travers différentes interactions, mais il est encore difficile aujourd'hui de le définir avec précision.
Nous nous appuyons sur les informations apportées par les signaleurs de confiance. Nous avons mentionné e-Enfance ou Point de Contact, mais, je le redis, il est complexe de cerner exactement ce qui relève du masculinisme, tout comme il l'est de définir les modalités de sanction et, surtout, de gérer l'effet de déplacement. En effet, si l'individu est sanctionné sur notre plateforme, comment l'empêcher de recréer des comptes ailleurs, de migrer vers d'autres espaces numériques ?
Nous rédigeons aussi des notes en interne pour prévenir nos équipes de modération de l'émergence de nouvelles tendances. Je pense, par exemple, à l'usage des émojis. Certains utilisateurs emploient des mots communs de la vie quotidienne pour définir une chose précise.
Nous travaillons avec l'ensemble des acteurs, par cette coopération public-privé, pour recueillir le maximum d'informations du terrain et permettre aux équipes de modération de s'adapter aux nouvelles tendances perçues.
M. Mauro Sanna. - Notre approche est assez similaire. Nous n'utilisons pas, chez Discord, le terme de « zone grise » pour évoquer les contenus qui sont problématiques sans être forcément interdits par la loi. Dans le cadre de mon travail à l'international, j'ai entendu l'expression anglaise borderline content, c'est-à-dire un contenu qui frôle les limites.
À l'instar des autres plateformes, nous utilisons nos Règles Communautaires pour couvrir un éventail assez large de comportements qui ne sont pas les bienvenus. Nos équipes analysent les tendances et mettent à jour nos Règles Communautaires au moins une fois par an. En interne, nous mettons à la disposition de nos équipes de sécurité des fiches explicatives pour leur permettre de mettre correctement en oeuvre ces règles, spécifiquement dans les cas difficiles.
Enfin, la transparence envers l'utilisateur est primordiale. Nos Règles Communautaires constituent une liste très simple : pour chacune d'entre elles, une page fournit des exemples de comportements ou de contenus interdits.
Mme Béatrice Gosselin, rapporteure. - On a parlé des contenus limites, voire borderline. Mme Pécaut-Rivolier a évoqué les contenus qui reviennent de façon systématique. Travaillez-vous sur le caractère systémique des contenus qui ne sont pas forcément illicites, mais qui, par leur retour perpétuel, peuvent avoir un aspect délictueux ?
Vous parliez, monsieur Sanna, des espaces accessibles sur invitation. Dans chacun de ces groupes, peut-il y avoir ce codage interne qui vous échapperait et qui pourrait rendre le contenu illicite, sans que la personne non initiée ne puisse le découvrir ?
M. Mauro Sanna. - Dans le DSA, il y a la catégorie des très grandes plateformes, auxquelles s'appliquent les obligations liées aux risques systémiques. Discord est une plus petite plateforme. Au-delà de la conformité au droit, nous voulons que Discord soit un espace positif et que nos utilisateurs puissent s'y connecter pour y créer des communautés. Nous disposons en interne d'experts qui analysent les tendances et qui nous permettent de minimiser les risques avant de déployer de nouvelles fonctionnalités.
Sur Discord, la grande majorité des serveurs sont de petits espaces privés, sur invitation uniquement. L'accès se fait par l'envoi d'un lien transmis par un de vos amis ou une de vos communautés. La grande majorité sert à un groupe d'amis pour discuter, jouer à des jeux vidéo ou organiser l'activité d'un club de foot. Évidemment, en tant que service de communication, nous sommes conscients que des acteurs malintentionnés peuvent détourner notre outil de sa finalité initiale. Dans certains espaces sur invitation, des communautés utilisent ces codes difficiles à repérer.
Nos approches proactives sont particulièrement efficaces lorsque ces groupes virent vers l'extrémisme. Dans ce cas de figure, nous pouvons utiliser notre technologie pour détecter proactivement ces espaces. En revanche, pour des discours qui sont dans la « zone grise », c'est-à-dire d'apparence plus inoffensive, les moyens technologiques pour détecter ce genre de contenu de façon proactive sont plus limités. Nous nous reposons alors largement sur les signalements de nos utilisateurs, sur ceux des signaleurs de confiance et sur les contrôles utilisateurs.
Mme Sarah Bouchahoua. - L'exemple de l'antisémitisme en ligne est assez révélateur. Il faut saluer le travail du Crif et de la Licra, avec qui nous travaillons.
Toutefois, comme l'a souligné l'Arcom, en matière de cybersexisme et plus précisément de masculinisme, il n'y a malheureusement pas d'association majeure sur le sujet. J'ai cité Stop Fisha ; nous pouvons aussi évoquer la Fondation des femmes, qui ne travaille pas encore assez sur les aspects numériques et qui a besoin de davantage de soutien.
Mme Laurence Rossignol, rapporteure. - Vous représentez des entreprises privées, qui gagnent beaucoup d'argent, et il revient à des associations dépourvues de vos moyens d'accomplir le travail que vous ne pouvez effectuer. Financez ces associations pour qu'elles puissent faire ce travail !
M. Thibault Guiroy. - Nous finançons déjà les signaleurs de confiance via le RSN, puisque ceux-ci sont soutenus par un montant que nous reversons à la Commission européenne.
Par ailleurs, nous n'avons aucune réticence à soutenir les associations. Mon collègue de Google a récemment participé à une commission d'enquête sur les mécanismes de financement des politiques publiques : Google a versé aux associations françaises 660 millions de dollars sur les vingt dernières années. Ce soutien est extrêmement important. Il n'y a pas forcément d'association reconnue dans ce domaine précis qui pourrait prétendre au statut de signaleur de confiance. Il ne s'agit pas uniquement d'une question de moyens.
Nous réduisons par ailleurs les recommandations des contenus qui, s'ils sont inoffensifs lors d'un visionnage unique par des adolescents, peuvent devenir nocifs ou toxiques à force de répétition. Nous cessons de recommander les contenus encourageant la violence verbale ou physique.
Le meilleur exemple a été fourni récemment par une experte de la protection de l'enfance lors d'une table ronde : une vidéo de contouring - une technique de maquillage visant à affiner les traits du visage - regardée une fois n'est pas problématique. En revanche, après le visionnage consécutif d'une vingtaine de vidéos similaires, un adolescent s'interrogera inévitablement sur la conformité de son propre visage aux normes ou aux standards. C'est typiquement le genre de vidéo que nous allons dérecommander.
Mme Sarah Bouchahoua. - Sur la question du financement, nous intervenons via la taxe du DSA, mais un financement volontaire de notre part existe également, notamment au profit de e-Enfance ou de Point de Contact. Nous avons dernièrement soutenu la Fondation des femmes pour amplifier sa stratégie de communication sur la plateforme.
Un point mérite d'être souligné dans la perspective de votre rapport : la plupart des grandes plateformes en France s'acquittent de la taxe Gafam, mise en place en 2019. Or, nous ignorons toujours les modalités de sa redistribution, alors même que cette taxe représente 3 % du chiffre d'affaires en France, soit, me semble-t-il, 850 millions d'euros cette année. Nous ne cessons d'interroger Bercy - la Direction générale des entreprises (DGE), la Direction générale des finances publiques (DGFiP) et les multiples ministres de l'économie et des finances - sur ce point depuis des années, car cet argent peut aller aux signaleurs de confiance et aux petites associations qui manquent de moyens. Une question parlementaire pourrait être intéressante à ce sujet.
Mme Olivia Richard, rapporteure. - Vous avez raison, le contrôle de l'allocation des fonds publics est difficile, y compris pour nous.
Il manque à cette table ronde des acteurs qui n'ont pas accepté de venir. Depuis plus de six mois que nous travaillons sur ce rapport, la plateforme Discord est très fréquemment citée. C'est un lieu de rencontre privilégié pour les masculinistes, favorisant l'enfermement et l'entre-soi. Manifestement, le dispositif actuel n'est pas suffisant.
Comment concilier l'impératif de modération avec l'interdiction de surveillance générale ? Vous avez indiqué que des mesures étaient prises dès que la ligne était franchie, mais je n'ai pas toujours pas compris où elle se situait précisément.
Par exemple, peut-on partager sur Snapchat des vidéos intimes susceptibles de servir au cyberharcèlement, impliquant potentiellement des mineurs ?
Monsieur Guiroy, lorsque mon fils, aujourd'hui âgé de treize ans, était à l'école primaire, il avait un ami de dix ans qui avait créé sa propre chaîne YouTube pour y montrer son quotidien. Je l'ai signalé sans jamais obtenir de réponse.
Par ailleurs, mon fils regarde sur YouTube des vidéos relatives au jeu Minecraft, et l'algorithme a fini par lui proposer des contenus qu'il a lui-même qualifiés de « trucs dégoûtants », des contenus pornographiques. Qu'en est-il de la vérification de l'âge, sachant qu'il est possible d'accéder à tout type de contenu sans la moindre identification ?
Enfin, quid de l'émission L'Île de la tentation, version fruits ? Clairement masculiniste, elle fait un tabac auprès des jeunes qui la regardent sans comprendre le message sous-jacent.
Vous appelez tous les trois à une modification législative pour vous donner des outils. Pourquoi ne pas plutôt adapter vos propres CGU pour une application mondiale ? La France n'est pas la seule concernée. Il est préférable de modifier les outils à votre portée plutôt que d'attendre du Parlement une loi dont l'application par le système judiciaire, déjà saturé, sera laborieuse.
Et n'hésitez pas à créer une fondation pour vous autocontrôler !
M. Mauro Sanna. - Discord a été conçu pour favoriser les interactions entre amis et communautés, particulièrement autour du jeu vidéo. Si notre vocation est d'offrir un espace positif, nous avons conscience que notre plateforme, comme tout outil de communication, peut être détournée par des acteurs malveillants. C'est la raison pour laquelle nous voulons travailler avec vous sur ces problématiques.
S'agissant de la ligne que nous suivons, nous nous fondons sur nos Règles Communautaires.
Mme Olivia Richard., rapporteure. - Je prendrai un exemple précis. Si quelqu'un dit « si ta femme veut sortir avec des copines en boîte, il faut la punir », ce n'est pas pénalement répréhensible. Que faites-vous ?
M. Mauro Sanna. - N'étant pas un expert des Règles Communautaires, je préfère revenir vers vous sur ce point. Tout repose sur l'application de ces règles.
M. Thibault Guiroy. - Sur cet exemple précis, il me semble qu'il s'agit d'une incitation à la violence.
Mme Olivia Richard, rapporteure. - Le parquet de Paris n'est pas de votre avis. Le mot « punir » n'étant pas assez clair, aucune qualification pénale ne s'applique. Où est la limite avec la liberté d'expression ?
Mme Laurence Rossignol, rapporteure. - Le parquet estime qu'il n'y a pas de base légale pour poursuivre.
M. Thibault Guiroy. - Je ne suis pas chargé d'appliquer nos politiques : ce sont nos modérateurs qui sont formés pour cela. Néanmoins, je pense que nous remettrions en cause leur décision s'ils estimaient qu'il ne faut pas supprimer ce type de message, et que nous aurions gain de cause.
Concernant la vérification de l'âge, la plateforme est interdite aux moins de treize ans. Nous avons développé l'application YouTube Kids, dédiée aux enfants, proposant des contenus adaptés et classés par tranches d'âge. YouTube vous redirige vers un lien de téléchargement de l'application YouTube Kids si vous regardez un contenu destiné aux enfants.
C'est la théorie, car, à 9 ou 10 ans, un enfant a souvent entendu parler du YouTube classique et en a marre d'être enfermé dans un corpus restreint choisi par ses parents, avec un minuteur - 30 ou 45 minutes. Il veut regarder les contenus de Squeezie, de Tibo InShape et d'Amixem. C'est la raison pour laquelle nous proposons la supervision parentale des comptes pour les 9-18 ans. Le compte est relié à celui du parent, ce qui bloque l'accès aux fonctionnalités sociales - commentaires, likes et diffusion de vidéos, notamment en direct - et le corpus de vidéos est adapté à l'âge.
La vérification de l'âge n'est pas obligatoire, mais nous procédons par estimation de l'âge (age inference ou age assurance). Si l'activité d'un utilisateur qui s'est déclaré majeur s'apparente à celle d'un mineur, nous interrompons son activité pour exiger une preuve de majorité au moyen d'un selfie ou d'une pièce d'identité.
La pornographie est interdite sur YouTube, et systématiquement bloquée.
Mme Dominique Vérien, présidente. - Dans le cas évoqué par Mme Richard, un jeune de dix ans a créé sa chaîne et y poste son quotidien.
M. Thibault Guiroy. - Il a certainement déclaré être majeur. L'algorithme permet de détecter que l'activité de l'utilisateur laisse penser qu'il est mineur. Il croise l'historique de visionnage sur YouTube avec l'historique de recherches sur Google, si un compte a été ouvert sur les deux plateformes, dans le strict respect du règlement général sur la protection des données (RGPD), pour déduire l'âge réel. Les tests menés par nos ingénieurs montrent que ce système fonctionne bien, mais il n'est pas infaillible.
Mme Sarah Bouchahoua. - J'ai travaillé pour l'ancienne députée Laetitia Avia sur la loi qui porte son nom, laquelle a été largement dénaturée et détricotée. Outre l'Observatoire de la haine en ligne, il reste tout de même la formation des enseignants.
On a parlé de la ligne de crête entre la liberté d'expression et les actions de modération. Cette loi avait initialement pour ambition de réguler les plateformes, car l'espace numérique était une zone de non-droit. L'article 1er imposait le retrait des contenus haineux « dans les plus brefs délais » ; puis, il a été modifié, durci, pour qu'ils soient retirés dans les vingt-quatre heures sous peine d'une amende de 6 % du chiffre d'affaires. Il convient de faire très attention, notamment quand cela touche aux libertés fondamentales, comme la liberté d'expression. Car nous pouvons vite tomber dans une logique de sur-censure où, par crainte des sanctions, les plateformes préfèreraient supprimer préventivement des contenus pourtant licites. Le rôle du législateur est donc de trouver un équilibre entre la lutte contre les contenus illicites et la préservation des libertés fondamentales.
Concernant le masculinisme, nous devons d'abord définir ensemble ce phénomène. Il faut également prévenir et éduquer les auteurs de contenus. En matière de terrorisme, le Groupe de contact permanent (GCP) est particulièrement efficace : il regroupe les plateformes et les autorités au sens large, notamment la Plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements (Pharos), l'Office anti-cybercriminalité (Ofac), le Groupement interministériel de contrôle (GIC), la Direction générale de la sécurité intérieure (DGSI) et la Direction générale de la sécurité extérieure (DGSE), qui nous font un état des lieux de la menace terroriste en France. Nous travaillons ensemble pour être les plus réactifs et proactifs possible.
Nous demandons la création d'un GCP en matière d'éducation nationale, avec l'ensemble des plateformes, le 3018, avec l'association e-Enfance, et les recteurs d'académie, pour faire remonter les tendances dangereuses émergentes, comme la nouvelle variante du jeu du foulard, et adapter notre modération en conséquence.
Le DSA garantit à l'utilisateur un droit d'appel en cas de suppression de contenu s'il estime que ses droits fondamentaux ont été violés. Le contenu pourra être remis en ligne s'il s'avère, par exemple, être à visée humoristique.
Quant à l'exemple de la phrase « il faut punir les femmes », il me semble que ce contenu tomberait dans la rubrique « Menaces, violence et préjudices » de nos CGU. Nous interdisons ce qui suit : « Encourager ou adopter un comportement violent ou menaçant, y compris tout contenu exprimant l'intention de causer un préjudice physique ou émotionnel grave à une personne, à un groupe de personnes ou de causer des dommages matériels. Lorsque le contenu fait état d'une menace crédible et imminente pour la vie ou la sécurité d'une personne, nos équipes peuvent alerter les forces de l'ordre susceptibles d'intervenir. »
Dans les cas graves, tels que les menaces de mort ou la pédocriminalité, nous pouvons appliquer l'inversion de la logique de signalement : nous alertons le plus rapidement possible les autorités. En matière de pédocriminalité, nous travaillons avec le National Center for Missing & Exploited Children (NCMEC), le FBI américain en matière de protection des mineurs, en fournissant les adresses IP des personnes concernées. Le NCMEC se coordonne ensuite avec les autorités locales.
Sur la question des photos intimes, le partage consenti est autorisé, mais tout usage détourné est fermement condamné. La conception même de notre plateforme repose sur la confiance réciproque : un inconnu ne peut pas vous envoyer un message sur Snapchat. Des garde-fous ont été instaurés : la messagerie est conçue comme un contrat de confiance entre utilisateurs. Si un interlocuteur effectue une capture d'écran ou un enregistrement d'un échange, une notification alerte instantanément l'autre utilisateur. Je l'ai dit, nous voulons que l'utilisateur devienne acteur de ses interactions.
Nous avons retravaillé notre mécanisme de signalement car les jeunes ont l'impression qu'ils deviendront des « balances » s'ils font des signalements ou que la plateforme ne fera rien. Dans le cas des photos intimes, la victime a parfois l'impression qu'elle est fautive. Nous avons intégré un petit laïus pour indiquer que le signalement est confidentiel.
Nous voulons appliquer des mesures plus strictes, notamment pour lutter contre la sextorsion financière. Nous n'allons pas seulement supprimer le compte, nous pouvons bannir l'utilisateur.
Nous appelons aussi à la judiciarisation de ces affaires. Une fois une réquisition judiciaire valide reçue après le dépôt de plainte de la victime, nous pouvons conserver toutes les preuves. Mais souvent, les victimes n'osent pas porter plainte. De grandes campagnes de sensibilisation du type « Boire ou conduire, il faut choisir » ou « Les antibiotiques, c'est pas automatique », pour faire du signalement des actes préjudiciables, que l'on soit victime ou témoin, seraient un véritable acte citoyen.
Mme Olivia Richard, rapporteure. - Concernant mon signalement effectué il y a deux ans, la plateforme m'a envoyé un mail pour me remercier de ma vigilance et m'indiquer qu'un contenu signalé n'était pas automatiquement retiré. Le jeune n'avait pas l'âge pour créer une chaîne YouTube : il n'y avait aucun doute dans cette affaire.
Par ailleurs, vous n'avez pas répondu sur le cas de L'île de la tentation, version fruits.
M. Thibault Guiroy. - La réponse que vous avez reçue correspond à une procédure de signalement de contenu et non de comportement. Je ne connais pas de procédure pour dénoncer un compte ouvert par un mineur de moins de 13 ans ; nous les « attrapons » nous-mêmes. Si la vidéo en elle-même n'était pas contraire à nos CGU, elle a été maintenue.
Mme Olivia Richard, rapporteure. - Il était juste trop jeune pour ouvrir une chaîne YouTube.
M. Thibault Guiroy. - Le contenu de la vidéo devait être approprié aux plus de 13 ans, raison pour laquelle elle a été maintenue sur la plateforme.
Mme Olivia Richard, rapporteure. - Il était même approprié aux moins de 13 ans, mais ma préoccupation était qu'il ne soit pas regardé par des personnes beaucoup plus âgées...
M. Thibault Guiroy. - Nous pouvons revoir le cas de ce contenu particulier. Nos taux de retrait sont plutôt satisfaisants.
Quant à la chaîne que vous citez, elle est regardée par notre cellule de veille, en raison de son écho médiatique. Si certaines vidéos mises en ligne par cette chaîne enfreignent nos CGU, elles seront supprimées. Nous avons déjà envoyé deux avertissements. Ces contenus sont présents sur plusieurs plateformes ; peut-être que des contenus problématiques sur d'autres plateformes ne sont pas mis en ligne sur la nôtre.
M. Mauro Sanna. - Sur l'exemple cité par Mme la rapporteure Richard, la politique de Discord interdit explicitement de menacer de nuire physiquement à un individu ou à un groupe.
Mme Laurence Pécaut-Rivolier. - J'ai trouvé ce débat tout à fait intéressant.
C'est dans le cadre des messageries en groupes privés et des lives - qui ne restent en ligne que pendant un temps très court - que l'on retrouve les contenus problématiques, lesquels sont difficiles à appréhender. Notre travail sur les CGU devra impérativement intégrer ce point.
L'éducation aux médias est absolument essentielle. Si nos jeunes sont surexposés aux risques, leur capacité de réaction est bien supérieure à la nôtre : la majorité a déjà fait au moins une fois un signalement. Ils connaissent les mécanismes de signalement, et nous pouvons espérer qu'ils s'en servent de mieux en mieux. Le frein principal réside dans notre propre difficulté, en tant qu'adultes, à appréhender ces réseaux en perpétuelle évolution. L'effort éducatif doit donc s'étendre aussi aux moins jeunes.
Mme Dominique Vérien, présidente. - Nous partageons vos mots de conclusion. Nous sommes en déphasage avec les plus jeunes, ce qui ne doit pas nous empêcher de les protéger. J'ai bien entendu les efforts faits par les plateformes. Les algorithmes ont tendance à proposer des contenus similaires à ce qu'un utilisateur regarde : il ne faudrait pas que le fait de regarder une vidéo masculiniste entraîne dix autres vidéos du même style, car l'adhésion vient avec la multiplication des visionnages. Je vous remercie d'avoir répondu clairement et franchement à nos questions.
La réunion est close à 16 h 25.