II. RÉGULER ET ASSAINIR L'ESPACE NUMÉRIQUE
Les travaux de la délégation ont mis en lumière que le numérique constitue aujourd'hui l'un des principaux vecteurs de diffusion des discours masculinistes.
Mais cette diffusion ne résulte pas uniquement de l'action de quelques créateurs de contenus ou communautés organisées.
Les enjeux soulevés par les discours masculinistes concernent également les systèmes de recommandation, les modèles économiques de certaines plateformes, la transparence des mécanismes de modération, ainsi que la capacité des pouvoirs publics à comprendre, détecter et sanctionner les cyberviolences.
Les rapporteures considèrent dès lors que la lutte contre la diffusion des discours masculinistes dans l'espace numérique suppose une approche globale articulée autour de trois objectifs complémentaires :
- mieux prendre en compte ces phénomènes dans le cadre de la régulation numérique ;
- responsabiliser davantage les plateformes quant aux risques qu'elles contribuent à générer ;
- et renforcer les capacités d'action des acteurs publics chargés de la détection, de la poursuite et de la protection des victimes.
A. FAIRE PLEINEMENT ENTRER LES DISCOURS MASCULINISTES DANS LE CHAMP DE LA RÉGULATION NUMÉRIQUE
1. La règlementation européenne promeut une nouvelle approche qui dépasse la seule logique de retrait des contenus
a) Les limites d'une approche fondée sur le seul retrait des contenus
La régulation des plateformes numériques s'est principalement construite autour d'une logique de retrait des contenus illicites. L'enjeu consistait avant tout à identifier les contenus contraires à la loi et à obtenir leur suppression, sans véritable prise en compte des mécanismes propres aux plateformes qui pouvaient contribuer à leur diffusion.
Cette approche montre toutefois ses limites face à des phénomènes tels que les discours masculinistes. Comme l'a souligné Laurence Pécaut-Rivolier, membre du collège de l'Arcom, « la phrase « ce qui est interdit hors ligne est interdit en ligne » a beaucoup circulé. C'est une phrase très forte qui montre bien ce qu'est la régulation, mais elle a un écueil : son a contrario, selon lequel ce qui n'est pas interdit est possible ».
Or, une part importante des contenus diffusés dans les espaces masculinistes ne relève pas nécessairement de l'illicite manifeste. Laurence Pécaut-Rivolier souligne ainsi que l'Arcom est confrontée quotidiennement à « la question des contenus qui, hors contexte, peuvent ne pas sembler manifestement illicites, mais qui le deviennent en contexte ».
Cette difficulté est particulièrement marquée s'agissant des discours sexistes et masculinistes. Comme l'a expliqué Géraldine Van Hille, chef du département Cohésion sociale de l'Arcom, « les propos masculinistes se situent essentiellement dans la zone grise et, pris isolément, semblent licites ; c'est cependant leur caractère répété qui les rend préjudiciables ».
Au-delà même de la question du caractère licite ou non des contenus, les auditions ont montré que le cadre antérieur était peu adapté pour appréhender les effets produits par les systèmes de recommandation, les dynamiques d'amplification ou encore les logiques de viralité propres aux plateformes.
b) Une nouvelle régulation centrée sur les risques systémiques
Face à ces limites, l'Union européenne a adopté en 2022 le règlement sur les services numériques (RSN) ou Digital Services Act (DSA), qui marque une évolution importante de la philosophie de la régulation.
Comme l'a rappelé Laurence Pécaut-Rivolier devant la délégation, cette régulation européenne « demande aux plateformes d'auto-évaluer les risques qu'elles génèrent et de mettre en place les moyens nécessaires pour y remédier ».
Elle précise que le choix d'une régulation européenne constituait d'ailleurs « le meilleur possible », chaque État membre ne disposant pas, pris isolément, de la capacité d'imposer des obligations efficaces à des acteurs opérant à l'échelle mondiale.
Le DSA ne repose ainsi plus uniquement sur une logique de retrait des contenus illicites. Il impose aux très grandes plateformes en ligne et aux très grands moteurs de recherche d'identifier les risques systémiques susceptibles d'être générés par leurs services, d'en évaluer les conséquences et de mettre en oeuvre des mesures destinées à les atténuer.
Au sens du DSA, un risque systémique désigne un risque résultant du fonctionnement ou de l'utilisation d'une plateforme numérique et susceptible de produire des effets significatifs sur les droits fondamentaux, la sécurité, la santé publique ou le fonctionnement démocratique. Cette notion conduit à s'intéresser non seulement aux contenus eux-mêmes, mais aussi aux mécanismes techniques et économiques qui favorisent leur diffusion à grande échelle.
La reconnaissance d'un phénomène comme risque systémique emporte des conséquences concrètes pour les plateformes concernées. Celles-ci doivent non seulement évaluer régulièrement l'ampleur du risque, mais également mettre en oeuvre des mesures destinées à le prévenir ou à en réduire les effets. Elles sont également tenues de publier des rapports d'évaluation, de se soumettre à des audits indépendants et, dans certaines conditions, de permettre l'accès à leurs données au bénéfice des chercheurs agréés.
Cette approche marque un changement profond de paradigme. Il ne s'agit plus seulement de supprimer des contenus individuels lorsqu'ils sont manifestement illicites, mais d'interroger la manière dont le fonctionnement même des plateformes, leurs systèmes de recommandation, leurs modèles économiques ou leurs choix de conception peuvent contribuer à favoriser certains phénomènes à grande échelle.
Le Digital Services Act (DSA) :
le nouveau
cadre européen de régulation des plateformes numériques
Adopté en 2022 et pleinement applicable depuis le 17 février 2024, le règlement européen sur les services numériques (Digital Services Act - DSA) s'applique à l'ensemble des intermédiaires numériques (fournisseurs d'accès à internet, places de marché, réseaux sociaux, plateformes de partage de vidéos, moteurs de recherche, services d'hébergement).
Il prévoit des obligations renforcées pour les très grandes plateformes en ligne (Very Large Online Platforms - VLOP) et les très grands moteurs de recherche (Very Large Online Search Engines - VLOSE), c'est-à-dire ceux comptant plus de 45 millions d'utilisateurs mensuels dans l'Union européenne. Au total, 25 acteurs sont considérés aujourd'hui comme des VLOP et VLOSE.
Le règlement repose sur une logique graduée : plus une plateforme joue un rôle important dans la circulation de l'information et des contenus, plus les obligations qui lui sont imposées sont importantes.
Parmi les principales obligations prévues par le DSA figurent : la mise en place de mécanismes permettant aux utilisateurs de signaler les contenus illicites ; une plus grande transparence sur les conditions de modération des contenus ; l'obligation de motiver certaines décisions de retrait ou de restriction de contenus ; une transparence accrue sur la publicité en ligne et l'interdiction de certaines pratiques publicitaires ciblant les mineurs ; une information plus claire sur le fonctionnement des systèmes de recommandation.
Pour les très grandes plateformes et les très grands moteurs de recherche, le règlement introduit également des obligations spécifiques liées à la gestion des risques systémiques. Ils doivent notamment : identifier et évaluer régulièrement les risques résultant du fonctionnement de leurs services : mettre en oeuvre des mesures destinées à réduire ces risques ; publier des rapports d'évaluation et de transparence ; se soumettre à des audits indépendants ; permettre, sous certaines conditions, l'accès à leurs données pour les chercheurs agréés.
La mise en oeuvre du règlement repose sur un système de contrôle partagé.
La Commission européenne est directement compétente pour superviser les très grandes plateformes et les très grands moteurs de recherche.
En France, l'Arcom a été désignée comme coordinateur pour les services numériques.
Source : site vie publique
2. Reconnaître explicitement le masculinisme comme un risque systémique
Les rapporteures considèrent que le masculinisme présente désormais l'ensemble des caractéristiques d'un risque systémique au sens du DSA.
En effet, les contenus masculinistes ne sont pas toujours immédiatement identifiables comme problématiques : ils le deviennent par leur publication répétée ou leur inscription dans un contexte qui n'apparaît pas au premier regard. Il est donc capital de travailler à l'identification de ce risque systémique.
Ces différents constats mettent en évidence les limites d'une approche reposant exclusivement sur le retrait des contenus illicites. Comme le souligne225(*) Alejandra Mariscal Lopez, directrice de l'association Point de Contact, « un grand nombre de contenus ne franchissent pas, lorsqu'ils sont implicites, le seuil de l'illicéité. Cela ne signifie pas qu'ils soient dénués d'impact ou de risques, pour les utilisateurs qui y sont exposés, en particulier pour les plus jeunes ».
L'enjeu n'est donc plus uniquement celui du retrait d'un contenu manifestement illicite, mais celui de l'identification de risques systémiques générés par certains services numériques et l''association estime226(*) dès lors que « les plateformes devraient être tenues de qualifier ces dynamiques comme des risques structurels susceptibles d'alimenter des phénomènes de harcèlement, de radicalisation et de diffusion de contenus violents. »
Selon les informations communiquées aux rapporteures par l'Arcom, les premiers travaux d'analyse des rapports de risques systémiques publiés en application du DSA montrent que la plupart des très grandes plateformes et des très grands moteurs de recherche ont identifié des risques liés aux violences fondées sur le genre. Plusieurs d'entre eux mentionnent notamment des risques de harcèlement sexuel, d'intimidation, d'humiliation ou encore de diffusion de stéréotypes préjudiciables.
Ainsi, selon Laurence Pécaut-Rivolier227(*), membre du collège de l'Arcom, « le masculinisme peut désormais être qualifié de risque systémique sur certaines plateformes. »
Elle ajoute que le rapport consacré au sexisme en ligne228(*) « a mis en évidence le caractère massif du phénomène et l'utilisation de techniques de diffusion spécifiques. »
Cette massification, qui dépasse donc la présence de simples contenus isolés, va, elle aussi, dans le sens d'une reconnaissance du phénomène systémique.
Cette qualification présente un intérêt pratique majeur. Elle permet de dépasser une approche centrée sur la seule suppression de contenus individuels pour s'intéresser aux mécanismes qui favorisent leur visibilité, leur circulation et leur amplification. Elle conduit également les plateformes à évaluer spécifiquement les risques associés à ces contenus et à mettre en oeuvre des mesures destinées à en limiter les effets.
Les rapporteures considèrent que la reconnaissance du masculinisme comme risque systémique doit conduire les plateformes à identifier explicitement le masculinisme dans leur évaluation des risques, à en suivre l'évolution, et à mettre en oeuvre des mesures adaptées pour en limiter les effets.
Une telle démarche suppose également que ces contenus soient mieux définis, mieux identifiés et mieux suivis dans les politiques de modération des plateformes.
Recommandation n° 4 : Faire entrer les contenus masculinistes dans l'analyse des risques systémiques prévue par le DSA et, dans ce cadre, imposer aux plateformes numériques de définir de manière précise les contenus à caractère sexiste, misogyne ou masculiniste au sein de leurs conditions générales d'utilisation (CGU).
* 225 Audition du 30 avril 2026
* 226 Réponses au questionnaire adressé par les rapporteures
* 227 Audition du 26 mai 2026.
* 228 Le sexisme sur les plateformes en ligne (mars 2026) : https://www.arcom.fr/se-documenter/etudes-et-donnees/etudes-bilans-et-rapports-de-larcom/le-sexisme-sur-les-plateformes-en-ligne