Allez au contenu, Allez à la navigation

Prendre en main notre destin numérique : l'urgence de la formation

27 juin 2018 : Prendre en main notre destin numérique : l'urgence de la formation ( rapport d'information )

D. LES DÉFIS DÉMOCRATIQUES

1. L'affaiblissement de la transparence et de la diversité des informations

Le développement d'Internet repose sur l'idée que l'information doit circuler librement, sans discrimination de sa source, de sa destination ou de son contenu.

Toutefois, l'apparition d'oligopoles du Web affaiblit considérablement la transparence et la diversité des informations. Alors qu'à ses origines, Internet était un système très ouvert et non hiérarchisé, il est désormais régi par quelques grandes plateformes, qui sont en mesure de contrôler quelles idées et opinions sont vues et partagées. Comme l'a fait remarquer crûment Taleb Krim, président-directeur général de Jolicloud : « Avant, l'informatique était une science qui ne mentait pas. Aujourd'hui, le monde numérique ment et nous manipule ».

Le principe de transparence est affaibli car les informations ne sont pas apportées de manière directe à la connaissance des internautes, mais sont filtrées au préalable par les moteurs de recherche selon un processus particulièrement opaque pour le destinataire final de l'information.

En outre, la diversité des informations reçues est également réduite en raison du souci pour lesdites plateformes, d'attirer notre attention le plus longtemps possible. Comme explique Hervé Le Crosnier19(*) dans un article récent, l'attention est devenue une valeur monnayable dans la mesure où elle représente le biais par lequel les données personnelles sont collectées pour constituer, par agrégation, un profil numérique. « C'est ainsi que toute une économie se met en place pour attirer et monétiser notre attention. Notifications, rappels, messages de nos amis... il s'agit de produire des "programmes" susceptibles de nous faire revenir en permanence vers tel ou tel média social et qui nous placent dans un bon état d'esprit pour assimiler le message. Vous avez sans doute déjà observé que les publicités diffusées pendant les matchs de foot sont très différentes de celles apparaissant à la coupure d'un film sentimental. C'est encore plus vrai pour les médias sociaux : l'algorithme va nous présenter en premier ce qui a le plus de chance d'attirer notre attention. Sur les milliers de réponses possibles à notre question, Google va choisir et organiser celles qui correspondent à notre profil, tel qu'il figure dans ses gigantesques bases de données. Parmi tous les messages produits par nos contacts sur Facebook, l'algorithme du réseau social va choisir de nous montrer ceux qui ont le plus de chance de provoquer nos réactions, de nous inciter à émettre des « Likes » ou à regarder des vidéos virales.

Nous risquons alors d'être progressivement enfermés dans une « bulle de filtres » et de ne plus recevoir du monde que les informations similaires à celles que nous avons déjà reçues, à celles que nos amis ont reçues, à celles qui confortent nos sentiments ou nos opinions ».

La diversité n'a pas disparu, mais elle ne nous est plus accessible en raison des filtres imposés par les acteurs dominants du marché comme Google ou Facebook qui constituent un duopole dans la distribution de l'information.

À l'occasion du 29e anniversaire du World Wide Web, son principal inventeur, Tim Berner-Lee, a publié une lettre ouverte20(*) dans laquelle il estime que « Le Web est menacé » en raison de l'oligopole construit par quelques plateformes dominantes, foulant ainsi les principes fondateurs d'Internet tels que la neutralité et la diversité.

« Le Web auquel beaucoup se connectaient il y a des années n'est plus celui que les nouveaux utilisateurs trouveront aujourd'hui. Ce qui était autrefois une riche sélection de blogs et de sites Internet a été comprimé sous le lourd poids de quelques plates-formes dominantes. Cette concentration du pouvoir crée un nouvel ensemble de gardes-barrières, permettant à une poignée de plates-formes de contrôler quelles idées et opinions sont vues et partagées ».

Selon lui, cette « concentration de pouvoir » a « permis de faire du Web une arme à grande échelle », avec l'utilisation des ' réseaux sociaux pour diffuser des théories conspirationnistes, attiser les tensions sociales et interférer dans les élections.

Selon Tim Berner-Lee, il existe un réel conflit d'intérêts entre l'objectif des plateformes qui dominent le net, à savoir la maximisation des profits, et la valeur sociale d'Internet, désormais considéré comme un bien commun. C'est la raison pour laquelle il prône un cadre légal ou réglementaire afin de trouver « un équilibre entre les intérêts des entreprises et ceux des citoyens connectés ».

2. Un risque de manipulation aggravé par Internet

Les soupçons d'ingérence du gouvernement russe dans la dernière campagne présidentielle américaine puis le « scandale Cambridge Analytica » ont rappelé les dangers qu'une utilisation mal intentionnée des nouvelles technologies faisait peser sur la démocratie.

En octobre 2016, les services de renseignement américains accusent le gouvernement russe d'avoir orchestré la diffusion des courriels de proches conseillers de la candidate démocrate à la présidentielle Hillary Clinton dans le but de la discréditer.

En mars 2018, éclate le « scandale Cambridge Analytica » : entre 2013 et 2014 une application tierce développée par des chercheurs pour le compte de Cambridge Analytica a été installée par 270 000 utilisateurs de Facebook dans le monde. Cette application, sous couvert d'un questionnaire de personnalité, demandait également accès aux informations du profil Facebook de l'utilisateur « à des fins de recherche ». Profitant des règles de la « graph API » de Facebook à cette époque (interface mise à disposition des développeurs tiers leur permettant d'interroger la base de données de Facebook des relations entre les utilisateurs), l'application était en réalité alors à même de collecter également des informations personnelles concernant les « amis » de ces utilisateurs. Au total, les données personnelles de 87 millions d'usagers de Facebook ont été transmises à la société Cambridge Analytica qui les a ensuite traitées pour envoyer des publicités ciblées, notamment pour influencer le vote des électeurs dans le cadre des élections présidentielles américaines de 2016.

Qu'est-ce que Cambridge Analytica ?

Cambridge Analytica était une société basée au Royaume-Uni spécialisée dans l'analyse de données et la communication stratégique dont la maison-mère est Strategic Communication Laboratories. Son but est d'aider les équipes des campagnes politiques à s'adresser en ligne à des électeurs potentiels. Pour cela, l'entreprise combine des données de sources multiples, notamment des informations en ligne et des sondages, afin de créer des « profils » d'électeurs.

Cambridge Analytica se sert ensuite de programmes prédictifs pour anticiper le comportement des électeurs, lesquels peuvent ensuite être influencés par des publicités ciblées. Pour cela, l'entreprise travaille avec d'énormes quantités de données. Ainsi, elle revendique 5 000 données différentes sur 230 millions d'électeurs américains, sur une base électorale évaluée à 250 millions d'individus.

Si Cambridge Analytica a clairement violé la loi en utilisant ces données dans une finalité différente de ce qui avait été annoncé, ce scandale met en relief les dangers potentiels en matière de protection des données de la stratégie de Facebook21(*) qui consistait à autoriser les développeurs d'applications tierces à avoir accès à l'ensemble des données Facebook de leurs usagers.

Le « scandale Cambridge Analytica » met également en évidence l'effet « boule de neige » des réseaux sociaux : seuls quelques centaines de milliers d'usagers de Facebook avaient répondu à ce questionnaire de personnalité. In fine, ce sont des dizaines de millions de données personnelles qui ont été collectées.

C'est également cet effet « boule de neige » en un temps quasi-instantané qui rend les fausses informations visant la manipulation des opinions - ou fake news - dangereuses pour la démocratie. Si la diffusion de fausses informations n'est pas un phénomène nouveau, celui-ci a pris une nouvelle dimension à l'ère du numérique. Les réseaux sociaux sont devenus des caisses de résonnance d'autant plus puissantes pour les fake news qu'ils sont en position de quasi-monopole.

Comme le souligne Tim Berners-Lee dans la lettre ouverte citée précédemment : « Par ailleurs, le fait que le pouvoir soit concentré parmi si peu d'entreprises a permis de faire du Web une arme à grande échelle. Au cours des dernières années, nous avons vu des théories de conspiration se répandre sur les réseaux sociaux, de faux comptes Twitter et Facebook attiser les tensions sociales, des acteurs externes interférer dans les élections et des criminels voler des trésors de données personnelles.»

Votre rapporteure a déjà eu l'occasion de souligner que le rôle joué par les algorithmes en termes de classement et de filtrage d'une information devenue surabondante a pour effet indirect de nuire au pluralisme et à la diversité culturelle.

Ce repli dans notre « bulle des préférences » est regrettable à l'échelle de l'individu puisqu'il neutralise les opportunités offertes par une offre culturelle et de contenus plus abondante que jamais. À l'échelle des sociétés, l'exposition moindre des individus à l'altérité, à des opinions différentes des leurs, notamment dans le domaine politique, peut remettre en cause la qualité et la vitalité du débat public. Pire, la personnalisation de l'information entraîne une fragmentation extrême de l'espace public ainsi que la disparition d'un socle minimum d'informations partagées par l'ensemble du corps politique et permettant la constitution d'un véritable débat. À l'heure où une part croissante des citoyens utilisent les réseaux sociaux comme le principal (et parfois le seul) moyen d'information, l'enjeu est important pour la pérennité de la vie démocratique.


* 19 Publicité ciblée : l'économie de l'attention ; vie privée ; 27/03/2017.

* 20 Lettre publiée sur le site de la World Wide Web Foundation le 12 mars 2018.

* 21 Il a été mis un terme à cette stratégie en 2015.