- Mardi 22 avril 2014
- Audition de M. Giacomo Luchetta, chercheur au Centre for European policy studies (CEPS), à Bruxelles
- Audition de M. Boris Beaude, géographe, chercheur à l'École polytechnique fédérale de Lausanne
- Audition de M. Per Strömbäck, responsable du forum Netopia, de M. Peter Warren, co-auteur du rapport Can we make the digital world ethical ? (février 2014), publié par cette organisation, et de M. Murray Shanahan, professeur à Imperial college à Londres
Mardi 22 avril 2014
- Présidence de M. Gaëtan Gorce, président -Audition de M. Giacomo Luchetta, chercheur au Centre for European policy studies (CEPS), à Bruxelles
La réunion est ouverte à 14 h 35.
M. Gaëtan Gorce, Président. - Nous accueillons à présent M. Giacomo Luchetta, chercheur au Centre for European policy studies qui va aborder l'ensemble des questions induites par la problématique de notre mission commune.
M. Giacomo Luchetta. - Je vous remercie M. le Président. Je suis en effet chercheur au Centre for European policy studies et je m'intéresse à la régulation du numérique. J'aborderai ainsi la protection des données et les possibles politiques dans ce domaine, en soulignant les défis à relever au niveau européen.
Je centrerai mon propos sur l'Europe : il s'agit ainsi de savoir ce que peut faire l'Union européenne, au-delà des politiques nationales, sur ces problématiques. J'envisagerai ainsi deux questions d'actualité: tout d'abord, la protection des données en ligne, qui relève des droits de l'homme parmi lesquels celui à la protection de la vie privée, et ensuite la recherche d'un véritable Internet européen.
Je souhaite également remercier mes collègues, Mme Kristina Irion et MM. Sergio Carrera et Colin Blackman qui m'ont apporté les précisions nécessaires à la bonne tenue de cette présentation.
À titre liminaire, je dirai que la protection de la vie privée sur les réseaux de communication et le rôle des acteurs européens dans l'écosystème d'Internet représentent des enjeux de taille pour l'Union Européenne qui n'a atteint, pour le moment, que des résultats plutôt mitigés. L'Union européenne, en tant qu'institution, doit faire plus et mieux, en adoptant une approche intégrée en matière de politique Internet puisque l'échelle nationale ne permet pas d'atteindre la masse critique nécessaire. Toute politique nationale, dans ce domaine, est vouée à l'échec.
La vie privée sur Internet n'est pas encore annihilée, mais cela fait longtemps qu'elle souffre. S'il est vrai qu'à la suite des attaques du 11 septembre 2001, des logiciels détectaient et enregistraient déjà tout message qui contenait des mots-clés définis, en revanche, l'échelle de la surveillance de masse en ligne aujourd'hui constatée, la quantité et l'importance des sujets impliqués et la quantité de données collectées demeurent sans précédent. Si la surveillance pratiquée par les gouvernements était connue, aucun expert n'était conscient de la quantité de ressources techniques mise en oeuvre à cette fin. En effet, ce sont près de 20 milliards de données, soit 3.000 données par personne à l'échelle de la planète, qui ont été enregistrées par jour, selon le Guardian !
Néanmoins, nous avons tendance à définir ce scandale comme purement américain, mais d'autres pays, appartenant à l'Organisation pour la coopération et le développement économique, ainsi que des États-membres de l'Union européenne, sont également concernés !
S'agissant du rôle du Gouvernement américain, qui est l'opérateur principal dans ce domaine, celui-ci est entré dans la vie privée de chacun, y compris en Europe, de deux manières : soit légalement, notamment par des décisions judiciaires, soit illégalement, par l'entremise d'agences de surveillance.
Ainsi, le Gouvernement américain peut légalement avoir accès aux informations sur des citoyens non-américains gérées par des opérateurs étant en connexion « lâche » avec la juridiction des États-Unis. Point n'est besoin pour le Gouvernement américain d'une ordonnance judiciaire pour avoir accès aux métadonnées ! Cependant, pour avoir accès au contenu des communications téléphoniques ou à tout courriel, une ordonnance judiciaire s'avère nécessaire. Les sociétés américaines, qui se voient notifier une telle ordonnance, ne peuvent s'y soustraire.
Cependant, ce qui est permis aux États-Unis ne l'est pas nécessairement dans l'Union européenne qui a mis en oeuvre des instruments juridiques destinés à éviter tout accès non autorisé, à l'instar de la Convention européenne des droits de l'homme et la Convention 108 du Conseil de l'Europe, ainsi que la Directive 95/46 sur la protection des données. En outre, il existe d'autres dispositions spécifiques sur le transfert de données vers les pays tiers (Safe Harbor, règles internes d'entreprises, accords d'assistance judiciaire mutuelle), mais, honnêtement, l'ensemble de ces outils juridiques se sont avérés inefficaces pour protéger la vie privée des citoyens européens.
Quel est le fond du problème ? Si l'on reprend les quatre modes de régulation du cyberespace définis par M. Lawrence Lessig - loi, technologie, normes sociales, marché -, la technologie européenne n'a pas été suffisamment protégée, faute d'avoir développé ses propres systèmes de chiffrage de données. Les citoyens européens n'ont pas conscience que ce qui paraît sur Internet peut toujours faire l'objet d'une surveillance et d'une écoute par des organisations tierces. Nous n'avons pas non plus créé des mécanismes de marché qui auraient pu assurer la sauvegarde de la vie privée. Nous n'avons ni cloud ni Facebook en Europe ; mais le souhaite-t-on vraiment ? De toute manière, la totalité de leurs utilisateurs se tourne vers le système américain. L'Europe n'a pas non plus créé les protocoles d'accès aux données de masse.
Que peut faire l'Europe en la matière ? À proprement parler, pas grand-chose pour le moment. Il faudrait tout d'abord aborder ce sujet au niveau politique avec nos homologues américains sur une base bilatérale mais à la condition d'avoir, au préalable, trouvé un consensus entre partenaires européens. Mais les institutions européennes ont d'ores et déjà perdu les conflits sur la vie privée, s'agissant notamment du système SWIFT de routage en ligne de paiement bancaire ou du système PNR concernant les passagers du transport aérien.
Il faudrait d'ailleurs changer la donne, en adoptant le nouveau cadre réglementaire sur la vie privée attestant ainsi l'intérêt que revêt la protection de la vie privée pour l'Union européenne.
L'Europe doit ainsi surmonter sa dépendance envers les acteurs Internet américains. Il ne s'agit pas de revenir à une forme surannée de protectionnisme, mais plutôt de lancer une stratégie industrielle européenne qui assure l'indépendance numérique qui s'annonce aussi importante dans les années à venir que l'indépendance énergétique.
S'agissant des aspects illégaux, le gouvernement des États-Unis, comme d'autres gouvernements, a effectué toutes sortes d'écoutes illégales des réseaux de communication. Gardons-nous d'une vision manichéenne : il n'y a dans cette histoire ni gentil, ni méchant. L'espionnage dépend des ressources humaines, financières et techniques : un pays s'y livre dès qu'il est mesure de le faire. D'après les ingénieurs, le stockage et l'exploitation des données, notamment de masse, sont d'un prix beaucoup plus modique que par le passé. Ainsi, les technologies Internet ne changent pas la nature de la situation, qui demeure, somme toute, assez proche de ce qui se passait pendant la Guerre froide, mais elles ont cependant fait exploser la quantité de sujets surveillés et de données collectées.
Quelles sont les réponses possibles au problème de la surveillance illégale ? Nous avons besoin de technologies qui ne soient pas infiltrées. En effet, ce qui a suscité l'affaire Snowden, ce n'était pas tant la surveillance opérée par les Autorités américaines que la demande faite à la société CISCO de créer des « back doors », c'est-à-dire des voies d'accès dérobées dans les routers. C'est la raison pour laquelle certains industriels utilisaient des codes légèrement détériorés. L'Europe a ainsi besoin d'indépendance numérique. Certes, le Parlement plaide pour les logiciels open source, mais un tel projet n'est pas une solution car, comme l'ont souligné les incidences de la faille de sécurité heartbleed qui affectait le logiciel open source OpenSSL, il importe avant tout d'avoir ses propres logiciels et d'en assurer la maîtrise.
L'Europe a besoin d'avoir sa propre industrie Internet avec ses crypteurs, ses routeurs, ses entreprises en ligne, et il incombe aux politiques d'empêcher que les Américains interceptent nos messages. Peut-on par ailleurs signer un accord transatlantique avec un partenaire comme les Etats-Unis qui continuent de nous écouter comme par le passé ?
S'agissant ainsi de la surveillance de masse, les derniers événements ont suscité une grande méfiance de ce côté de l'Atlantique non seulement à l'égard du Gouvernement américain mais aussi des entreprises privées productrices de logiciels et fournisseurs d'accès Internet. Le manque de réaction parmi les utilisateurs privés m'étonne tout de même, mais quelles sont les alternatives qui s'offrent à eux ? Finalement, les gens ne se préoccupent que peu de leur vie privée et le scandale Snowden aura finalement induit des conséquences néfastes sur l'ouverture d'Internet. Il faut bel et bien sauver Internet des agissements de nos amis américains en faisant en sorte que l'infraction à la règle devienne l'exception !
Il importe de fixer les règles du droit à la vie privée en assurant un consensus parmi les Etats membres de l'Union européenne et leur acceptation par les Etats-Unis. Lorsque le Gouvernement met sur écoute ses propres citoyens ou d'autres ressortissants, il faudrait que cette surveillance soit agréée par une cour de justice. Actuellement, les Américains peuvent agir dans un monde privé de repères clairs et mettre sur écoute des personnes afin de préserver leur sécurité nationale. Qui peut décider ce qu'est une interférence légitime au droit à la vie privée ?
J'en viens à présent à l'Internet européen. L'idée d'Internet semble ainsi évincer celle du contrôle étatique car comme le déclarait en 1992 David D. Clark, le créateur du Protocole IP, « nous refusons les rois, les présidents et les votes. Nous croyons au consensus approximatif et au code qui marche. » Cependant, une telle intuition ne s'est jamais vérifiée dans les faits. Certes, Internet est régi par un petit comité d'experts dont l'influence dépasse celle des Etats. Si les Protocoles IP ont été conçus pour rendre Internet ouvert, le contenu des sites peut être maîtrisé. Les gouvernements peuvent ainsi assurer une gouvernance de l'Internet en fonction de leurs propres intérêts, en restreignant l'accès à certaines plateformes, comme c'est le cas en Chine, en Iran ou encore en Turquie. La France pourrait également faire de même, mais une telle démarche présente des coûts en matière de liberté économique et de respect de la vie privée. Les jeux de hasard en ligne fournissent un autre exemple d'interdiction se fondant sur l'interdiction de l'accès aux plateformes qui frappe l'internaute : une telle décision, qui va au-delà de la restriction du droit de propriété intellectuelle, demeure de nature politique.
L'Internet, par sa nature, rend difficile l'application de la loi, mais n'échappe pas pour autant au pouvoir souverain. L'évolution de l'anonymat sur Internet, depuis 1992, est révélatrice : dès 2000, la traçabilité des visites et l'identification de l'internaute sont deux données vérifiables et, désormais, l'anonymat a réellement disparu pour la plupart des utilisateurs et dans la plupart des cas. Et cette évolution s'est opérée alors que l'architecture et les protocoles d'accès demeuraient stables pendant toute cette période !
Une fois ce constat dressé, il convient de s'interroger sur le type d'Internet qu'il faudrait voir en Europe. Les règles de fonctionnement de cet Internet, à vocation globale, devraient ainsi assurer son ouverture à tous en conformité avec les valeurs européennes. Il faut ainsi définir un cahier des charges à l'instar de la vision de Tim Berners Lee : Internet doit être universel, c'est-à-dire accessible à tous, et fondé sur des normes ouvertes impliquant l'examen par des pairs et l'absence de redevances. La gratuité a été l'une des raisons de l'essor liminaire de la toile. Désormais, il importe de séparer le contenu des règles qui régissent le réseau qui doit demeurer neutre, sans discrimination quant à son contenu. Il faut enfin préserver la confidentialité des communications.
L'Union européenne a récemment rédigé ses recommandations destinées à la délégation qu'elle doit envoyer à la conférence qui aura lieu à Sao Paulo le mois prochain : Internet doit ainsi demeurer ouvert, libre, sécurisé, fiable, non fragmenté et digne de confiance. Ces six piliers définissent la vision européenne en la matière, mais toute la question demeure quant à leur mise en oeuvre.
Comment créer une infrastructure européenne ? Une telle démarche reviendrait à détruire le réseau Internet dans sa configuration actuelle. L'objectif n'est pas de créer des murs étanches qui nous protégeraient d'Internet, mais plutôt de protéger nos propres données. La création d'une structure européenne commune d'information, qui permettrait également de préserver la confidentialité des données, repose sur la confiance mutuelle entre partenaires européens.
Cependant, la place des entreprises européennes dans Internet demeure une source de préoccupation réelle. Seules huit entreprises se classent parmi les cent premières de ce secteur et l'Union européenne est loin derrière les États-Unis, le Japon et la Chine ! Il n'y a donc pas d'acteur industriel d'origine européenne en mesure de porter sur Internet nos valeurs.
La présence technologique européenne est ainsi contrastée : s'il est vrai que la gestion des infrastructures est assurée par des opérateurs de télécommunication européens et que la fourniture et la maintenance du réseau sont en partie opérées par des compagnies européennes, comme Ericsson ou encore Alcatel-Lucent, qui ne disposent pas pour autant d'un leadership dans leur domaine, l'Europe ne compte que deux entreprises d'envergure spécialisées dans les applications Internet. Il s'agit de Spotify et de Rovio, à l'origine d'Angry-birds qui est l'un des jeux les plus courants sur la toile. Et voilà tout ! Nous n'avons pas ni réseaux sociaux, ni messageries instantanées, ni logiciels de bureaux....Certes, il y a Skype, qui a été initialement créé en Estonie par des ingénieurs danois et suédois avec des capitaux d'origine britannique et qui a été enregistré au Luxembourg ! Mais cette belle réussite européenne a dû passer sous giron nord-américain pour devenir un géant de l'Internet, suite à sa première vente à Ebay en 2007 puis à son acquisition par Microsoft en 2011. Il faut ainsi faire appel aux capitaux américains pour devenir un géant de l'Internet et c'est véritablement une lacune pour l'Europe de ne pas disposer d'un opérateur de taille critique !
Mais il n'y pas que les Etats-Unis qui jouent un tel rôle sur Internet puisque la Chine dispose, avec la société Tencet, d'un opérateur Internet disposant de la cinquième capitalisation boursière mondiale et qui demeure plus important que Facebook ! Par ailleurs, Baidu, qui est l'équivalent chinois de Google, est le cinquième site le plus visité au monde et Alibaba, société de E-commerce, est plus grand encore que la réunion d'Amazon et d'Ebay ! L'Europe n'est pas à la traine derrière les Etats-Unis seulement, mais bien plutôt derrière le monde entier !
Et ces sociétés peuvent atteindre des bénéfices allant de 50 à 70 % ! Au-delà de la rentabilité affichée de ces sociétés, il importe avant tout que celles-ci soient respectueuses des lois en vigueur en Europe. Ainsi, le scandale de la NSA résulte en partie de l'absence de respect des entreprises américaines à l'égard d'autres législations qu'américaines. L'Europe ne dispose pas des outils nécessaires à la promotion de nos valeurs sur Internet et en même temps le grand marché unique numérique qu'elle instaure profite aux entreprises non européennes ! D'ailleurs, les entreprises numériques doivent-elles être considérées à l'instar des entreprises de l'économie réelle et l'Europe a-t-elle besoin d'une politique spécifiquement consacrée au numérique ? Quelques tentatives en ce sens ont eu lieu, comme un rapprochement industriel entre la France et l'Allemagne lors de la création de la société Quaero, ou encore Galiléo. Ce furent initialement de belles idées dont la mise en oeuvre s'est malheureusement soldée par des échecs.
Dès lors, si l'Europe souhaite initier une réelle politique dans le secteur du numérique, elle doit assumer les échecs qui accompagnent cette évolution ! L'accent a été jusqu'ici porté sur la création d'un écosystème acceptable pour les acteurs européens, mais il faudrait désormais soutenir le développement des sociétés européennes existantes. Par exemple, nous avons des fournisseurs d'accès de très bons niveaux mais il nous faut soutenir la concurrence avec les grands pays, comme la Chine ! Faute d'une politique appropriée, l'Europe risque d'accroître son retard.
La politique européenne dans ce domaine doit être cohérente. Ainsi, dans le domaine des marchés publics, il faut privilégier les sociétés qui respectent et promeuvent les valeurs européennes, à charge pour les gouvernements nationaux de leur confier leurs marchés.
Au-delà de ce constat négatif, il convient de souligner les forces dont dispose l'Europe : de bons opérateurs de télécommunication, une présence consolidée, ainsi que des infrastructures qui ont bénéficié de la fin des monopoles depuis ces vingt dernières années. Cependant, l'importance de la réglementation européenne tend à désavantager les opérateurs d'origine européenne en concurrence avec les opérateurs extérieurs à l'Union. La neutralité du net ne concerne pas seulement le droit à l'expression, mais également les relations commerciales : qui profite en définitive de l'Internet ? En outre, la question du secteur manufacturier, qui est important en Europe, se pose désormais en termes de relations de Machine à Machine (Machine to Machine - MM). Ainsi, ce sont les données recueillies qui sont la source de profits ultérieurs: même BMW tend à se considérer comme une société de l'Internet, son PDG ayant déclaré que les entreprises automobiles étaient devenues des entreprises de données !
Je souhaite enfin aborder la question des fournisseurs de l'Internet. Le cloud a été, peut-être de manière exagérée, décrit comme une révolution numérique en ce qu'il transforme la puissance de calcul et qu'il constitue une base vers laquelle les fournisseurs envoient leurs données. Mais la plupart des fournisseurs de cloud se trouvent en dehors de l'Union européenne. Le Parlement européen s'est emparé de cette question : un cadre réglementaire pour les fournisseurs de cloud serait opportun et devrait imposer leur localisation dans l'Union européenne, le respect d'obligations claires en matière de protection de la vie privée et l'aménagement d'un accès légalement garanti aux gouvernements aux données et informations privées. Ce n'est qu'une fois assurée la conformité de ce dispositif à une réglementation visant les industriels que son ouverture à des particuliers est recevable.
A l'issue de mon propos, je vous soumets un certain nombre de références accessibles sur Internet et concernant l'ensemble des points que je viens de vous exposer. Je vous remercie de votre attention.
Mme Catherine Morin-Desailly, rapporteure. - Parmi les différents États membres de l'Union, lesquels vous paraissent les plus au fait des problématiques que vous avez exposées ?
M. Giacomo Luchetta. - Les pays membres ne sont pas unanimes sur la protection de la vie privée et, plus largement, sur la politique numérique et industrielle. S'agissant de la vie privée, certains Etats membres, comme la Grande-Bretagne et l'Allemagne, ont joué un rôle dissuasif en bloquant le nouveau règlement afin de protéger leurs intérêts économiques après le scandale de la NSA. Certains services de renseignements, comme celui de la Grande-Bretagne, collaborent d'ailleurs avec la NSA et considèrent que l'organisation de la sécurité nationale demeure du ressort strictement étatique et non européen. D'autres Etats ont participé également à la réflexion conduite par le Parlement européen, comme la France qui a dépêché un émissaire, sur la protection de la vie privée.
S'agissant de la révolution industrielle, l'Europe est mal en point. Nous n'avons ni champion industriel à protéger ni accord parmi les États membres sur la protection du marché, au-delà des règles concurrentielles définies à Bruxelles. Cette question est extrêmement difficile à aborder.
Mme Catherine Morin-Desailly, rapporteure. - Vous avez publié, il y a un an, un rapport sur la réforme de la protection juridique des données personnelles. Pouvez-vous nous en parler et nous préciser son articulation avec l'EuroDig ?
M. Giacomo Luchetta. - Même si je n'apprécie pas particulièrement cette nouvelle réglementation en matière de vie privée, je pense qu'elle constitue tout de même un pas dans la bonne direction. Il ne s'agit pas d'une révolution, mais d'une évolution, ainsi que nous l'exposions dans le rapport : certains droits sont protégés pour la première fois. Cependant, l'accord des Etats membres sur cette question est difficile à obtenir et je ne suis pas en mesure d'anticiper le contenu de la future directive qui risque d'ailleurs d'être supprimée par la suite, dans le contexte marqué par la prochaine élection d'un nouveau Parlement européen. Les débats qui se sont déroulés n'ont malheureusement pas pris suffisamment en compte la question de l'application de la réglementation : les nouveaux droits qui sont créés ne sont malheureusement pas réalistes, comme le droit de faire supprimer ses propres données sur Internet. Il faut aller au-delà de la définition d'un cadre réglementaire idéal au profit de la définition de droits réellement applicables. Enfin, cette nouvelle réglementation devrait s'appliquer à l'ensemble des utilisateurs de données d'Internet, que ce soit Google ou votre commerçant de proximité qui vous propose ses produits, en tenant compte de la nature des enjeux en matière de protection des libertés, quitte à privilégier une approche distincte selon la taille des acteurs économiques concernés. Il est manifeste que les choses doivent ainsi évoluer prochainement !
M. Gaëtan Gorce, Président. - Je vous remercie de votre témoignage. Il est certain que votre propos demeure relativement pessimiste s'agissant des chances de l'Europe de se redresser sur les plans économique et industriel autant qu'économique et éthique. J'espère que nous serons en mesure, à l'issue des travaux de notre mission commune d'information, de vous apporter la contradiction !
Audition de M. Boris Beaude, géographe, chercheur à l'École polytechnique fédérale de Lausanne
La réunion est reprise à 15 h 35.
M. Gaëtan Gorce, président. - Nous auditionnons M. Boris Beaude, qui est géographe, et qui, au sein du laboratoire Chôros de l'Ecole polytechnique fédérale de Lausanne, en Suisse, conduit des recherches sur « la spatialisation du monde » opérée par Internet, en particulier dans le domaine des services. Merci de nous dire votre analyse de la gouvernance d'Internet et des moyens d'y associer davantage nos concitoyens.
M. Boris Beaude, géographe, chercheur au sein du laboratoire Chôros de l'Ecole polytechnique fédérale de Lausanne. - C'est un grand honneur et un plaisir de venir devant votre Mission, vos travaux me paraissent très bien poser la question de la gouvernance d'Internet, en la situant d'emblée à l'échelle mondialisée.
Qu'entend-t-on par la gouvernance d'Internet ? Il faut, plus qu'on ne le fait habituellement, distinguer quatre objets : les infrastructures, les noms de domaines, les standards et, enfin, les pratiques - avec chacun des enjeux et des outils qui diffèrent et que l'on confond trop souvent. La gouvernance d'Internet stricto sensu me paraît plutôt bien fonctionner, mais on fait trop souvent l'amalgame avec les pratiques de surveillance de la NSA ou encore l'usage que certaines plateformes comme Google font des données personnelles qu'elles collectent - ce qui motive les États à vouloir intervenir davantage dans la gouvernance d'Internet, sans qu'on mesure bien les conséquences d'une telle intervention, sur la nature même du réseau.
Les principales difficultés, en fait, relèvent des pratiques observées sur Internet. Certaines ont trait à la fiscalité, à la vie privée, au commerce de produits illicites, voire à la traite d'êtres humains - posant des problèmes qui dépassent largement la gestion technique d'Internet, des conflits de valeurs qui relèvent de la politique. Pour y faire face, il faut que des ensembles relativement homogènes politiquement se constituent, affirment davantage une stratégie qui inclue Internet plutôt qu'elle ne s'y cantonne ; et pour ce qui nous concerne directement, cette stratégie passe par l'Union européenne.
Quels sont les problèmes de gouvernance d'Internet ? Il faut commencer par rapporter Internet à un ensemble plus large, celui des techniques qui portent la mondialisation en formant un espace nouveau, d'échelle mondiale : que ce soit dans les airs, sur terre ou sur mer, les flux ont été largement libérés, donnant aux gouvernants un sentiment d'impuissance largement partagé. Il me paraît donc très important de bien dissocier les difficultés des États à être souverains dans la mondialisation, et les difficultés propres à Internet et à sa gouvernance. De ce point de vue, le développement très rapide d'Internet, qui est aussi celui de la téléphonie mobile et des objets connectés, accélère la mondialisation et pose des problèmes de gouvernance qui vont, en fait, bien au-delà de la gouvernance d'Internet - des problèmes politiques qui ne seront pas résolus quand bien même on aura amélioré la gouvernance d'Internet.
Quels sont les problèmes posés spécifiquement par Internet ? Il y a d'abord le fait que les États, mis à part les États-Unis, n'ont pas perçu son importance stratégique - les grandes entreprises non plus, du reste, ce qui a laissé le champ à de nouveaux acteurs et qu'Internet s'est développé sans qu'il ait été une priorité des grands acteurs politiques et économiques. De plus, la transversalité des pratiques est très vite apparue, au point qu'Internet n'est pas un secteur à proprement parler, mais qu'il concerne tous les secteurs et qu'il pose des questions politiques au pouvoir en général.
En fait, le principal problème posé par Internet, c'est qu'il n'y a pas d'acteur politique à son échelle pour répondre aux questions politiques posées par les pratiques sur le réseau, c'est que les États, dont la souveraineté est affaiblie par la mondialisation, ne sont pas à la bonne d'échelle d'action - et qu'il n'y a pas d'autre acteur politique pertinent à une échelle plus large que la leur. Le problème, pour définir une politique, c'est qu'il faut commencer par s'entendre sur ce que l'on veut - et qu'on n'y parvient pas même à l'échelle européenne, où l'on partage cependant bien des valeurs et où l'on parvient à construire un marché commun.
Je crois que l'on confond très souvent ce problème central, lié à la mondialisation, avec d'autres problèmes qui ne sont pas ceux d'Internet.
A titre d'exemple, je crois que l'optimisation fiscale sur Internet, dont on parle beaucoup, n'est pas un problème lié à la gouvernance d'Internet, mais bien celui de l'économie mondialisée qui s'accommode et qui prospère, même, par la compétition des règles - et qui est un terrain fertile à l'optimisation fiscale que les entreprises ont toujours pratiquée. C'est d'autant plus vrai que l'Union européenne est un terrain de jeu suffisant : l'Irlande et le Luxembourg, où s'implantent les entreprises d'Internet à qui l'on reproche de ne pas payer d'impôt à proportion de leur activité, sont des États-membres de l'Union. De même pour la détérioration de la chaîne de valeur, au détriment de l'opérateur : c'est là une conséquence directe de l'ouverture à la concurrence mondialisée, qui place tous les systèmes en compétition. Le manque à gagner ne peut pas être assimilé à une perte d'exploitation : il sanctionne plutôt le fait qu'un autre opérateur, dans un autre pays, vend un service meilleur ou moins cher... Ce qui surprend, cependant, c'est la rapidité du changement, c'est que des usages, des activités créent des espaces d'échanges vis-à-vis desquels les politiques ont toujours du retard.
J'appelle ce phénomène une « synchorisation » : la création d'un espace commun, par les usages ; Internet est un espace qui rend possible une action en commun, une interaction locale aussi bien que mondiale, ce qui déstabilise la maîtrise qu'ont de l'espace toutes les autorités établies, assises sur la maîtrise d'un territoire. Cette coexistence à l'échelle mondiale, inédite, pose des problèmes juridiques inédits.
Cette « synchorisation » s'accompagne d'une « hyper-centralité », où quelques acteurs peuvent concentrer du pouvoir quasiment à l'infini, sans être limités par des problèmes physiques comme dans l'espace d'une ville par exemple. L'anonymat qui caractérise la présence sur le réseau, même relatif, pose des problèmes de droit, puisqu'on ne peut pas toujours être certain de remonter à la source, à l'authentique. Se pose également un problème de vulnérabilité : autant l'infrastructure est résiliente, autant les noeuds sont vulnérables ; à la suite des révélations d'Edward Snowden, les entreprises ont reconnu qu'elles ne pouvaient être complètement à l'abri d'une attaque, d'une intrusion, mais c'est également le cas pour les États ; en fait, personne ne maîtrise toute la chaîne et la sécurité ne peut être parfaite.
Pourquoi, cependant, est-ce important de gouverner Internet ? Parce que la neutralité du réseau, qui veut que chacun puisse accéder à tous les services et tous les services à tous les internautes, est en soi une forme de politique, assez radicale - et parce que l'autorégulation n'est pas suffisante contre des actions qui s'opposeraient aux valeurs qui « nous » paraissent essentielles. On mesure à ce « nous » que la neutralité ne peut être universelle, mais qu'elle se rapporte à un environnement de pratiques et de valeurs, qui sont disputées entre différentes sociétés, et à l'intérieur même des sociétés. On comprend également qu'avec Internet, on revient à la politique, à la contractualisation au sens du pacte social - beaucoup de jeunes, du reste, sont surpris de voir apparaître les notions de contrôle et de propriété sur le Net, si éloignées du projet libéral qui était celui de la cybernétique.
Je crois donc que le temps est venu de s'entendre sur ce qu'on est prêt à perdre, pour ne pas perdre cet espace inédit qu'est Internet ; chacun doit y réfléchir et je pense que nous avons le choix entre une nationalisation d'Internet et la mondialisation de la politique.
Mme Catherine Morin-Desailly, rapporteure. - En tant que géographe, comment analysez-vous le cyber-monde et le rôle qu'y prennent les frontières étatiques ? Y distinguez-vous des zones, des blocs par types de pratiques ?
M. Boris Beaude. - Des blocs, non, mais des attentes très différentes selon certaines zones du monde. Lorsque j'ai commencé mes travaux sur l'espace d'Internet, il y a cinq ans, j'étais plutôt optimiste et me focalisais sur l'innovation - Wikileaks, l'ouverture des frontières, l'accès à la connaissance... Puis j'ai analysé les problèmes posés par la coexistence de pratiques antagonistes, de pratiques illégales - de la diffamation à la pornographie - et en suis venu au constat que, dans les faits, on ne peut véritablement appliquer notre droit sur Internet, à moins de le transformer. Il ne s'agit pas seulement de nous protéger par exemple de la pédopornographie, mais de surmonter des divergences, des conflits de valeurs que l'on ne peut trancher sans faire de la politique : la Chine et la Russie, par exemple, ne veulent pas d'un développement qui emprunte les valeurs nord-américaines et des conflits existent même des deux côtés de l'Atlantique - schématiquement, les États-Unis censurent davantage le sexe tandis que l'Europe censure davantage la violence, ce qui conduit par exemple des musées à s'autocensurer pour être sur Facebook ; de même, la liberté d'expression n'a pas les mêmes contours ni la même portée juridique en Europe et aux États-Unis - et plus largement, le rapport de l'individu à la société n'est pas le même, ce qui conditionne la définition de la liberté, de la sécurité et même de la démocratie. Alors qu'Internet s'est développé plus vite que les normes susceptibles de l'encadrer, le risque serait d'être trop actif, trop prescriptif, de condamner trop vite des pratiques qui, en fait, répondent à des valeurs différentes que les nôtres mais non moins légitimes.
C'est pourquoi je crois que lors du prochain Sommet qui va se tenir au Brésil, une partition d'Internet par noms de domaine ou par grandes zones géographiques risque fort de l'emporter, malgré les discours contraires : une gouvernance mondiale peut tout à fait partitionner le réseau, c'est ce qui se profile lorsque, sous couvert d'une gestion multipartite, on annonce un rôle accru des États, qui sont un facteur éminent de partition.
Sous cet angle, on peut dire que le monde n'est pas prêt pour Internet tel qu'il a fonctionné et qu'on risque fort d'assister à un repli, conduit par les États. Votre Mission peut aider à maintenir l'ouverture la plus grande, à condition qu'on dise ce à quoi l'on tient le plus pour ne pas perdre cet espace inédit qu'est Internet.
M. Gaëtan Gorce, président. - Vous évoquez des valeurs essentielles sur lesquelles s'entendre, mais une difficulté ne tient-elle pas à ce que même quand ils les reconnaissent, les États s'en affranchissent sur Internet, au nom de la sécurité nationale ? Comment espérer une solution satisfaisante, dans ces conditions ? Le système mis en place par des grands opérateurs, ensuite, ne s'arrête pas à cette possibilité de mettre à mal nos valeurs politiques, puisqu'il organise également une économie où la précarité de l'emploi semble être la règle, contre nos valeurs sociales : qu'en pensez-vous ?
M. Boris Beaude. - Je crois qu'effectivement, seuls des dispositifs contraignants assureront une maîtrise de l'espace, une application du droit contre les pratiques illégales ou les abus de position dominante - qui sont l'apanage des vainqueurs. S'agissant des affaires d'espionnage, je n'ai pas d'autres informations que publiques, mais je suis plutôt confiant : un débat s'est engagé sur les questions de surveillance, c'est un sujet très ancien où Internet, en fait, n'a fait qu'accélérer les choses, en changeant l'ampleur de la surveillance possible et en ouvrant des fenêtres sur la vie privée comme aucun dictateur aurait pu espérer en avoir. C'est pourquoi je crois nécessaire de mondialiser la politique, car tant qu'il y aura un « nous » différent des « autres », nous aurons intérêt à agir pour nous-mêmes, contre les autres. Il nous faut donc préciser, actualiser notre droit positif et se montrer ferme sur son respect et sur notre exigence de transparence. Nous sommes face à des pionniers qui créent un espace pour le coloniser - un espace quasiment infini puisqu'ils en sont à l'hyper-centre ; cependant, ces acteurs, par exemple Google, ont besoin d'être en Europe, nous sommes un marché essentiel : nous avons donc tout intérêt à être fermes et même intransigeants sur les valeurs auxquelles nous tenons et qui vont bien au-delà d'Internet.
Mme Catherine Morin-Desailly, rapporteure. - Vous paraît-il utile, voire nécessaire, qu'une charte fixe les grands principes politiques de cette nouvelle société qui se construit à l'échelle du monde ?
M. Boris Beaude. - Malheureusement, et je ferai le parallèle avec le lendemain des grands conflits mondiaux : l'affaire Snowden a été suivie d'une brusque demande d'un rapprochement, mais les divisions réapparaissent très vite après le choc ; nous sommes à un moment très propice à la décision, il faut agir sans tarder : l'Union européenne, les États-Unis et un grand nombre de pays, notamment africains, peuvent s'entendre sur des principes et des règles - plus facilement qu'à l'échelle de tous les pays du monde. Ensuite, les États devraient encourager la transparence, la clarté des pratiques, le respect des règles ; les grands opérateurs actuels, comme Facebook ou WhatsApp, n'ont en fait pas leur place dans la négociation.
M. Gaëtan Gorce, président. - Vous nous dites qu'une certaine logique de partition serait en passe de l'emporter, dès lors que la loi internationale est d'abord celle des Etats et que les instances de gouvernance actuelles, pourtant d'échelle mondiale, sont récusées comme relevant d'une certaine hégémonie américaine : c'est bien votre analyse ?
M. Boris Beaude. - Oui, et c'est une conclusion que je n'avais pas prévue en commençant mes travaux. Pour que le droit soit applicable, une certaine partition est inéluctable. Ce n'est pas le propre d'Internet, car c'est le cas pour d'autres sujets de la mondialisation ; cependant, Internet accélère, radicalise les choix. Le problème, au fond, c'est que la politique n'est pas ou n'est plus à l'échelle du réel, des échanges effectifs entre les hommes ; Internet n'est ici qu'un exemple d'une règle plus générale, celle où la politique ne fonctionne pas à l'échelle des pratiques sociales, ce qui l'empêche de représenter les citoyens.
M. Gaëtan Gorce, président. - Merci pour votre analyse.
Audition de M. Per Strömbäck, responsable du forum Netopia, de M. Peter Warren, co-auteur du rapport Can we make the digital world ethical ? (février 2014), publié par cette organisation, et de M. Murray Shanahan, professeur à Imperial college à Londres
M. Gaëtan Gorce, Président. - Nous accueillons à présent, MM. Per Strömbäck, Murray Shanahan et Peter Warren qui vont notamment envisager la question de savoir si l'éthique peut avoir sa place dans le monde numérique ?
M. Per Strömbäck. - C'est un honneur d'être présent parmi vous. L'objectif de notre forum Netopia est de réfléchir sur l'évolution des nouvelles technologies. Notre forum s'intéresse ainsi aux droits de l'homme, à la démocratie et à l'évolution de l'État dans le cadre d'Internet. Ce forum dispose d'un site constamment enrichi par ses utilisateurs, netopia.eu, et organise des événements. Il publie également des rapports comme celui qui nous réunit aujourd'hui et qui porte sur la question de l'éthique dans le monde numérique. Ce rapport a été notamment rédigé par M. Peter Warren et comprend l'intervention du Professeur Murray Shanahan ; tous deux vont intervenir à mes côtés dans le cadre de cette audition.
En tant que rédacteur en chef de Netopia, j'ai commandité la rédaction de ce rapport de fond sur la question de l'éthique dans le monde numérique. Tout d'abord, ce rapport traite du problème du libre arbitre et de la problématique de la liberté dans la technologie. En effet, comme l'a souligné la société CISCO, l'augmentation du trafic sur Internet va être générée dans les années à venir davantage par les machines que par les êtres humains. Cette évolution s'inscrit dans la relation entre machines déjà existantes, mais elle opère un saut qualitatif puisque ce sont les machines qui vont prendre des décisions au nom des êtres humains. D'ailleurs, ces machines nous font croire qu'elles sont presque humaines : les affichages publicitaires, les transactions notamment financières, sont préparés par des machines et non par des humains ! Si vous jouez aux échecs en ligne, par exemple, grandes sont vos chances de vous mesurer à un robot ! Un grand nombre de domaines de l'activité humaine est concerné par les robots, comme dans l'assurance, la santé ou encore la défense.
Cette évolution induit le problème de la responsabilité et de l'éventualité de droits dont pourraient bénéficier les robots. Les machines devraient-elles obtenir des droits humains ?
S'agissant de la liberté, les paroles de Jean-Paul Sartre selon lesquelles « l'homme est condamné à être libre parce qu'il ne s'est pas créé lui-même. Parce qu'une fois jeté dans le monde, il est responsable de tout ce qu'il fait » retentissent avec une évidente actualité.
Pour certains activistes, la liberté d'Internet devrait impliquer l'absence de régulation gouvernementale, mais cette définition nous semble curieuse car les institutions publiques existent pour préserver nos libertés. Sans la loi et les institutions qui ont pour fonction de préserver le droit, nous serions dans l'état de nature tel que le décrit Thomas Hobbes comme un état de guerre de tous contre tous.
La réalité de l'Internet aujourd'hui n'est pas celle de l'anarchie ! La technologie d'ailleurs cache d'autres autorités, plus puissantes encore que les gouvernements, que sont les entreprises privées qui créent et gèrent les services. Celles-ci sont les véritables autorités de réglementation et non les autorités démocratiques. Si l'on accepte ce point, on laisse à ces entreprises toute latitude pour décider du fonctionnement de l'ensemble du réseau Internet.
Cette question de la liberté se complexifie du fait des difficultés de traduction inhérentes au terme de libre en langue anglaise : en effet, « free » signifie également gratuit, et la gratuité est souvent présentée, et ce, de manière fallacieuse, comme la caractéristique obligée d'Internet.
Que les informations sur Internet soient libres et gratuites impliquent leur accessibilité pour tous à l'instar de l'intuition de Stewart Brand qui avait, dès les années 80, créé une sorte d'ancêtre de l'Internet. L'accessibilité fait en effet débat : d'une part, les informations devraient avoir un prix car elles changent la vie des individus quand elles arrivent au bon moment, à la bonne place, et, d'autre part, elles devraient être gratuites, car leurs coûts de publication et de diffusion diminuent. La liberté n'entraîne pas ainsi la gratuité !
Ma conclusion, c'est que la démocratie implique la liberté et il importe que les gouvernements démocratiques jouent un rôle actif en ligne et réglementent la technologie plutôt que laisser cette dernière dominer la vie de leurs citoyens. Cette démarche s'avère de plus en plus difficile avec l'arrivée constante de nouvelles technologies comme les algorithmes autonomes. Cette influence gouvernementale peut cependant être exercée de deux manières : tout d'abord, en versant des subsides et des subventions à la recherche pour faire des études d'impact des technologies et en réglementant, ensuite, les entreprises de l'Internet.
Notre rapport a précisé ces aspects. D'ailleurs, je citerai à nouveau Jean-Paul Sartre : « l'existence précède l'essence ». Ce principe s'applique non seulement aux humains, mais aussi aux machines. Nous les avons conçues avec un objectif. Je passe la parole au Professeur Murray Shanahan.
M. Murray Shanahan. - Tout d'abord, ma contribution à ce rapport se limite à l'intelligence artificielle qui est ma spécialité et qui suscite ces derniers temps l'attention des médias. Google a ainsi investi massivement dans ces technologies, en achetant huit sociétés de robotique, y compris la société Boston Robotic et la société Deep Mind, cette dernière pour le prix de quatre-cent millions de livres. Cette dernière travaille sur l'apprentissage qui passe par l'exploitation des données de masse. L'intelligence artificielle peut apporter de réels bienfaits dans une diversité de secteurs d'activité, comme la santé, les loisirs ou encore le secteur militaire.
Nos sociétés sont de plus en plus dépendantes des technologies et en particulier d'Internet. La finance, l'énergie, la communication, la sûreté, la sécurité et la défense le sont tout particulièrement. Bien entendu, l'ensemble de ces secteurs dépend des technologies de l'intelligence artificielle, mais de nouvelles questions se posent actuellement : la prise de décision autonome, comme dans le cadre du trading haute fréquence basé sur des algorithmes et se positionnant sur des laps de temps de l'ordre de quelques millisecondes pour exploiter des mouvements de prix. L'exemple d'un mini-krach boursier intervenu très récemment sur une très courte période résulte de l'utilisation massive de ces algorithmes. Un autre exemple révélateur est fourni par l'exploitation du défaut de synchronisation des différentes horloges utilisées par les traders : un avantage de quinze millisecondes d'écart pour la réception d'informations publiées a généré un bénéfice de plus de vingt milliards de dollars.
L'autonomie des machines suscite des effets qui demeurent inconnus, pour le moment encore. Or, des capteurs omniprésents produisent des données en masse. La prolifération des machines issues de la technologie de l'intelligence artificielle, sans que ne soit prise de précaution, favorise l'émergence d'événements dramatiques et non prévus. La dépendance croissante des infrastructures à l'égard de l'intelligence artificielle rend le système vulnérable à des actes hostiles de criminalité et, de manière plus générale, à l'erreur humaine. À cet égard, l'origine du virus heartbleed, qui résultait d'une erreur d'un programmateur travaillant dans la communauté open source et spécialisé dans le chiffrage de données, est révélatrice de la vulnérabilité des systèmes et de leur interdépendance.
Il est très difficile pour les concepteurs de tout prévoir surtout lorsqu'ils ne peuvent apprécier l'interaction de leurs systèmes avec d'autres. Outre cette interdépendance systémique et la globalisation, la rapidité d'exécution empêche que soit vue toute anomalie par un opérateur humain ; cette anomalie pouvant, par un effet domino, perturber l'intégralité du système et des infrastructures dont nous sommes dépendants.
En fait, je demeure très optimiste sur l'avenir et reste persuadé que les nouvelles technologies peuvent procurer un grand nombre de bienfaits pour nos sociétés. Mais toutes ces questions exigent la mise en oeuvre d'une ingénierie soignée.
Comment réduire ces risques ? Outre la surveillance par des êtres humains, la mise en oeuvre de systèmes de garde-fous détectant, de manière automatique, tout problème comme dans la bourse en cas de dépassement des capacités des algorithmes. Il faut également être en mesure de contourner, voire d'arrêter le système afin d'éviter toute catastrophe et utiliser des systèmes manuels en cas d'arrêt. Tous ces moyens relèvent de bonnes pratiques dont les ingénieurs sont responsables.
M. Peter Warren. - Je suis journaliste et président de l'institut de recherche sur la cyber sécurité. J'écris sur les questions technologiques depuis une trentaine d'années. L'humanité reste à la traîne de ce nouveau monde technologique et il me semble que depuis 1996 les sociétés privées sont devenues plus puissantes que les gouvernements nationaux. Le pouvoir de ces sociétés sur la vie des gens doit être questionné dans un débat beaucoup plus large.
Deux phénomènes ont particulièrement retenu mon attention. Premier phénomène : l'évolution technologique de l'armée britannique qui a longtemps été considérée comme garante de l'autonomie nationale et qui relevait d'une agence gouvernementale spécialisée dans l'évaluation et la recherche de défense. Or, depuis quelques années, la société Microsoft fournit un grand nombre d'équipements à l'armée ce qui tend à reléguer au second plan l'action de cette agence. Cette situation n'est pas unique puisque Microsoft, ou encore d'autres sociétés comme Oracle, fournissent d'autres armées du monde en produits diffusés à large échelle (en anglais « COTS »).
Second phénomène : de nombreux députés britanniques, qui devaient débattre d'une loi sur le E-commerce, ont dû, en 2000, bénéficier d'une formation de quinze jours pour comprendre les tenants et les aboutissants de ce sujet. M. Michael Drury, ancien responsable des affaires juridiques pour le renseignement britannique, a avoué que le droit ne parvenait pas à suivre les avancées technologiques, du fait de leur rapidité qui empêche tout contrôle juridique. Cet argument est utilisé par les industriels qui voient dans la régulation une entrave à la compétitivité. Cette incompréhension de l'évolution technologique conduit les sociétés à subir le joug des industries technologiques et ainsi à aliéner le plus grand nombre au profit d'une minorité élitiste.
Ainsi, des sociétés cherchent à influencer la manière dont les consommateurs font leurs achats. Mais cette tendance va s'accroître avec le développement des données de masse et l'aménagement de villes intelligentes. Au-delà des avantages annoncés, l'Internet des objets constitue une menace car cette technologie possède les attributs d'un système de surveillance qui tend à réduire les individus à de simples numéros et à des consommateurs passifs. Cette perspective est difficile à admettre : Charles Dickens, dans son roman Les temps difficiles publié en 1854, avait déjà dépeint les ouvriers de son temps comme des petites mains, comme des êtres démembrés. Ce témoignage annonce la situation actuelle qui transparaît à travers les paroles du Secrétaire d'État au trésor, M. Daniel Alexandre, qui a annoncé la vente des données rendues anonymes des personnes âgées, du fait, selon lui, de l'absence de valeur économique qui est celle des personnes concernées. Or, chacun sait qu'il est impossible de rendre anonyme des données personnelles comme un récent rapport publié par Netopia l'a indiqué, ainsi que d'autres articles de presse, dont ceux publiés par le Figaro. Et le gouvernement britannique n'est pas le seul à souhaiter transformer ses citoyens en données pour développer des données de masse.
L'interconnexion à venir de l'ensemble des activités humaines est en marche et devrait donner jour à un système où la surveillance est la règle, que ce soit dans la rue, désormais intelligente, avec votre portable, qui permet de connaître en temps réel votre géolocalisation, avec vos vêtements, qui seront en mesure d'émettre à tout moment un diagnostic sur votre état de santé et votre maison qui répondra à votre rythme de vie. Bref, la vie des individus va être cartographiée.
Qu'adviendra-t-il dans ce nouveau monde de données ? L'affaire Snowden est riche d'enseignements en ce qu'elle indique les avantages que peuvent retirer les agences de renseignements de cette profusion de données de masse qui caractérise désormais nos sociétés. D'ailleurs, les entreprises du secteur privé travaillent depuis de nombreuses années sur ces données de masse et l'inquiétude récemment exprimée par le Président Barack Obama ne concernait pas tant leur immixtion dans la vie privée des citoyens de ces dernières, que la collusion entre ces entreprises et les agences de renseignements.
Ces données de masse constituent bel et bien le nouveau pétrole du XXIème Siècle et les individus fournissent eux-mêmes les données. Une telle évolution ne manquera pas d'induire de notables changements non seulement dans notre façon de vivre, mais aussi dans celle de penser. Que pouvons-nous faire face à une telle perspective ? Il convient sans doute de se rappeler les paroles prophétiques du héros de la série Le Prisonnier diffusée en Grande-Bretagne pendant les années 60 : « Je ne suis pas un numéro, je suis un être humain. » Nous devons sans cesse rappeler que la personne humaine prime devant les données.
Il importe ainsi de définir des programmes qui permettent à l'éthique de jouer un rôle face à la technologie, comme la création d'une agence d'accréditation éthique ou encore la mise en oeuvre de systèmes technologiques assurant l'anonymisation réelle de l'individu. Il faudrait également veiller à créer un sanctuaire assurant la pleine et entière maîtrise par les individus de certains de leurs appareils technologiques, tout en veillant à ce que les données individuelles soient du ressort des personnes auxquelles elles se rapportent.
Certes, de telles mesures ne susciteront pas l'assentiment des entreprises du secteur technologique. Certaines attitudes individuelles, si elles sont généralisées, peuvent dissuader les entreprises de prendre en otage les utilisateurs de leur technologie. D'ailleurs, la finalité des logiciels devrait être mentionnée plus clairement et les conséquences de la programmation des systèmes devraient, en général, être explicitées.
D'après les industriels, la complexité du système intégré qui gère nos existences demeure très fragile et avive l'éventualité d'une catastrophe systémique. En effet, les codes utilisés sont parfois incomplets et génèrent un risque sociétal réel. C'est pourquoi, il importe que leurs rédacteurs soient conscients de la portée de leurs agissements. En ce sens, Netopia a demandé que soit créée une agence de vérification des logiciels, instaurée sur le modèle de l'Agence en charge de l'homologation de la nourriture et des médicaments aux États-Unis, et qui aurait pour mission de valider la sécurité des codes utilisés dans la programmation. Un tel organe aurait sans doute pu éviter un virus tel que heartbleed qui a infiltré jusqu'au centre fédéral des impôts canadien !
L'une des principales sociétés qui travaillent actuellement sur la vérification des codes, qui a d'ailleurs été créée grâce aux capitaux fournis par la CIA, a révélé que les codes utilisés par les centrales nucléaires ne sont soumis à aucune vérification. En ce sens, elle a demandé, avec le soutien du Président Obama, que soit également mis en oeuvre un mécanisme d'accréditation des logiciels pour remédier à une telle situation.
Cette démarche d'accréditation constituerait un gage de transparence dont pourraient à leur tour bénéficier les particuliers qui seraient ainsi informés de l'existence de leurs données et de leur utilisation. À titre expérimental, j'ai moi-même exploité certains disques durs laissés au rebut par des grandes entreprises et j'y ai trouvé des données à caractère personnel, comme des comptes bancaires de personnalités, qui n'avaient pas été effacées.
Chacun crée en permanence des données qui sont laissées sur le réseau Internet. C'est pourquoi, il importe que l'Internet des objets autorise l'anonymat et que, de manière plus globale, soit empêchée la mise en oeuvre d'un système de surveillance généralisé et fondé sur une appréciation prédictive des comportements à partir des données de masse. Ce droit à l'anonymat face à la collecte massive de données devrait reposer sur deux piliers : la sanctuarisation d'un espace individuel dont la suspension devrait impliquer une décision de justice et la primauté reconnue au choix, éclairé sur les conséquences d'une telle démarche et disposant d'un délai de réflexion, d'entrer dans l'Internet des objets.
L'ensemble de ces démarches devrait ainsi éviter l'aliénation généralisée des personnes qui, une fois conscientes de leur situation d'inféodation à la technologie, pourraient également tenter de s'en affranchir violemment.
Mme Catherine Morin-Desailly, rapporteure. - S'agissant de l'idée de créer une instance de contrôle qui pourrait prendre la forme d'une agence qui aurait pour mission d'accréditer ces innovations aux conséquences réelles sur nos vies, quelle forme pourrait prendre un tel organe de contrôle ? À quelle échelle, pour être efficace, un tel organe pourrait-il être instauré ? Est-ce au niveau européen ? D'autres dispositifs pourraient-ils intervenir dans d'autres champs afin d'y accroître la sécurité, comme dans ce que les Anglo-saxons désignent comme « privacy by design », c'est-à-dire le droit à la vie privée dès la conception des innovations ? Faut-il également prévoir des licences d'exploitation pour chaque innovation technologique dans le domaine de l'Internet ?
Connaissez-vous également les travaux de M. Joël de Rosnay qui portent sur l'alliance de l'informatique et de la biologie et, au-delà, sur l'intelligence artificielle qu'il caractérise comme une sorte de méga-intelligence dépassant l'intelligence humaine ? De telles problématiques sont-elles au coeur de vos recherches et quels sont les aspects éthiques qui vous semblent les plus pertinents au gré de vos recherches ?
M. Peter Warren. - Confronté à la vitesse qui caractérise le développement technologique aux répercussions innombrables sur notre quotidien, l'organisme dont nous promouvons la création sur le modèle du Food and Drug Administration devra avoir pour vocation d'examiner toutes les innovations sur le plan éthique. Une telle démarche existe d'ailleurs dans les universités américaines. Depuis 1997, je demande que soit systématiquement abordée cette question dans les colloques ou les événements réunissant la communauté scientifique.
M. Per Strömbäck. - Les questions que vous soulevez, Madame le Rapporteur, sont essentielles. En l'absence d'un organisme transnational aux compétences réglementaires, l'Union européenne nous semble l'échelon pertinent du fait de sa tradition juridique, de la force de ses institutions comparées notamment à celles des Nations-Unies, et de son marché incontournable. S'agissant de la nature de cet organisme de régulation, sans doute faudrait-il s'inspirer de l'autoréglementation en vigueur sur les opérateurs des marchés financiers qui utilisent des technologies à forte valeur ajoutée. Cette démarche favoriserait une adaptation accrue aux changements technologiques par rapport à une réglementation imposée de l'extérieur.
Notre rapport, que nous avons présenté à Bruxelles il y a deux mois, aborde également la question des méga-intelligences. Une démarche éthique doit se consacrer à l'humain et considérer que les machines doivent demeurer des outils au service de celui-ci.
M. Murray Shanahan. - Lors de son achat de la société Deep mind, spécialisée dans l'intelligence artificielle, Google a annoncé la création d'un comité d'éthique destiné à s'assurer d'un usage éthique de cette technologie. Je trouve cette démarche intéressante, même si la composition même de ce comité d'éthique, qui pourrait accueillir des personnes extérieures à la société Google au risque de fragiliser sa stratégie industrielle qui requiert une réelle confidentialité, peut susciter des conflits d'intérêt. Cette fragilité me paraît rendre malaisée l'idée même d'autoréglementation.
Je ne connais pas les travaux scientifiques que vous venez de mentionner, mais l'évolution de l'intelligence artificielle doit être appréhendée différemment selon qu'on l'envisage dans les vingt prochaines années ou au-delà ! En effet, à court et moyen termes, la suprématie de l'humain, qui commande aux machines, est indéniable, mais ces dernières sont appelées, d'ici à quelques décennies, à devenir autonomes et à être pleinement décisionnaires. Une telle évolution ne manquera pas d'induire des conséquences profondes pour l'humanité et il me semble important de débattre dès à présent d'un tel phénomène et d'en anticiper les scenarii éventuels.
M. Peter Warren. - Nous avons en effet envisagé dans notre rapport le développement des algorithmes et des machines qui peut s'avérer inquiétant. Doter les robots de la faculté d'analyser les données représente une perspective angoissante! S'il est vrai qu'une telle démarche se heurte à des problèmes physiques, l'utilisation des technologies virtuelles, qui peuvent également intégrer une telle faculté d'analyse via les BOTS, permet d'aller plus loin dans la mise en oeuvre de l'intelligence artificielle.
Mme Catherine Morin-Desailly, rapporteure. - Je souhaite revenir sur votre évocation des conditions de l'adoption de la loi sur le E-commerce au Royaume-Uni. Nous avons parfois l'impression que nos voisins d'Outre-Manche sont moins à même d'apprécier le contexte et les conséquences probables des mutations technologiques sur lesquelles ils ont comme nous à se prononcer. Quelles sont les raisons de cette relative mésentente s'agissant de la protection des données personnelles ? Cette divergence de vues va-t-elle au-delà d'un certain tropisme anglo-saxon ?
M. Peter Warren. - Cette divergence me paraît d'origine culturelle. Il est en effet paradoxal qu'une culture qui est à l'origine d'un livre comme 1984 ne s'intéresse quasiment pas aux données de masse et à l'évolution des nouvelles technologies qui sont si prisées par les jeunes qui y trouvent une liberté apparente. Les start-ups, dont les activités se fondent sur les réseaux sociaux, suscitent par ailleurs un réel engouement. Cependant, un contre-mouvement, qui promeut la transparence totale et la protection de la vie privée, est en train de s'amorcer.
Il y a en effet des divergences culturelles. Les Français promeuvent le droit à l'oubli ce que, du reste, nous évoquons dans notre rapport. Nous pensons également que l'utilisation des données devrait se conformer à des limites temporelles. Certes, nous espérons que les citoyens vont se réveiller, mais cela ne nous paraît guère concevable à court terme !
M. Gaëtan Gorce, Président. - Nous vous remercions pour votre présentation qui nous a rappelé l'importance de ne pas se laisser embarqués par la technologie et d'assumer notre responsabilité qui est collective et doit, à ce titre, reposer sur des valeurs.
La réunion est levée à 17 h 35.