Allez au contenu, Allez à la navigation

Pour une intelligence artificielle maîtrisée, utile et démystifiée - Rapport

15 mars 2017 : Pour une intelligence artificielle maîtrisée, utile et démystifiée - Rapport ( rapport d'information )

II. LES QUESTIONS ÉTHIQUES ET JURIDIQUES POSÉES PAR LES PROGRÈS EN INTELLIGENCE ARTIFICIELLE

A. LES ANALYSES PRÉSENTÉES PAR D'AUTRES INSTANCES POLITIQUES

1. Les deux rapports issus des institutions de l'Union européenne : Parlement européen et Comité économique et social européen (CESE)

Du côté des institutions de l'Union européenne, il convient tout d'abord de relever l'initiative conduite par Mady Delvaux, présidente d'un groupe de travail sur la robotique et l'intelligence artificielle au sein de la Commission des affaires juridiques du Parlement européen. Elle a ainsi rendu public, le 31 mai 2016, un projet de rapport contenant des recommandations à la Commission européenne concernant des règles de droit civil sur la robotique et une motion portant résolution du Parlement européen. Ce document, sous la forme d'une résolution du Parlement européen a été adopté le 16 février 2017145(*), dans une version « allégée » à l'issue de sa discussion (plus de 500 amendements ont été déposés). La Commission n'est pas contrainte de suivre les recommandations du Parlement mais elle doit exposer ses raisons en cas de refus.

L'idée de taxer les robots ou celle de mettre en place un revenu universel font partie des propositions qui ont été écartées lors du vote des amendements. Par ce texte, les députés européens demandent à la Commission européenne de proposer des règles sur la robotique et l'intelligence artificielle, en vue d'exploiter pleinement leur potentiel économique et de garantir un niveau standard de sûreté, de sécurité et de transparence. Ils y soulignent que des normes communautaires pour les robots devraient être envisagées afin que l'Union européenne prenne l'initiative pour fixer ces normes sans être contrainte de suivre celles édictées par des États tiers.

Il est proposé de clarifier les questions de responsabilité, en particulier pour les voitures autonomes, et de mettre en place un système d'assurance obligatoire ainsi qu'un fonds de garantie permettant le dédommagement des victimes en cas d'accidents causés par ce type de voitures. Il est également proposé un code de conduite éthique pour la robotique, à destination notamment des chercheurs et des concepteurs.

Par ailleurs, les parlementaires européens demandent à la Commission d'envisager, à long terme, la possibilité de créer un statut juridique spécial pour les robots, sous la forme de l'octroi d'une personnalité juridique afin de clarifier la responsabilité en cas de dommages.

En outre, la création d'une agence européenne pour la robotique et l'intelligence artificielle, afin de fournir aux autorités publiques une expertise technique, éthique et réglementaire, est préconisée.

Une consultation publique sur cette résolution du Parlement européen a été ouverte le 16 février 2017

Vos rapporteurs jugent nécessaires de distinguer clairement les robots « physiques » des robots « virtuels », ce que ne fait pas la résolution du Parlement européen. Ils pensent que la confusion doit être levée et le terme de robot réservé à des objets matériels autonomes.

Vos rapporteurs désapprouvent également l'octroi d'une personnalité juridique pour les robots, qui leur paraît soit dépourvue de fondement, soit totalement prématurée.

Le Comité économique et social européen (CESE), l'assemblée consultative des partenaires économiques et sociaux européens, rend des avis qui sont publiés au Journal officiel de l'Union européenne, à raison d'environ 170 par an en moyenne. Catelijne Muller, que vos rapporteurs ont rencontrée, est en cours de finalisation d'un rapport sur l'intelligence artificielle en sa qualité de rapporteure pour le CESE sur l'intelligence artificielle. L'avis sera rendu public à l'issue de la réunion de section prévue le 4 mai 2017. Vos rapporteurs ont pu constater que Mme Muller partageait largement leurs points de vue, analyses et propositions.

2. Les trois rapports de la Maison Blanche

La Présidence des États-Unis s'est emparée du sujet de l'intelligence artificielle et a rendu différents rapports dans la période récente, dont trois au cours des six derniers mois. Elle avait auparavant rendu public un premier rapport en mai 2014 sur le big data146(*) sous-titré « seizing opportunities, preserving values », piloté par John Podesta, au sein du bureau exécutif du président des États-Unis147(*) (en anglais Executive Office of the President, appelé également « Brain Trust »). Plus récemment, après avoir mobilisé des experts au sujet de l'intelligence artificielle, en mai 2016148(*), la Présidence des États-Unis a rendu public, en octobre 2016, un rapport de l'Office de la politique scientifique et technologique de la Maison Blanche intitulé « Se préparer à l'avenir de l'intelligence artificielle »149(*) (en anglais, Preparing the Future of Artificial Intelligence), accompagné d'un autre document intitulé « Plan stratégique national pour la recherche et le développement de l'intelligence artificielle »150(*) (National Artificial Intelligence Research & Development Strategic Plan), ces deux rapports sont résumés ci-après. Enfin, en décembre 2016, le bureau exécutif du président des États-Unis a rendu un nouveau rapport sur l'impact économique de l'intelligence artificielle et de la robotisation151(*) (il est intitulé « Artificial Intelligence, Automation, and the Economy »). L'administration Obama a donc produit pas moins de trois rapports sur le sujet entre octobre et décembre 2016.

Vos rapporteurs ont été marqués par le fait que le Président Barack Obama ait choisi de consacrer l'une des dernières de ses grandes apparitions publiques aux défis technologiques, sociaux, économiques et éthiques de l'intelligence artificielle, lors d'un entretien avec Joi Ito, directeur du MIT Media Lab, publié dans le magazine technologique le plus lu au monde152(*). Comme leur ont indiqué les fonctionnaires du service scientifique du consulat de France à San Francisco, il s'agit d'un bon indicateur du fait que « cette thématique est le sujet brûlant du moment aux États-Unis, que ce soit dans l'expression de politiques publiques, la consolidation d'une puissance de recherche inégalée ou le développement rapide et sans précédent d'activités économiques liées à ces technologies ».

Le premier rapport intitulé « Se préparer à l'avenir de l'intelligence artificielle », assez peu détaillé, a pour objectif de produire un cadre général de réflexion, en amorçant un état des lieux de la recherche et des applications actuelles tout en posant des jalons prudents quant à la possibilité et la nature d'une régulation. Il dresse moins un bilan de l'état actuel de l'intelligence artificielle, de ses applications effectives et potentielles, points rapidement évoqués, qu'il ne s'intéresse aux questions posées par les progrès en intelligence artificielle pour la société et les politiques publiques, tout en mettant en avant un discours mobilisateur autour du potentiel des avancées en intelligence artificielle pour permettre aux États-Unis de rester à la pointe de l'innovation mondiale. La publication de ce rapport suit une série d'activités publiques menées par l'Office de la politique scientifique et technologique de la Maison Blanche en 2016, qui comprenait cinq ateliers publics co-animés tenus à travers le pays, ainsi qu'une demande d'information153(*), en juin 2016, à laquelle cent soixante-et-une réponses ont été apportées. Ces activités ont permis de faire connaître les sujets étudiés et les recommandations incluses dans le rapport.

Ce dernier constate que depuis quelques années, les machines ont surpassé les humains dans l'accomplissement de certaines tâches spécifiques, par exemple dans la reconnaissance d'images. Bien qu'il soit peu probable que les machines présentent une intelligence d'application générale comparable ou excédant celle des humains dans les vingt prochaines années, les experts prévoient que les progrès rapides dans le champ de l'intelligence artificielle spécialisée se poursuivront, avec des machines égalant et dépassant les performances humaines sur de nombreuses tâches spécialisées.

L'un des plus importants enjeux de l'intelligence artificielle est son impact sur l'emploi et l'économie. Le rapport recommande que la Maison Blanche organise une étude sur l'impact de l'automatisation sur l'économie, ce qui a été fait avec la publication d'un rapport spécifique sur ce sujet en décembre 2016.

En particulier, ce premier rapport se conclut sur l'idée que les technologies d'intelligence artificielle font émerger un potentiel d'amélioration de la vie des citoyens en ouvrant de nouveaux marchés et de nouvelles opportunités permettant de résoudre certains des grands enjeux sociétaux : la santé, les transports, l'éducation, l'énergie, l'environnement, la justice, la sécurité ou encore l'efficacité du gouvernement. Il estime crucial que l'industrie, la société civile, et le Gouvernement travaillent ensemble et se mobilisent pour saisir pleinement ces opportunités.

Au-delà des domaines d'application mis en avant, il affirme qu'une réglementation générale de la recherche en intelligence artificielle semble inapplicable à l'heure actuelle et que la réglementation actuelle est pour l'heure suffisante, dans l'attente d'une expertise plus fouillée154(*). Ainsi, les éventuelles futures réglementations devront réduire les coûts et les barrières à l'innovation sans mettre en danger la sécurité du public ou la concurrence équitable sur le marché. Le Gouvernement fédéral peut cependant jouer un rôle de pivot, même sans impulser de nouvelles lois155(*).

Un second rapport, intitulé plan national pour la recherche sur l'intelligence artificielle et le développement stratégique, a également été publié en octobre 2016. Allant de pair avec le premier, il pose les lignes directrices d'une stratégie nationale pour la recherche et le développement de l'intelligence artificielle. Il apporte ainsi des recommandations pour des actions spécifiques en R&D financées au niveau fédéral. Il rappelle que le Gouvernement fédéral des États-Unis a investi dans la recherche sur l'intelligence artificielle durant de nombreuses années, par exemple à travers la DARPA. Au vu des immenses opportunités qui se présentent, de nombreux facteurs sont à prendre en considération dans la définition de la recherche et du développement (R&D) de l'intelligence artificielle financée au niveau fédéral. Sept priorités ont donc été définies :

1. Soutenir, par l'investissement fédéral, la recherche à long terme afin de produire des percées scientifiques et technologiques dans les dix prochaines années et demeurer le leader mondial de l'intelligence artificielle. Il s'agit en particulier des méthodes nécessaires à la découverte de savoirs dans de grands volumes de données, l'amélioration des capacités de perception des systèmes d'intelligence artificielle, la compréhension profonde des capacités théoriques et des limites propres au développement de l'intelligence artificielle, la poursuite des efforts visant au développement d'une intelligence artificielle générale par opposition aux intelligences artificielles spécifiques.

2. Développer des méthodes de collaboration entre hommes et intelligence artificielle. Plutôt que de remplacer les humains, la plupart des systèmes d'intelligence artificielle vont collaborer avec eux : la recherche est nécessaire afin de créer des interactions effectives entre les humains et les systèmes d'intelligence artificielle.

3. Comprendre et se pencher sur les implications éthiques, légales et sociétales, dans le but de concevoir des systèmes d'intelligence artificielle conformes aux principes éthiques, légaux et sociétaux des États-Unis. Le rapport insiste sur l'importance d'assurer la justice, la transparence et la responsabilité des systèmes, dès la phase de conception.

4. Assurer la sécurité et sûreté des systèmes d'intelligence artificielle, en particulier dans l'adaptation à des environnements complexes et/ou incertains. Avant que les systèmes d'intelligence artificielle ne soient utilisés à grande échelle, il faut s'assurer que ces systèmes vont opérer de manière sécurisée et fiable. Des progrès plus poussés dans la recherche sont nécessaires pour répondre à ce défi.

5. Développer des bases de données publiques partagées pour l'analyse, l'apprentissage, l'entraînement et le test de systèmes d'intelligence artificielle. La profondeur, la qualité et la précision des données d'apprentissage conditionnent leurs performances. La mise à disposition de bases de données fédérales existantes est proposée.

6. Développer des standards visant à s'assurer que les technologies émergentes répondent à des objectifs précis en termes de fonctionnalité et d'interopérabilité, ainsi qu'en termes de sécurité et de performance. Des recherches additionnelles sont nécessaires pour développer un large spectre de techniques évaluatives et de plateformes d'essai.

7. Évaluer les besoins en termes de main-d'oeuvre. Les avancées en intelligence artificielle demandent une forte communauté de chercheurs et d'experts en intelligence artificielle, ce qui plaide pour une meilleure compréhension des besoins actuels et futurs de main-d'oeuvre.

Le Plan Stratégique de R&D pour l'intelligence artificielle se conclut avec deux recommandations :

· Développer un cadre de mise en oeuvre de la R&D de l'intelligence artificielle afin d'identifier les opportunités scientifiques et technologiques et soutenir une coordination effective des investissements en R&D de l'intelligence artificielle, en accord avec les stratégies 1 à 6 de ce plan.

· Étudier le paysage professionnel national afin de créer et maintenir une main-d'oeuvre de bon niveau pour la R&D en intelligence artificielle, en accord avec la stratégie 7 de ce plan.

3. Le rapport de la Chambre des Communes du Royaume-Uni

La commission science et technologie de la Chambre des Communes du Royaume-Uni a rendu public, en octobre 2016, un rapport sur la robotique et l'intelligence artificielle, intitulé « Robotics and artificial intelligence »156(*). Les rapporteurs de ce texte affirment le potentiel disruptif du développement de l'intelligence artificielle sur les manières de vivre et de travailler.

Selon Tania Mathias, présidente par intérim de la commission, « l'intelligence artificielle a encore du chemin à parcourir avant que les systèmes artificiels et robots ne deviennent comme ceux imaginés dans des oeuvres telles que Star Wars. Pour le moment, les «machines à intelligence artificielle» se voient assigner des rôles restreints et spécifiques, comme la reconnaissance vocale ou être un adversaire au jeu de Go. Cependant, la science-fiction est doucement en train de devenir une science factuelle, la robotique et les intelligences artificielles semblent être destinées à jouer un rôle de plus en plus important dans nos vies au cours des prochaines décennies. Il est trop tôt pour établir des régulations sectorielles pour ce domaine naissant mais il est vital qu'un examen attentif des implications éthiques, légales et sociétales des systèmes d'intelligence artificielle débute dès maintenant ».

Ce rapport estime que le rôle d'impulsion joué par le Gouvernement dans le domaine de la robotique et de l'intelligence artificielle a été déficient. Le fait que les structures privées s'interrogent face aux risques et bénéfices de l'intelligence artificielle ne décharge pas le Gouvernement britannique de ses responsabilités. Ce rapport incite ainsi le Gouvernement à établir une « Commission nationale sur l'intelligence artificielle » au sein de l'Institut Alan Turing, afin d'identifier les principes de gouvernance du développement et de l'utilisation de l'intelligence artificielle et d'encourager le débat public.

Ce rapport aborde également la question de l'emploi. Selon ses auteurs, les progrès en productivité, permis par la robotique et l'intelligence artificielle, sont largement prévisibles. Bien qu'une incertitude plane sur l'ampleur des destructions d'emploi et la capacité du marché du travail à résorber un chômage potentiellement massif, il demeure que, selon les recommandations de ce rapport, l'accent doit être mis sur l'ajustement des systèmes d'éducation et de formation britanniques afin de délivrer les compétences qui permettront à la population de s'adapter et de profiter des opportunités ouvertes au moment où les nouvelles technologies sont et seront mises en oeuvre.

Selon Tania Mathias, « il est concevable que nous verrons des machines à intelligence artificielle créer de nouveaux emplois dans les décennies à venir tout en en remplaçant d'autres. Comme nous ne pouvons pas encore prévoir avec exactitude comment ces changements vont se concrétiser, nous devons répondre avec préparation et réactivité aux besoins de requalification et d'amélioration des compétences ». Cela implique un engagement de la part du Gouvernement qui garantisse la flexibilité des systèmes d'éducation et de formation leur permettant de s'adapter à l'évolution des opportunités et des exigences imposées aux travailleurs. Le rapport déplore, en outre, que le Gouvernement n'ait pas encore publié sa stratégie numérique, ni déterminé ses plans pour doter les futurs travailleurs des compétences numériques essentielles à leur développement professionnel.

Le Gouvernement britannique a apporté en janvier 2017 une réponse157(*) au rapport présenté par la Chambre des Communes en reprenant explicitement trois recommandations avancées dans celui-ci sans toutefois annoncer de décisions nouvelles. Tout d'abord, le Gouvernement semble bien conscient du bien fondé de développer une stratégie pour soutenir les systèmes autonomes et robotiques (Robotics and Autonomous Systems, RAS en anglais) et indique sa volonté d'améliorer la coordination stratégique entre le Gouvernement, les industries et le monde académique afin de maximiser les retombées économiques et sociales permises par ces technologies.

Ensuite, le Gouvernement reconnaît et promeut le rôle de l'Institut Alan Turing dans la stratégie à développer, en annonçant la mise en place en son sein d'une « Commission nationale sur l'intelligence artificielle ». Les missions primordiales de l'Institut relatives au développement de l'intelligence artificielle seront de répondre aux enjeux éthiques, sociaux et juridiques, d'assurer que le développement de ces technologies soit pleinement bénéfique à la société, et de bâtir la confiance dans les capacités de développement du Royaume-Uni dans ce secteur.

Enfin, le Gouvernement affirme avoir bien identifié la nécessité de la formation aux technologies numériques, cette dimension étant appelée à être incluse dans l'ensemble des filières de formation.

Un groupe de travail de la Royal Society, rencontré par vos rapporteurs, conduit également un projet de recherche158(*) visant à analyser les opportunités et les défis juridiques, sociaux et éthiques liés au machine learning et à ses applications sur les cinq à dix prochaines années. Ce groupe de travail publiera des recommandations à l'attention du Gouvernement britannique au cours de l'année 2017.

4. Les initiatives chinoises et japonaises en intelligence artificielle accordent une place contrastée aux questions éthiques

La Chine et le Japon ont déployé des stratégies nationales pour l'IA qui accordent une place contrastée aux questions éthiques : alors que la première les délaisse, le second a mis en place une réflexion officielle de haut niveau en la matière.

La Chine se trouve au coeur de l'évolution récente des techniques et déploie d'importants moyens avec pour objectif de devenir leader mondial dans le domaine159(*). Elle a l'ambition d'être la première à disposer, vers 2025-2030, d'une intelligence artificielle générale, comparable à celle du cerveau humain (« Artifical General Intelligence » ou AGI), première étape dans le but de parvenir ensuite au développement d'intelligences suprahumaines, ce qui ne soulève pas de questions éthiques majeures dans ce pays.

Même si les progrès visibles de la Chine reposent encore sur des architectures conçues par des scientifiques occidentaux, ses atouts propres sont réels, comme l'a indiqué à vos rapporteurs le service scientifique de l'Ambassade de France à Pékin : elle dispose « des deux supercalculateurs les plus puissants du monde, d'un marché intérieur très important et friand des avancées potentielles du secteur, d'une collusion féconde entre l'État, les instituts de recherche, les universités, les géants de l'internet et de l'informatique et les start-up ».

Le 13e plan quinquennal comprend une liste de 15 « nouveaux grands projets - innovation 2030 » qui structurent les priorités scientifiques du pays et correspondent chacun à des investissements de plusieurs milliards d'euros. Parmi ces 15 projets, on en trouve quatre qui sont consacrés indirectement à l'IA, pour un montant de 100 milliards de yuans en trois ans : un projet de « Recherche sur le cerveau » et des projets d'ingénierie intitulés « Mega données », « Réseaux intelligents » et « Fabrication intelligente et robotique ».

Les recherches envisagées ne sont pas seulement théoriques, les applications multiples sont un moteur important : contrôle de drones, de robots ou d'avatars, interfaces en langage naturel, interfaces homme-machine, détection des émotions, analyse d'images, automobiles autonomes, etc. Les systèmes permettront aussi de faire l'analyse des big data.

L'exemple suivant ne semble pas gêner les chercheurs chinois, comme l'a précisé à vos rapporteurs le service scientifique de l'Ambassade de France : « Piloté par le Gouvernement et l'organisme central de planification, le dispositif de notation de la population devrait récupérer automatiquement les informations sur les citoyens d'ici à 2020. Il scrutera les activités en ligne etc, pour générer un score individuel. Il semble que si un seuil est dépassé, l'individu concerné se verra privé d'un certain nombre de droits et de services ». Une expérimentation a commencé dès 2017 à Suining160(*). D'autres dispositifs d'évaluation individuelle des citoyens ou des consommateurs sont étudiés, comme le Sesame Credit du distributeur en ligne Alibaba161(*).

L'opinion publique chinoise semble donc, à ce stade, peu préoccupée par les questions éthiques et philosophiques soulevées par ces applications, ni même par les questions concernant la protection des données et de la vie privée qui sont des enjeux importants pour l'évolution de la recherche et pour les applications de l'IA. En effet, les jeux de données sont l'une des dimensions majeures des progrès des algorithmes de deep learning et d'apprentissage statistique de façon plus générale.

L'intelligence artificielle est considérée, par ailleurs, comme l'élément clé de la révolution numérique au Japon selon les informations transmises à vos rapporteurs par le service scientifique de l'Ambassade de France au Japon162(*). Le gouvernement japonais a fait le choix d'annoncer dès mai 2015 un grand plan quinquennal pour la robotique et l'intelligence artificielle163(*), entré en vigueur le 1er avril 2016.

Il a fait de ces deux dernières technologies le socle de sa nouvelle stratégie en science, technologie et innovation, qui vise à mettre en place, au terme de la « 4e révolution industrielle », une « société 5.0 », société superintelligente et fer-de-lance à l'échelle mondiale du dynamisme japonais. On estime que le marché de l'intelligence artificielle au Japon devrait passer de 3,7 milliards de yens en 2015 à 87 milliards en 2030, dont 30,5 milliards de yens dans le domaine du transport et 42 milliards en incluant la production industrielle pour le transport.

Le gouvernement japonais a annoncé une vague d'investissements massifs dans le domaine, avec 27 milliards de yens pour la seule année 2016, à travers la création de centres de recherche et technologies dédiés. Ce montant est à rapprocher des plus de 300 milliards de yens d'investissement que les grands groupes japonais ont lancé sur les trois ans à venir pour financer des programmes ou des laboratoires dédiés à l'intelligence artificielle164(*). Les partenariats publics-privés entre les centres publics et les grands groupes japonais se multiplient, afin d'exploiter le potentiel de création de valeur que constitue l'intelligence artificielle sur des applications ciblées. L'intelligence artificielle ouvre la voie à des développements très attendus au Japon, selon le service scientifique de l'Ambassade, dans le domaine des transports, de la communication, de la traduction automatique ou de la robotique, notamment à l'horizon des Jeux Olympiques et paralympiques de 2020, que le Japon envisage comme une vitrine technologique pour se présenter comme « le pays leader mondial » en termes d'innovation.

Il peut être relevé qu'à l'occasion de l'organisation du sommet 2016 du G7 au Japon, qui s'est tenu à Shima les 26 et 27 mai 2016, le Japon a pris l'initiative d'organiser une réunion ministérielle du G7 consacrée aux Sciences et technologies de l'information et de la communication, format qui n'avait pas été mis en oeuvre depuis 20 ans.

Le ministère japonais de l'Éducation, de la culture, des sports, des sciences et de la technologie a rédigé en 2016 un livre blanc pour la science et la technologie, intitulé « Vers la société ultra-intelligente mise en oeuvre par l'IoT, le big data et l'IA- pour que le Japon soit un précurseur mondial », adopté en Conseil des ministres le 20 mai 2016. Ce rapport signale l'insuffisance au Japon de la formation et de la recherche fondamentale en informatique, qui devraient venir soutenir le développement des technologies de l'information et de la communication.

Trois ministères, respectivement en charge de la recherche, de l'industrie et des communications se sont mobilisés avec une vitesse étonnante pour développer des initiatives pour la robotique et l'intelligence artificielle et ont, chacun, annoncé en 2016 la création d'un centre de recherche spécifique sur l'intelligence artificielle : un premier centre auprès du RIKEN (principal centre de recherche japonais, du type CNRS), portant le nom de « AIP Center »165(*) (Advanced Integrated Intelligence Platform Project Center), l'AIRC (Artificial Intelligence Research Center), hébergé par l'AIST (Advanced Institute for Science and Technologies), et, enfin, le NICT (National Institue for Information and Communication Technologies).

Le gouvernement japonais a mis en place deux structures pour le suivi des stratégies du grand plan quinquennal pour la robotique et l'intelligence artificielle : un Conseil consacré à la stratégie des technologies liées à l'IA (qui a notamment pour but de coordonner les actions des trois centres de recherche précités, disposant d'un site web commun et mutualisant leurs ressources informatiques) et un Comité de délibération sur l'IA et la société humaine. Ces deux structures relèvent directement du gouvernement japonais.

Le Conseil de la stratégie des technologies liées à l'IA a tenu sa réunion inaugurale le 18 avril 2016 et sert de « quartier général de la recherche et du développement (R&D) des technologies de l'IA et de leurs applications industrielles » en regroupant les trois ministères impliqués dans l'IA. Il est présidé par Yuichiro Anzai, Président de la JSPS (agence de financement de la recherche du MEXT dédiée à la recherche fondamentale), et composé de deux représentants du Keidanren (syndicat patronal des entreprises japonaises), des présidents de deux universités (Université de Tokyo et Université d'Osaka) et des présidents de cinq grands instituts de recherche et agences de financement : le NICT (National Institute for Information and Communication Technologies, dépendant du Ministère des affaires intérieures et communication, MIC), le RIKEN (principal centre de recherche japonais), l'AIST (Advanced Institute for Science and Technologies, centre de recherche du Ministère de l'Économie), la JST (agence de financement orientée vers les projets de recherche appliquée) et la NEDO (agence de financement dépendant du Ministère de l'Économie). Deux sous-comités ont été placés sous l'autorité de ce Conseil : le Comité de collaboration de recherche (conseil des présidents des instituts de recherche et des agences de financement) et le Comité de collaboration industrielle qui se réunissent chacun mensuellement.

Le Comité de délibération sur l'IA et la société humaine a tenu sa première réunion le 30 mai 2016 en présence de Aiko Shimajiri, ministre chargée de la politique de la science et de la technologie, conformément à une annonce en Conseil des ministres, le 12 avril 2016. Il s'agit de la première structure gouvernementale ayant pour mission d'étudier les enjeux liés à l'IA, selon cinq points de vue, à savoir : l'aspect éthique, l'aspect légal, l'aspect économique, l'aspect social et l'aspect R&D. Ce Comité, présidé par Yuko Harayama et composé de onze experts, se réunit à une fréquence mensuelle pour analyser les activités nationales et internationales et a choisi de se baser sur des cas d'application précis, mettant en oeuvre des technologies qui devraient voir le jour à court terme : le véhicule autonome, l'automatisation de l'appareil de production et la communication homme-machine. Il souhaite également engager un débat avec le grand public, par le biais essentiellement de séminaires ouverts et de questionnaires en ligne.

Le Comité a remis ses conclusions, qui seront prises en compte dans la nouvelle Stratégie japonaise globale pour la Science, la technologie et l'innovation qui sera publiée en juin 2017. Des discussions au niveau international en la matière sont prévues à partir de 2017. Mme Harayama a toutefois présenté à Paris le 17 novembre 2016, dans le cadre du Technology Foresight Forum 2016 de l'OCDE166(*) dédié à l'intelligence artificielle, les premières pistes de réflexion du Comité :

- Éthique : Le citoyen peut-il accepter d'être manipulé pour modifier ses sentiments, convictions ou comportements, et d'être catégorisé ou évalué, sans en être informé ? Quel impact aura le développement de l'IA sur notre sens de l'éthique et les relations entre les hommes et les machines ? Dans la mesure où elle étend notre temps, notre espace et nos sens, est-ce que l'IA viendra affecter notre conception de l'humanité, notamment notre conception des facultés et des émotions humaines ? Comment évaluer les actions et la création à partir de l'IA ?

- Légal : comment trouver le juste équilibre entre les bénéfices du traitement des big data par l'IA, et la protection des informations personnelles ? Est-ce que les cadres légaux existants pourront s'appliquer aux nouvelles problématiques soulevées par l'IA ? Comment clarifier la responsabilité dans le cas d'incidents impliquant de l'intelligence artificielle (par exemple dans le cas du véhicule autonome) ? Quels sont les risques encourus en utilisant l'IA ou en ne l'utilisant pas ?

- Économique : comment l'IA va-t-elle changer notre manière de travailler ? Quelle politique nationale mettre en place pour favoriser l'utilisation de l'IA ? Comment l'IA va-t-elle modifier le monde de l'emploi ?

- Sociétal : Comment réduire les divisions liées à l'IA et répartir de manière équitable le coût social de l'IA ? Y-a-t-il des pathologies ou des conflits de société potentiellement engendrés par l'IA ? Peut-on garantir la liberté d'utiliser ou non l'IA, et assurer le droit à l'oubli ?

- Éducation : Quelle politique nationale mettre en place pour faire face aux inégalités que pourrait provoquer l'utilisation de l'IA dans le domaine de l'éducation ? Comment développer notre capacité à exploiter l'IA ?

- R&D : Quelle R&D développer pour l'IA en respect de l'éthique, la sécurité, la protection de la vie privée, la transparence, la contrôlabilité, la visibilité, la responsabilité ? Comment rendre disponible l'information liée à l'IA de manière à ce qu'un utilisateur puisse prendre la décision d'utiliser ou non l'IA ?

Le Comité cherche notamment à approfondir trois voies pour définir des politiques adaptées : la coévolution de la société et de la technologie ; la recherche d'un équilibre entre les bénéfices (services personnalisés à coût abordable) et les risques liés à l'IA (discrimination, perte de protection des données à caractère privé, perte d'anonymat) ; la définition des limites de la prise de décision automatisée.

Les questions éthiques occupent donc, au total, une place contrastée au sein des initiatives chinoises et japonaises en IA. Autant elles ne semblent pas être, pour le moins et à ce stade, au coeur des démarches impulsées par les autorités chinoises, autant le gouvernement japonais les évoque très largement à travers la mise en place de son Comité national de délibération sur l'IA et la société humaine. Le Japon a fait le choix d'accompagner la transition produite par l'intelligence artificielle de manière très étroite, avec des investissements publics massifs, mais également par une réflexion publique institutionnalisée sur l'impact de l'utilisation de l'intelligence artificielle pour la société.

5. La stratégie du Gouvernement français pour l'intelligence artificielle : un plan qui arrive trop tard pour être intégré dans les stratégies nationales destinées au monde de la recherche

Thierry Mandon, secrétaire d'État chargé de l'Enseignement supérieur et de la Recherche et Axelle Lemaire, secrétaire d'État au Numérique et à l'Innovation, ont lancé une stratégie nationale en intelligence artificielle, appelée « France IA », le 20 janvier 2017 dans les locaux de l'incubateur Agoranov à Paris. Cette stratégie, qui consistait à mobiliser sept groupes de travail rassemblant des chercheurs et des entreprises afin de définir les orientations stratégiques de la France dans ce domaine, a été suivie le 21 mars 2017 de l'annonce du plan du Gouvernement à la Cité des sciences et de l'industrie et de la remise d'un rapport au Président de la République167(*). Ce plan prévoit :

- la mise en place d'un comité stratégique « FranceIA » rassemblant les sphères académique, scientifique, économique ainsi que des représentants de la société civile, chargé de mettre en oeuvre les recommandations des groupes de travail ;

- la coordination par la France d'une candidature à un « projet phare de technologie émergente » (« FET flagship ») sur l'IA, co-financé par l'Union européenne (montant estimé d'un milliard d'euros) ;

- le lancement d'un nouveau programme mobilisant les institutions de recherche pour identifier, attirer et retenir les meilleurs talents en IA, dans le cadre de l'action Programmes prioritaires de recherche du troisième volet du plan pour les investissements d'avenir (« PIA 3 ») ;

- le financement d'une infrastructure mutualisée pour la recherche ;

- la constitution d'un consortium public-privé en vue de l'identification ou de la création d'un centre interdisciplinaire pour l'intelligence artificielle ;

- l'inclusion systématique, d'ici fin 2017, de l'IA dans les priorités de l'ensemble des dispositifs publics de soutien à l'innovation ;

- la mobilisation des ressources publiques (Bpifrance, PIA) et privées pour atteindre l'objectif d'ici à cinq ans d'investir dans dix start-up françaises pour plus de 25 millions d'euros chacune ;

- la mobilisation des filières automobile, relation client, finances, santé et transport ferroviaire pour que chaque filière définisse une stratégie sectorielle en IA d'ici à la fin 2017 ;

- le lancement d'un appel à projets pour des plateformes sectorielles de partage de données pour trois à six secteurs, d'ici à la fin 2017 ;

- la conclusion du débat sur l'éthique des « algorithmes » animé par la CNIL en octobre 2017 et la remise de recommandations au Gouvernement ;

- le lancement d'ici à l'été 2017 d'une concertation de France Stratégie sur la question des effets de l'intelligence artificielle sur l'emploi.

Vos rapporteurs jugent regrettable que l'évolution récente des connaissances et des technologies ainsi que la pertinence de l'actualité n'ait pas permis que cette démarche du Gouvernement soit inscrite dans les différentes stratégies nationales de recherche à dix ans et le livre blanc de l'enseignement supérieur et de la recherche168(*).


* 145 La résolution a été adoptée par 451 voix pour, 138 voix contre et 20 abstentions.

* 146  https://obamawhitehouse.archives.gov/sites/default/files/docs/20150204_Big_Data_Seizing_Opportunities_Preserving_Values_Memo.pdf et http://www.cfr.org/technology-and-science/white-house-big-data---seizing-opportunities-preserving-values/p32916

* 147 Le « cabinet » est, aux États-Unis, la réunion des membres les plus importants de l'exécutif du gouvernement fédéral américain, ce qui est totalement différent d'un cabinet ministériel au sens où nous l'utilisons en français.

* 148 Le Président des États-Unis a ainsi lancé un groupe de travail et un sous-comité spécifique au sein du National Science and Technology Council (NSTC), chargés de suivre les évolutions du secteur et de coordonner les activités fédérales sur le sujet. En parallèle ont été tenues quatre sessions de travail publiques entre les mois de mai et juillet 2016, visant à engager la discussion avec le grand public et surtout à produire une large évaluation des opportunités, risques, et implications réglementaires et sociales de l'intelligence artificielle et de ses nouveaux développements, cf. : https://www.whitehouse.gov/blog/2016/05/03/preparing-future-artificial-intelligence

* 149  https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf

* 150  https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

* 151  https://www.whitehouse.gov/sites/whitehouse.gov/files/images/EMBARGOED%20AI%20Economy%20Report.pdf

* 152 `Barack Obama, neural nets, self-driving cars and the future of the world', entretien du 24 août 2016 dans WIRED. https://www.wired.com/2016/10/president-obama-mit-joi-ito-interview/

* 153 Cette procédure « Request for information » correspond à une consultation publique formalisée.

* 154 L'analyse comparée des risques et des bénéfices devra permettre de justifier les futures évolutions législatives et réglementaires. En effet, le rapport insiste sur l'importance d'ajuster les prochains arbitrages selon le principe suivant : évaluer les risques que l'implémentation de l'IA pourrait réduire, de même que ceux qu'elle pourrait augmenter.

* 155 Il a selon le rapport plusieurs rôles à jouer : un rôle d'organisateur du débat public et d'arbitre des mesures à mettre en place à l'échelle du pays ; un rôle de suivi attentif de la sécurité et de la neutralité des applications développées ; un rôle d'accompagnateur de la diffusion de ces technologies tout en protégeant certains secteurs au besoin afin d'éviter des contrecoups économiques dévastateurs ; un rôle de soutien et de financeur de projets de recherche faisant avancer le domaine ; et enfin un rôle d'adoption en son sein même de ces avancées afin d'assurer un service public de meilleure qualité. Il peut, en outre, veiller à la production d'une main-d'oeuvre en nombre suffisant, ainsi que d'un haut niveau de qualification et de diversité technique, non seulement d'un point de vue professionnel, mais également, et de manière plus large, du point de vue de la formation générale de la population.

* 156 Pour consulter le rapport : https://www.publications.parliament.uk/pa/cm201617/cmselect/cmsctech/145/145.pdf

* 157 La réponse du Gouvernement britannique est disponible ici : https://www.publications.parliament.uk/pa/cm201617/cmselect/cmsctech/896/89602.htm

* 158 Pour consulter le projet de la Royal Society : https://royalsociety.org/topics-policy/projects/machine-learning/

* 159 Une note complète sur le sujet de la place de l'IA en Chine est annexée au présent rapport.

* 160 Cf. https://www.washingtonpost.com/world/asia_pacific/chinas-plan-to-organize-its-whole-society-around-big-data-a-rating-for-everyone/2016/10/20/1cd0dd9c-9516-11e6-ae9d-0030ac1899cd_story.html?utm_term=.71ca38d649e1

* 161 Cf. http://www.bbc.com/news/world-asia-china-34592186

* 162 Une note complète sur le sujet de la place de l'IA au Japon est annexée au présent rapport.

* 163 Soutenu par 200 entreprises et universités, le 5e Plan-cadre pour la Science et la technologie prévoit le triplement des investissements dans ce domaine d'ici à 2020 en vue d'inciter les entreprises à répandre l'utilisation de la robotique dans tous les secteurs de l'économie et de la société afin de surmonter le vieillissement et la baisse du nombre d'actifs.

* 164 Plusieurs exemples de projets sont détaillés dans la note sur le sujet de la place de l'IA au Japon annexée au présent rapport.

* 165 Les activités s'articulent autour de cinq objectifs : développer des technologies pour l'intelligence artificielle « fondamentale » (basé essentiellement sur le machine learning) ; contribuer à l'accélération de la recherche scientifique (analyse et synthèse d'articles scientifiques, d'expériences de brevets...) ; contribuer à des applications concrètes à fort impact sociétal (problématique des soins dans le contexte du vieillissement de la population, gestion des infrastructures et des ouvrages de génie civil, résilience aux catastrophes naturelles...) ; prise en compte des aspects éthiques, légaux et sociaux ; développement des ressources humaines.

* 166  http://www.oecd.org/sti/ieconomy/Yuko%20Harayama%20-%20AI%20Foresight%20Forum%20Nov%202016.pdf

* 167 Cf. http://www.economie.gouv.fr/files/files/PDF/2017/Rapport_synthese_France_IA_.pdf http://www.economie.gouv.fr/files/files/PDF/2017/Conclusions_Groupes_Travail_France_IA.pdf et http://www.economie.gouv.fr/files/files/PDF/2017/Dossier_presse_France_IA.pdf

* 168 La loi pour l'enseignement supérieur et la recherche du 22 juillet 2013 a conduit à la préparation de deux grandes stratégies à 10 ans : une Stratégie nationale de l'enseignement supérieur (StraNES) et une Stratégie nationale de la recherche (S.N.R.). Cette loi prévoit également, dans son article 17, la réalisation d'un livre blanc de l'enseignement supérieur et de la recherche par le Gouvernement au Parlement tous les cinq ans.