Rapport d'information n° 464 (2016-2017) de M. Claude DE GANAY, député et Mme Dominique GILLOT , sénatrice, fait au nom de l'Office parlementaire d'évaluation des choix scientifiques et technologiques, déposé le 15 mars 2017
Disponible au format PDF (3,1 Moctets)
Synthèse du rapport (475 Koctets)
Synthèse du rapport (en anglais) (449 Koctets)
-
SYNTHÈSE DU RAPPORT
-
INTRODUCTION
-
PREMIÈRE PARTIE :
ÉLÉMENTS DE CONTEXTE
-
I. LA DÉMARCHE DE VOS RAPPORTEURS
-
II. L'HISTOIRE DES TECHNOLOGIES D'INTELLIGENCE
ARTIFICIELLE ET DE LEURS USAGES
-
A. DES TECHNOLOGIES NÉES AU MILIEU DU XXE
SIÈCLE
-
1. La préhistoire de l'intelligence
artificielle et sa présence dans les oeuvres de fiction
-
2. Les premières étapes de formation
des technologies d'intelligence artificielle au XXe siècle, la
notion d'algorithme et le débat sur la définition du concept
d'intelligence artificielle
-
3. « L'âge d'or » des
approches symboliques et des raisonnements logiques dans les années 1960
a été suivi d'un premier « hiver de l'intelligence
artificielle » dans les années 1970
-
4. Un enthousiasme renouvelé dans les
années 1980 autour des systèmes experts, de leurs usages et de
l'ingénierie des connaissances précède un second
« hiver de l'intelligence artificielle » dans les
années 1990
-
5. Les autres domaines et technologies
d'intelligence artificielle : robotique, systèmes multi-agents,
machines à vecteur de support (SVM), réseaux bayésiens,
apprentissage machine dont apprentissage par renforcement, programmation par
contraintes, raisonnements à partir de cas, ontologies, logiques de
description, algorithmes génétiques...
-
1. La préhistoire de l'intelligence
artificielle et sa présence dans les oeuvres de fiction
-
B. L'ACCÉLÉRATION RÉCENTE DE
L'USAGE DES TECHNOLOGIES D'INTELLIGENCE ARTIFICIELLE GRÂCE AUX
PROGRÈS EN APPRENTISSAGE AUTOMATIQUE (« MACHINE
LEARNING »)
-
1. Les découvertes en apprentissage profond
(« deep learning ») remontent surtout aux années
1980, par un recours aux « réseaux de neurones
artificiels » imaginés dès les années
1940
-
2. L'apprentissage profond connaît un essor
inédit dans les années 2010 avec l'émergence de la
disponibilité de données massives (« big
data ») et l'accélération de la vitesse de calcul des
processeurs
-
3. Les technologies d'intelligence artificielle
conduisent, d'ores et déjà, à des applications dans de
nombreux secteurs
-
4. Par leurs combinaisons en évolution
constante, ces technologies offrent un immense potentiel et ouvrent un espace
d'opportunités transversal inédit
-
5. L'apprentissage automatique reste encore
largement supervisé et fait face au défi de l'apprentissage non
supervisé
-
1. Les découvertes en apprentissage profond
(« deep learning ») remontent surtout aux années
1980, par un recours aux « réseaux de neurones
artificiels » imaginés dès les années
1940
-
A. DES TECHNOLOGIES NÉES AU MILIEU DU XXE
SIÈCLE
-
III. CARACTÉRISTIQUES
GÉNÉRALES DE LA RECHERCHE EN INTELLIGENCE ARTIFICIELLE ET
ORGANISATION NATIONALE EN LA MATIÈRE
-
A. LES CARACTÉRISTIQUES DE LA RECHERCHE EN
INTELLIGENCE ARTIFICIELLE
-
1. La place prépondérante de la
recherche privée, dominée par les entreprises américaines
et, potentiellement, chinoises
-
2. Une recherche essentiellement masculine
-
3. Une interdisciplinarité indispensable
mais encore insuffisante
-
4. Une recherche soumise à une contrainte
d'acceptabilité sociale assez forte sous l'effet de
représentations catastrophistes de l'intelligence artificielle
-
5. Une recherche en intelligence artificielle qui
s'accompagne de plus en plus d'interrogations et de démarches
éthiques
-
1. La place prépondérante de la
recherche privée, dominée par les entreprises américaines
et, potentiellement, chinoises
-
B. TABLEAU DE LA RECHERCHE FRANÇAISE EN
INTELLIGENCE ARTIFICIELLE
-
1. De nombreux organismes publics interviennent
dans la recherche en intelligence artificielle
-
2. Quelques exemples de centres, de laboratoires
et de projets de recherche
-
3. Une reconnaissance internationale de la
recherche française et qui s'accompagne d'un phénomène de
rachat de start-up et de fuite des cerveaux lié aux conditions
attractives offertes à l'étranger
-
4. Une communauté française de
l'intelligence artificielle encore insuffisamment organisée et visible
-
5. La sous-estimation des atouts
considérables de la France et le risque de
« décrochage » par rapport à la recherche
internationale en intelligence artificielle
-
1. De nombreux organismes publics interviennent
dans la recherche en intelligence artificielle
-
A. LES CARACTÉRISTIQUES DE LA RECHERCHE EN
INTELLIGENCE ARTIFICIELLE
-
I. LA DÉMARCHE DE VOS RAPPORTEURS
-
DEUXIÈME PARTIE :
LES ENJEUX DE L'INTELLIGENCE ARTIFICIELLE
-
I. LES CONSÉQUENCES ÉCONOMIQUES ET
SOCIALES DE L'INTELLIGENCE ARTIFICIELLE
-
A. D'IMPORTANTES TRANSFORMATIONS
ÉCONOMIQUES EN COURS OU À VENIR
-
1. L'évolution vers une économie
globalisée dominée par des
« plateformes »
-
2. Un risque de redéfinition, sous l'effet
de ce nouveau contexte économique, des rapports de force politiques
à l'échelle mondiale
-
3. Des bouleversements annoncés dans le
marché du travail : perspectives de créations,
d'évolutions et de disparitions d'emplois
-
1. L'évolution vers une économie
globalisée dominée par des
« plateformes »
-
B. LA SOCIÉTÉ EN MUTATION SOUS
L'EFFET DE L'INTELLIGENCE ARTIFICIELLE
-
A. D'IMPORTANTES TRANSFORMATIONS
ÉCONOMIQUES EN COURS OU À VENIR
-
II. LES QUESTIONS ÉTHIQUES ET JURIDIQUES
POSÉES PAR LES PROGRÈS EN INTELLIGENCE ARTIFICIELLE
-
A. LES ANALYSES PRÉSENTÉES PAR
D'AUTRES INSTANCES POLITIQUES
-
1. Les deux rapports issus des institutions de
l'Union européenne : Parlement européen et Comité
économique et social européen (CESE)
-
2. Les trois rapports de la Maison Blanche
-
3. Le rapport de la Chambre des Communes du
Royaume-Uni
-
4. Les initiatives chinoises et japonaises en
intelligence artificielle accordent une place contrastée aux questions
éthiques
-
5. La stratégie du Gouvernement
français pour l'intelligence artificielle : un plan qui arrive trop
tard pour être intégré dans les stratégies
nationales destinées au monde de la recherche
-
1. Les deux rapports issus des institutions de
l'Union européenne : Parlement européen et Comité
économique et social européen (CESE)
-
B. DES « LOIS D'ASIMOV »
À LA QUESTION CONTEMPORAINE DE LA RÉGULATION DES SYSTÈMES
D'INTELLIGENCE ARTIFICIELLE
-
1. Dépasser les « lois
d'Asimov » pour envisager un droit de la robotique
-
2. Les questions juridiques en matière de
conception (design), de propriété intellectuelle et de protection
des données personnelles et de la vie privée
-
3. Les divers régimes de
responsabilité envisageables et ceux envisagés
-
4. Les différenciations du droit applicable
selon le type d'agents autonomes : robots industriels, robots de service,
voitures autonomes et dilemmes éthiques afférents
-
1. Dépasser les « lois
d'Asimov » pour envisager un droit de la robotique
-
C. LA PRISE EN COMPTE GRANDISSANTE DES ENJEUX
ÉTHIQUES
-
1. Le cadre national de la réflexion sur
les enjeux éthiques de l'intelligence artificielle
-
2. Les nombreuses expériences
anglo-saxonnes de réflexion sur les enjeux éthiques de
l'intelligence artificielle
-
3. Le travail en cours sur les enjeux
éthiques au sein de l'association mondiale des ingénieurs
électriciens et électroniciens (Institute of Electrical and
Electronics Engineers ou IEEE)
-
4. Une sensibilisation insuffisante du grand
public à ces questions et un besoin de partage en temps réel de
la culture scientifique et de ses enjeux éthiques
-
1. Le cadre national de la réflexion sur
les enjeux éthiques de l'intelligence artificielle
-
A. LES ANALYSES PRÉSENTÉES PAR
D'AUTRES INSTANCES POLITIQUES
-
III. LES QUESTIONS TECHNOLOGIQUES ET SCIENTIFIQUES
QUI SE POSENT EN MATIÈRE D'INTELLIGENCE ARTIFICIELLE
-
A. LES SUJETS D'INTERROGATION LIÉS AUX
ALGORITHMES UTILISÉS PAR LES TECHNOLOGIES D'INTELLIGENCE
ARTIFICIELLE
-
1. Les questions de sécurité et de
robustesse
-
2. Les biais et les problèmes posés
par les données nécessaires aux algorithmes d'apprentissage
automatique
-
3. Le phénomène de
« boîtes noires » des algorithmes de deep learning
appelle un effort de recherche fondamentale vers leur transparence
-
4. La question des bulles d'information dites
« bulles de filtres »
-
1. Les questions de sécurité et de
robustesse
-
B. LES SUJETS D'INTERROGATION LIÉS À
LA « SINGULARITÉ », À LA
« CONVERGENCE NBIC » ET AU
« TRANSHUMANISME »
-
A. LES SUJETS D'INTERROGATION LIÉS AUX
ALGORITHMES UTILISÉS PAR LES TECHNOLOGIES D'INTELLIGENCE
ARTIFICIELLE
-
I. LES CONSÉQUENCES ÉCONOMIQUES ET
SOCIALES DE L'INTELLIGENCE ARTIFICIELLE
-
TROISIÈME PARTIE :
LES PROPOSITIONS DE VOS RAPPORTEURS
-
I. POUR UNE INTELLIGENCE ARTIFICIELLE
MAÎTRISÉE
-
Proposition n° 1 : Se garder d'une
contrainte juridique trop forte sur la recherche en intelligence artificielle,
qui - en tout état de cause - gagnerait à être,
autant que possible, européenne, voire internationale, plutôt que
nationale
-
Proposition n° 2 : Favoriser des
algorithmes et des robots sûrs, transparents et justes, et prévoir
une charte de l'intelligence artificielle et de la robotique
-
Proposition n° 3 : Former à
l'éthique de l'intelligence artificielle et de la robotique dans
certains cursus spécialisés de l'enseignement
supérieur
-
Proposition n° 4 : Confier à
un institut national de l'éthique de l'intelligence artificielle et de
la robotique un rôle d'animation du débat public sur les principes
éthiques qui doivent encadrer ces technologies
-
Proposition n° 5 : Accompagner les
transformations du marché du travail sous l'effet de l'intelligence
artificielle et de la robotique en menant une politique de formation continue
ambitieuse visant à s'adapter aux exigences de requalification et
d'amélioration des compétences
-
Proposition n° 1 : Se garder d'une
contrainte juridique trop forte sur la recherche en intelligence artificielle,
qui - en tout état de cause - gagnerait à être,
autant que possible, européenne, voire internationale, plutôt que
nationale
-
II. POUR UNE INTELLIGENCE ARTIFICIELLE UTILE, AU
SERVICE DE L'HOMME ET DES VALEURS HUMANISTES
-
Proposition n° 6 : Redonner une
place essentielle à la recherche fondamentale et revaloriser la place de
la recherche publique par rapport à la recherche privée, tout en
encourageant leur coopération
-
Proposition n° 7 : Encourager la
constitution de champions européens en intelligence artificielle et en
robotique, tout en poursuivant le soutien aux PME spécialisées,
en particulier les start-up
-
Proposition n° 8 : Orienter les
investissements dans la recherche en intelligence artificielle vers
l'utilité sociale des découvertes
-
Proposition n° 9 : Élargir
l'offre de cursus et de modules de formation aux technologies d'intelligence
artificielle dans l'enseignement supérieur et créer, en France,
au moins un pôle d'excellence international et interdisciplinaire en
intelligence artificielle et en robotique
-
Proposition n° 10 : Structurer et
mobiliser la communauté française de la recherche en intelligence
artificielle en organisant davantage de concours primés à
dimension nationale, destinés à dynamiser la recherche en
intelligence artificielle, par exemple autour du traitement de grandes bases de
données nationales labellisées
-
Proposition n° 11 : Assurer une
meilleure prise en compte de la diversité et de la place des femmes dans
la recherche en intelligence artificielle
-
Proposition n° 6 : Redonner une
place essentielle à la recherche fondamentale et revaloriser la place de
la recherche publique par rapport à la recherche privée, tout en
encourageant leur coopération
-
III. POUR UNE INTELLIGENCE ARTIFICIELLE
DÉMYSTIFIÉE
-
Proposition n° 12 : Organiser des
formations à l'informatique dans l'enseignement primaire et secondaire
faisant une place à l'intelligence artificielle et à la robotique
-
Proposition n° 13 : Former et
sensibiliser le grand public à l'intelligence artificielle par des
campagnes de communication, l'organisation d'un salon international de
l'intelligence artificielle et de la robotique et la diffusion
d'émissions de télévision pédagogiques
-
Proposition n° 14 : Former et
sensibiliser le grand public aux conséquences pratiques de
l'intelligence artificielle et de la robotisation
-
Proposition n° 15 : Être
vigilant sur les usages spectaculaires et alarmistes du concept d'intelligence
artificielle et de représentation des robots
-
Proposition n° 12 : Organiser des
formations à l'informatique dans l'enseignement primaire et secondaire
faisant une place à l'intelligence artificielle et à la robotique
-
I. POUR UNE INTELLIGENCE ARTIFICIELLE
MAÎTRISÉE
-
CONCLUSION
-
SAISINE DE L'OFFICE
-
RÉUNION DE L'OPECST DU 14 MARS
2017 :
ADOPTION DU RAPPORT
-
LISTE DES PERSONNES RENCONTRÉES
-
BIBLIOGRAPHIE