Allez au contenu, Allez à la navigation

Les robots et la loi

3 mai 2016 : Les robots et la loi ( rapport d'information )

Rapport d'information n° 570 (2015-2016) de M. Bruno SIDO, fait au nom de l'Office parlementaire d'évaluation des choix scientifiques et technologiques, déposé le 3 mai 2016

Disponible au format PDF (926 Koctets)

N° 3551

 

N° 570

ASSEMBLÉE NATIONALE

 

SÉNAT

CONSTITUTION DU 4 OCTOBRE 1958

QUATORZIÈME LÉGISLATURE

 

SESSION ORDINAIRE 2015 - 2016

Enregistré à la présidence de l'Assemblée nationale

 

Enregistré à la présidence du Sénat

le 4 mars 2016

 

le 3 mai 2016

RAPPORT

au nom de

L'OFFICE PARLEMENTAIRE D'ÉVALUATION

DES CHOIX SCIENTIFIQUES ET TECHNOLOGIQUES

sur

LES ROBOTS ET LA LOI

Compte rendu de l'audition publique du 10 décembre 2015
et de la présentation des conclusions du 3 mars 2016

PAR

M. Jean-Yves LE DÉAUT, député, et M. Bruno SIDO, sénateur

Déposé sur le Bureau de l'Assemblée nationale

par M. Jean-Yves LE DÉAUT,

Président de l'Office

 

Déposé sur le Bureau du Sénat

par M. Bruno SIDO,

Premier vice-président de l'Office

Composition de l'Office parlementaire d'évaluation des choix scientifiques
et technologiques

Président

M. Jean-Yves LE DÉAUT, député

Premier vice-président

M. Bruno SIDO, sénateur

Vice-présidents

M. Christian BATAILLE, député M. Roland COURTEAU, sénateur

Mme Anne-Yvonne LE DAIN, députée M. Christian NAMY, sénateur

M. Jean-Sébastien VIALATTE, député Mme Catherine PROCACCIA, sénatrice

DÉPUTÉS

SÉNATEURS

M. Gérard BAPT

M. Christian BATAILLE

M. Denis BAUPIN

M. Alain CLAEYS

M. Claude de GANAY

Mme Françoise GUÉGOT

M. Patrick HETZEL

M. Laurent KALINOWSKI

M. Jacques LAMBLIN

Mme Anne-Yvonne LE DAIN

M. Jean-Yves LE DÉAUT

M. Alain MARTY

M. Philippe NAUCHE

Mme Maud OLIVIER

Mme Dominique ORLIAC

M. Bertrand PANCHER

M. Jean-Louis TOURAINE

M. Jean-Sébastien VIALATTE

M. Patrick ABATE

M. Gilbert BARBIER

Mme Delphine BATAILLE

M. Michel BERSON

Mme Marie-Christine BLANDIN

M. François COMMEINHES

M. Roland COURTEAU

Mme Dominique GILLOT

M. Alain HOUPERT

Mme Fabienne KELLER

M. Jean-Pierre LELEUX

M. Gérard LONGUET

M. Jean-Pierre MASSERET

M. Pierre MÉDEVIELLE

M. Christian NAMY

Mme Catherine PROCACCIA

M. Daniel RAOUL

M. Bruno SIDO

SOMMAIRE

___

Pages

SAISINE 7

PROPOS D'OUVERTURE 9

M. Jean-Yves Le Déaut, député, président de l'OPECST 9

PREMIÈRE TABLE RONDE : LA RECHERCHE ET L'INNOVATION EN ROBOTIQUE : QUELLES PERSPECTIVES ? 13

Présidence de M. Jean-Yves Le Déaut, député, président de l'OPECST 13

M. Claude Kirchner, directeur de recherche, conseiller du président de l'INRIA 14

M. Raja Chatila, directeur de recherche CNRS, directeur de l'Institut des systèmes intelligents et de robotique (ISIR), université Pierre et Marie Curie (UPMC) 16

M. Jean-Pierre Merlet, membre du conseil exécutif de l'IFToMM, IEEE Fellow, responsable scientifique du projet HEPHAISTOS, INRIA 18

M. Pierre-Yves Oudeyer, directeur de recherche, INRIA 20

M. Alexei Grinbaum, chercheur au laboratoire Larsim du CEA-Saclay 24

DÉBAT 26

DEUXIÈME TABLE RONDE : ROBOTIQUE ET SOCIÉTÉ : ENJEUX ÉTHIQUES, SOCIÉTAUX ET ÉCONOMIQUES 33

Présidence de M. Bruno Sido, sénateur, premier vice-président de l'OPECST 33

M. Serge Tisseron, psychiatre, docteur en psychologie HDR, chercheur associé au Centre de recherches psychanalyse, médecine et société (CRPMS) à l'université Paris VII Denis Diderot 36

M. Geoffrey Delcroix, chargé des études prospectives au pôle de l'innovation, des études et de la prospective de la Commission nationale de l'informatique et des libertés (CNIL) 39

M. Renaud Champion, directeur d'euRobotics, représentant du groupe Syrobo du Symop 41

M. Christophe Leroux, chargé des affaires européennes en robotique pour le CEA 44

Pr Jacques Hubert, coordinateur du diplôme interuniversitaire (DIU) de chirurgie robotique, chef de service d'urologie, IADI-UL-INSERM (U947) - CHU de Nancy 45

M. Nicolas Huchet, président de Bionico Hand, lauréat du prix Innovators Under 35 France, MIT Technoly Review 48

M. Hugues Aubin, chargé de mission TIC, ville de Rennes 49

DÉBAT 50

TROISIÈME TABLE RONDE : QUELLES DISPOSITIONS JURIDIQUES POUR ACCOMPAGNER ET ENCADRER LE DÉVELOPPEMENT DE LA ROBOTIQUE ? 53

Présidence de M. Jean-Yves Le Déaut, député, président de l'OPECST 53

M. Thierry Daubs, maître de conférences à l'université de Rennes 2, chercheur associé au CREC de Saint-Cyr Coëtquidan 54

M. Renaud Champion, directeur d'euRobotics, représentant du groupe Syrobo du Symop 56

Me David Lutran, avocat au barreau de Paris, Rivedroit Avocats 58

M. Stéphane Pénet, directeur des assurances de biens et de responsabilité, Fédération française des sociétés d'assurance (FFSA) 60

Mme Sophie Touhadian-Giely, directrice juridique pôle de Valeo 62

Mme Nathalie Nevejans, maître de conférences à la faculté de droit de Douai 64

DÉBAT 66

PROPOS CONCLUSIFS 71

M. Jean-Yves Le Déaut, député, président de l'OPECST 71

EXTRAIT DE LA RÉUNION DE L'OPECST DU 3 MARS 2016 PRÉSENTANT LES CONCLUSIONS DE L'AUDITION PUBLIQUE 73

SAISINE

PROPOS D'OUVERTURE

M. Jean-Yves Le Déaut, député, président de l'OPECST. Tout d'abord, je vous remercie d'être présents pour participer à cette audition publique, ouverte à la presse, intitulée « Les robots et la loi », tout particulièrement ceux qui ont fait le déplacement depuis leur région.

Comme tous ne le connaissent pas, je vais dire quelques mots de l'Office parlementaire d'évaluation des choix scientifiques et technologiques. C'est un organe commun aux deux chambres du Parlement français : l'Assemblée nationale et le Sénat. Il réunit dix-huit députés et dix-huit sénateurs, désignés à la proportionnelle par les groupes politiques. Il intervient en amont de la législation et de la réglementation sur des sujets qui n'ont souvent pas encore été explorés. Il est, en effet, très difficile pour des parlementaires - je dis ça devant d'éminents professeurs de droit - qui élaborent la loi mais ne sont pas juristes, de légiférer sur des sujets complexes ou techniques qui n'ont pas été étudiés au préalable. Ces auditions, organisées sur des sujets variés et qui peuvent donner lieu, par la suite, à des études beaucoup plus structurées, visent justement à éclairer le Parlement.

L'Office parlementaire dispose de trois modes d'intervention. À la suite d'une saisine, il engage en général une étude de fond. Sur un sujet d'actualité ou de prospective, il peut organiser une audition publique, collective et contradictoire, permettant de confronter les avis des spécialistes présents avec ceux de candides ou de citoyens. L'accès de ces derniers est aujourd'hui compliqué par les mesures de sécurité qui nous obligent à transmettre leur identité trois jours ouvrables à l'avance, si bien que les personnes qui ont souhaitées s'inscrire hier ou avant-hier n'ont pas eu accès à cette salle. Un troisième mode d'intervention consiste en une évaluation, prévue par la loi. Par exemple, l'OPECST est chargé d'évaluer la stratégie nationale de recherche, les modifications de la loi bioéthique, ou encore de contrôler certaines autorités indépendantes, comme l'Autorité de sûreté nucléaire, en les auditionnant chaque année.

Cette audition a été organisée pour répondre à une saisine de M. Jean-Jacques Urvoas, président de la commission des lois de l'Assemblée nationale. Celui-ci a estimé que l'accélération du développement des nouvelles applications de la robotique dans des secteurs tels que l'industrie - voici un peu moins d'un mois j'ai justement ouvert à Georgia Tech un colloque franco-américain sur le lien entre robotique, écosystèmes et usine du futur -, la défense, la médecine, les transports et l'assistance aux personnes, posait, avec une particulière acuité, la question des effets de ces innovations sur la société.

Il était naturel que le président de la commission des lois s'adresse à l'Office pour apporter aux parlementaires un éclairage sur les impacts sociaux de la robotique, et leurs conséquences juridiques. En effet, depuis sa création voici trente-deux ans, - nous avons fêté, au mois de septembre 2015, les trente ans de la publication de son premier rapport sur les pluies acides ; M. Claude Kirchner étant présent, tout comme de nombreux présidents de commissions européens - l'OPECST informe le Parlement, afin notamment d'éclairer ses décisions, des conséquences des choix de caractère scientifique et technologique, dans des domaines tels que la santé, l'énergie, l'espace ou encore les biotechnologies.

Dans ses précédents travaux, l'Office parlementaire n'a pas directement traité de la question des robots, si ce n'est au travers d'un rapport de 2010 sur les apports des sciences et techniques à l'évolution des marchés financiers, qui a mis en lumière le rôle des robots-traders dans ce secteur.

En dehors de l'OPECST, dans le cadre de l'Assemblée parlementaire du Conseil de l'Europe, j'ai abordé la question de l'évolution des drones en robots capables de prendre de façon totalement autonome des décisions. Plus récemment, j'ai été nommé, au sein de cette assemblée européenne, rapporteur sur les questions d'intelligence artificielle et de droits de l'homme, ce qui me conduira nécessairement à revenir aussi sur notre sujet d'aujourd'hui.

En tant que président en exercice de l'EPTA (European Parliamentary Technology Assessment), le réseau des structures chargées de l'évaluation scientifique et technologique auprès des parlements européens, je suis intervenu au Bundestag, pas plus tard que la semaine dernière, dans le cadre d'un colloque organisé pour marquer les vingt-cinq ans du TAB (Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag), l'équivalent allemand de l'OPECST, sur le thème de l'effacement des frontières entre l'homme et la machine.

C'est un sujet plus vaste que celui que nous nous attacherons à examiner durant cette courte demi-journée, même si nous ouvrirons, au cours de la deuxième table ronde, une fenêtre sur le sujet de la fusion entre l'homme et la machine. Nous exclurons également de notre champ les applications militaires de la robotique qui répondent à des enjeux éthiques et juridiques différents de ceux de la robotique civile. Peut-être aurais-je à revenir sur ce volet de la robotique en tant que membre de la commission de la défense. Mais nous ne nous sommes pas interdit de faire appel aux travaux réalisés dans ce cadre, comme vous le constaterez au cours de la troisième table ronde.

Cette audition sera organisée en trois tables rondes. Chacune d'entre elles commencera par une série de présentations, d'au plus sept minutes chacune, suivies par un débat qui permettra un échange entre les intervenants de l'ensemble des tables rondes avec les parlementaires et, éventuellement, si le temps le permet, avec le public, notamment les étudiants présents.

La première table ronde va s'intéresser aux avancées réalisées et à venir en matière de recherche en robotique. La deuxième table ronde visera à mieux cerner les impacts sociétaux, économiques et éthiques de la diffusion des robots dans la société. La troisième et dernière table ronde portera sur les dispositions d'ordre juridiques nécessaires pour encadrer et accompagner le développement de la robotique.

PREMIÈRE TABLE RONDE :
LA RECHERCHE ET L'INNOVATION EN ROBOTIQUE :
QUELLES PERSPECTIVES ?

Présidence de M. Jean-Yves Le Déaut, député, président de l'OPECST

M. Jean-Yves Le Déaut. Cette première table ronde s'intéressera, comme je viens de l'annoncer, aux avancées de la recherche et de l'innovation dans le domaine de la robotique, tout en abordant au passage, du point de vue des chercheurs, certaines de leurs implications éthiques et juridiques, deux sujets que nous approfondirons dans la suite de cette audition.

L'idée d'esclaves mécaniques date au moins de l'antiquité classique. Dans l'Iliade, Héphaïstos, dieu du feu, de la forge, de la métallurgie et des volcans, construit non seulement vingt esclaves montés sur roues pour servir les dieux de l'Olympe mais aussi, pour lui-même, deux servantes faites d'or, douées de parole, de pensée et de la capacité d'agir.

Les premiers robots industriels, apparus dans les années cinquante, étaient bien moins avancés que les esclaves mécaniques d'Héphaïstos. Il s'agissait de bras articulés pouvant être programmés pour réaliser une série de gestes simples. Pendant de longues années, ces robots sont restés confinés dans les usines, sauf exception, entourés de grillage pour minimiser les risques de contact avec les humains.

Depuis une dizaine d'année, nous commençons à voir apparaître des robots capables, au contraire, de s'insérer dans le quotidien des humains : il s'agit de robots médicaux, de robots utilitaires capables de faire le ménage ou de tondre le gazon, de robots compagnons, bientôt de robots-automobiles, etc.

Quelles sont les avancées scientifiques et technologiques qui ont permis cette évolution ? Quels sont les apports respectifs de l'intelligence artificielle, des mégadonnées ou Big data, de la miniaturisation ou de la baisse des coûts des composants ? Dans quelles directions les recherches en cours conduisent-elles ? Les réponses à ces questions vont nous éclairer sur ce qui nous attend à l'avenir.

Je vais d'abord donner la parole à M. Claude Kirchner, directeur de recherche et conseiller du président de l'INRIA. Il assure la permanence des échanges entre son institut et l'Office parlementaire. Pour préparer cette audition, c'est lui qui nous a à la fois suggéré les thèmes de ces trois tables rondes et permis de rassembler bon nombre des personnalités éminentes ici présentes. Il lui revient la lourde charge d'introduire le sujet de cette première table ronde.

M. Claude Kirchner, directeur de recherche, conseiller du président de l'INRIA. On assiste aujourd'hui à des avancées particulièrement importantes en robotique. Elles sont liées aux progrès de l'ensemble des sciences et technologies du numérique, tout particulièrement à ceux observés en maîtrise des logiciels, en machine learning, ainsi qu'en précision et qualité des capteurs et actionneurs. Ces avancées reposent également, de manière fondamentale, sur nos questionnements et la compréhension même de notre humanité. Elles seront détaillées par mes collègues chercheurs, tant sur le plan des progrès réalisés en recherche que sur celui de leur impact majeur sur la société et les personnes.

Cela nous pose, en tant que scientifiques, des questions d'éthique de la recherche. Celles-ci ont conduit l'alliance Allistene, regroupant l'ensemble des entités académiques menant des recherches sur les technologies du numérique, à saisir la CERNA, la Commission de réflexion sur l'éthique de la recherche en sciences et technologies du numérique. La CERNA a rendu un avis, disponible sur son site Internet. MM. Raja Chatila et Alexei Grinbaum l'évoqueront certainement.

Ces avancées nous posent, bien entendu, des questions cruciales sur l'éthique des usages et sur l'acceptabilité sociétale. « Le jour où mon robot m'aimera » n'est probablement pas si proche mais pose clairement la question du positionnement des robots, matériels ou logiciels, dans nos vies, dans nos entreprises et notre société. La réflexion éthique est essentielle dans ce domaine. Instituer un comité d'éthique national, comme le prévoit la proposition de loi pour une République numérique, s'impose. Mais je pense que ce comité devrait être indépendant d'une entité principalement en charge de la régulation, telle que la CNIL.

Dans ce contexte, avec nos collègues, il nous a semblé crucial de réfléchir, en commun avec toutes les composantes de la société, pour mieux cerner les questions qui se posent à nous et, en particulier, anticiper et avancer sur la problématique du droit.

Même si cela sera développé par la suite, je voulais prendre quelques exemples concernant des robots, comme les véhicules automatiques autonomes, au moins dans certaines phases de leur évolution, qu'ils s'agissent de voitures, de camions, de trains, d'avions, etc. Ils posent des questions difficiles de spécification même de leur autonomie mais aussi des questions liées à la responsabilité des différents acteurs impliqués. Si j'achète une voiture autonome
- nous n'en sommes pas si loin -, en cas d'accident comment déterminer les responsabilités ? Je pense que les juristes pourront nous éclairer à ce sujet.

Dans le cas de robots de trading, en particulier à haute fréquence, à qui la responsabilité d'incidents échoit-elle, mais aussi comment répartir les bénéfices éventuels entre les robots, ou leurs concepteurs, et les autres humains impliqués ? La même question se pose en cas de pertes financières.

S'agissant des robots d'assistance chirurgicale, dont les performances sont aujourd'hui souvent remarquables, comment déterminer leur impact sur le comportement des acteurs de la salle d'opération, dans un contexte particulièrement sensible ? Comment comprendre et encadrer les responsabilités ?

Pour la première fois dans l'histoire de l'humanité, nous déléguons à des entités autres qu'humaines des responsabilités importantes. Par exemple, hier soir, j'ai atterri à Orly dans le brouillard à l'intérieur d'un robot autonome. Comment pouvons-nous comprendre et encadrer le nouvel écosystème que nous constituons avec ces nouveaux venus ? Car il s'agit bien d'un écosystème et non d'entités à part.

La question n'est pas simple. Il est d'autant plus important de l'anticiper et de mettre en place des solutions. Celles-ci relèvent aussi de choix de société et des normes qui domineront le marché. Or, les évolutions récentes des innovations numériques montrent combien il est important d'être les premiers à mettre en oeuvre de telles normes. Il faut se donner les moyens de l'être, sinon d'autres le seront.

Enfin, je voudrais insister sur un fait parfaitement mis en valeur par Michel Serres : tout changement de représentation de l'information bouleverse profondément l'humain et ses organisations. Le numérique, par la représentation uniforme de l'information, de son traitement, de ses échanges et de son stockage, est la source d'une révolution au moins aussi importante que celle du langage ou de l'imprimerie. Toutes les activités humaines sont profondément impactées : depuis la science elle-même, les sciences dites exactes comme les sciences humaines et sociales, la technologie, les interactions entre humains, nos manières de penser, la médecine, etc.

Le droit est au coeur de l'organisation de nos sociétés, il n'échappe pas à cette révolution globale. Des questions se posent. Par exemple, de quelle formation les juges ont-ils besoin pour être pertinents dans ce nouveau contexte ? Comment élaborer un corpus législatif adapté ? C'est de cela dont qu'il est aussi question aujourd'hui, tout particulièrement en lien avec la robotique.

M. Jean-Yves Le Déaut. Je vais maintenant donner la parole à M. Raja Chatila, directeur de recherche au CNRS et de l'Institut des systèmes intelligents et de robotique (ISIR) à l'université Pierre et Marie Curie. Sa modestie m'empêche de mentionner ses nombreux autres titres et fonctions. Mais je vais en rappeler un. Quand, en 1999, le Premier ministre m'avait demandé de publier, avec le député Pierre Cohen, un rapport sur la recherche en France, je m'étais entouré d'un comité de pilotage, présidé par M. Jean-Pierre Bourguignon, dont M. Raja Chatila faisait partie. Son apport au développement de la robotique française est très étendu. Il va présenter les avancées et les limites de la recherche en robotique.

M. Raja Chatila, directeur de recherche CNRS, directeur de l'Institut des systèmes intelligents et de robotique (ISIR), université Pierre et Marie Curie (UPMC). Je vais essayer de donner cet aperçu en sept minutes, en l'illustrant de nombreuses vidéos.

Les robots logiciels de trading ont été mentionnés. Mais ici nous parlerons uniquement de machines matérielles, munies de capteurs et d'actionneurs, contrôlés par des ordinateurs, qui permettent aux robots d'être dotés de capacités de perception de leur environnement, de mouvement, d'action et de prise de décision. Éventuellement, ils peuvent aussi communiquer et apprendre. Ces capacités sont développées à divers degrés, essentiellement dans des robots expérimentaux et, déjà, dans quelques robots commerciaux.

À la fin des années 1950 et au début des années 1960, la robotique était tirée par les besoins industriels, sur l'exemple des robots Unimate, déployés dans les usines de General Motors. À la fin des années 1980 et durant les années 1990, en l'absence de besoins industriels notables, les recherches ont plutôt concerné la robotique autonome et interactive. Aujourd'hui, les besoins industriels ont réapparu, dans la perspective d'une usine du futur, dite « 4.0 ». Ces nouveaux besoins sont fondés sur les développements intervenus entre-temps en matière de robotique.

À quoi servent les robots ? D'abord à remplacer les humains, en particulier dans les milieux dangereux, à les assister - c'est-à-dire à travailler avec eux -, à les servir et à les réhabiliter, voire à les augmenter.

Dans le domaine industriel, on est passé de l'usine où le robot est totalement isolé, parce qu'il est dangereux pour l'homme quand il se déplace seul, à l'usine où le robot partage l'espace avec l'être humain et où existe une collaboration dans la réalisation des tâches. Cette évolution a requis des recherches approfondies pour faciliter l'interaction entre humains et robots.

En premier lieu, ces recherches portent sur la perception de l'environnement et sa modélisation par le robot. Le robot détecte des points particuliers à partir desquels il va élaborer une représentation tridimensionnelle de son environnement. Il ne dispose que de cette représentation. Il ne comprend pas son environnement. Là où les humains voient un bureau, il ne voit qu'une masse de points, représentés tri-dimensionnellement, susceptibles de constituer un obstacle. Toute cette problématique de compréhension de l'environnement est encore complètement ouverte.

En second lieu, ces recherches visent à doter le robot d'une manipulation dextre, pour prendre des objets et les manipuler dans la main, comme les humains savent le faire très facilement. Elle n'est pas encore au point. Dans les usines, les robots actuels ne manipulent que des objets bien déterminés.

En troisième lieu, ces recherches concernent la locomotion. Ainsi, les robots quadrupèdes développés par Boston Dynamics, racheté par Google voici deux ans, disposent de capacités de déplacement extrêmement impressionnantes sur des terrains accidentés, grâce à une commande en force, couplée à un asservissement important, le mouvement global du robot restant, pour le moment, téléguidé.

En revanche, les résultats obtenus pour les humanoïdes sont moins probants. Dans le cadre du DARPA (Defense Advanced Research Projects Agency) Robotics Challenge du mois de juin 2015, il est apparu que les robots ont beaucoup de difficulté à marcher sur des terrains accidentés et à interagir avec leur environnement, en raison de méthodes de commande en position très peu adaptables aux configurations de ce dernier. Dès qu'il doit ouvrir une porte ou prendre un objet, le robot se trouve complétement déséquilibré et il tombe. Les chercheurs perfectionnent le contrôle de la marche, afin qu'elle devienne dynamique, mais cela reste balbutiant. Très peu de robots humanoïdes y parviennent. Les chercheurs étudient la synthèse d'activité pour les robots humanoïdes, la complexité résultant de la multiplication des degrés de liberté du robot, afin que les robots soient effectivement capables d'interagir avec leur environnement, et non pas juste de s'y déplacer comme le font les robots quadrupèdes.

S'agissant des transports, la voiture autonome va apparaître sur le marché dans les cinq à dix prochaines années. Elle ne voit pas non plus l'environnement comme nous le voyons. Elle utilise essentiellement des lasers tridimensionnels comme capteurs. Ceux-ci lui permettent de disposer d'une bonne connaissance de l'environnement et des obstacles. Que fera la voiture automatique lorsqu'elle devra prendre des décisions immédiates, comme freiner, éviter un obstacle ou décider d'en heurter un autre ? C'est un sujet complètement ouvert. Philosophes, roboticiens et juristes travaillent en commun pour essayer de déterminer les responsabilités et résoudre les dilemmes éthiques.

Un autre sujet, souvent évoqué, est celui des drones. Je pense qu'ils sont appelés à un très grand développement, parce qu'on maîtrise le vol automatique depuis très longtemps. M. Claude Kirchner a indiqué qu'il avait atterri hier dans un avion en pilotage automatique, lequel peut s'assimiler à un drone. Dès aujourd'hui, les drones peuvent être utilisés de façon très diversifiée, par exemple pour réaliser de façon coopérative des tâches d'assemblage, pour l'intervention en cas d'incendie, pour la maintenance, pour la surveillance, ou encore pour la logistique. En revanche, les drones ne sont pas à même d'aller très loin en matière de prise de décision autonome, par exemple pour choisir des cibles dans les applications militaires.

Par ailleurs, des recherches sur l'apprentissage algorithmique évolutionniste visent à permettre aux robots de se réparer ou de s'adapter très rapidement à la nouvelle configuration lorsqu'ils perdent une fonction.

Enfin, d'autres recherches s'intéressant à l'interaction entre l'humain et le robot sur le plan de l'expression des émotions, posent des questions assez importantes sur le plan de l'éthique et de l'attachement. Par exemple, le comportement des robots androïdes développés par l'université d'Osaka se rapproche de celui d'êtres humains, ce qui conduit à un brouillage des frontières.

En conclusion, la recherche en robotique a considérablement progressé, en prenant appui sur l'accroissement de la vitesse des processeurs, la miniaturisation des capteurs et des actionneurs. De nombreux problèmes restent toutefois à résoudre. Il ne faut pas prendre pour argent comptant quelques expérimentations menées dans des laboratoires. Une distance importante les sépare de systèmes commerciaux. Plusieurs de ces applications et les recherches associées posent des problèmes éthiques et juridiques.

M. Jean-Yves Le Déaut. Je donne à présent la parole à M. Jean-Pierre Merlet, qui est notamment directeur scientifique du projet HEPHAISTOS de l'INRIA. Ce projet regroupe des chercheurs de l'INRIA et d'autres entités, pour développer des dispositifs d'assistance robotisés, destinés aux personnes âgées et handicapées. M. Jean-Pierre Merlet va traiter des nouvelles formes de robotique.

M. Jean-Pierre Merlet, membre du conseil exécutif de l'IFToMM, IEEE Fellow, responsable scientifique du projet HEPHAISTOS, INRIA. Vous avez déjà évoqué la légende d'Héphaïstos, que je vais juste compléter. Il est le fils illégitime de Zeus et d'Héra. Mécontent de cette paternité, Zeus l'a jeté de l'Olympe. Il a chuté durant vingt-quatre heures et s'est blessé en tombant. C'est un dieu boiteux. Aussi, son nom nous a-t-il paru adéquat pour baptiser un projet s'intéressant aux personnes fragiles, âgées ou handicapées.

Je vais compléter ce que vient de dire M. Raja Chatila, en présentant ce qu'est vraiment la robotique d'aujourd'hui, que vous rencontrez tous les jours sans le savoir, afin de démythifier l'image véhiculée par les articles de presse, la littérature ou les films

Qu'est-ce qu'un robot ? Est-ce le robot de Star Wars, le robot compagnon, loué par une famille bienveillante pour aider un ancêtre âgé souffrant de problèmes d'acceptation, le robot amoureux ou le robot industriel datant des années 1990 mais qui a encore un très bel avenir devant lui ?

Le robot des années 2010, c'est le robot de service, le robot aspirateur ou tondeur de pelouse, le déambulateur instrumenté, analysant la marche d'une personne âgée ou l'empêchant de tomber, le robot de transfert aidant à se lever, s'asseoir ou marcher, le robot humanoïde, le drone, etc.

On a beaucoup évoqué l'autonomie de décision des drones dans les applications militaires. Il s'agit d'une illusion. On ne parviendra jamais à mettre en oeuvre une véritable autonomie de décision dans le choix des cibles qui pourrait être relativement facilement contournée.

Le robot des années 2010, c'est aussi le robot de surveillance, le robot quadrupède précédemment évoqué, l'exosquelette qui aide les handicapés, le robot social, le robot de télé-présence, le cobo, c'est-à-dire le robot qui vient assister un humain sur des tâches difficiles.

Quelle est la grande différence entre le robot des années 1990 et celui des années 2010 ? Le premier est isolé des humains, en général entouré d'une cage métallique. En cas d'ouverture de la porte de sa cage, il s'arrête. Au contraire, en 2010, le robot de service est au contact direct de l'homme et partage son environnement.

Par ailleurs, la nouvelle informatique réduit considérablement les temps et les coûts de développement, tout en autorisant bien plus de souplesse. En 2005, pour ajouter un capteur dans un système robotique, il fallait un an de développement informatique. En 2010-2015, il ne faut qu'une journée.

Le modèle économique a aussi changé. En 1990, le coût du robot était fixé selon des normes industrielles classiques. En 2010-2015, son coût dépend de l'application et du service, plus que du matériel. Par exemple, un robot industriel qui sert à faire du transfert est vendu cinq-cents euros. Le même robot est vendu huit-mille euros pour une application médicale. À terme la robotique de service peut largement excéder le marché du robot industriel.

Je vais revenir sur le robot humanoïde pour dénoncer un certain nombre de mystifications. M. Raja Chatila m'a beaucoup aidé, en montrant des robots humanoïdes dans des situations peu favorables. Très souvent, le robot humanoïde compagnon est présenté comme l'outil universel, sachant tout faire : la vaisselle, le jardinage, vous relever si vous être tombé, etc. Il est intelligent, sensible, émotif, et dialogue de manière naturelle.

Toutefois, si la robotique humanoïde est un sujet d'étude formidable, je ne pense pas que ce soit un futur probable, même à très long terme. D'abord, un robot humanoïde est très coûteux, à hauteur de quatre-cent-mille euros, sans perspective de réduction radicale. Ensuite, il a une autonomie énergétique très réduite. Ainsi, le robot Asimo ne fonctionne-t-il que durant une demi-heure, s'il n'est pas trop sollicité. Enfin, il est également très loin d'être universel. Il faut le reconnaître, nos robots sont très stupides. Dans un contexte spécifique, ils peuvent fonctionner de manière très efficace et même beaucoup plus efficace que nous, par exemple pour les robots chirurgicaux. Mais dès que le contexte change un petit peu, ils deviennent vraiment très bêtes. Et puis, il y a le problème de l'acceptation des robots compagnons.

La robotique de service de l'avenir se présentera plus probablement sous la forme d'une flotte de robots multifonctionnels, capables d'assurer différentes tâches, finalement d'assez bas coût, très peu intrusifs, communicants - ce qui ne veut pas dire qu'ils sont connectés -, collaboratifs, capables de travailler ensemble pour réaliser des tâches complexes. Il s'agira d'une robotique de service multiforme, réactive, modulaire et adaptable à l'homme et à son environnement.

Cette nouvelle robotique induit quelques problèmes éthiques et légaux. Par exemple, dans l'assistance à la personne, des dispositifs destinés à être utilisés à domicile et en permanence, tels qu'un déambulateur instrumenté permettant de faire l'analyse de la marche de personnes âgées et de détecter des chutes, donc de lancer des alertes, produisent un très grand nombre de données sensorielles, dont seront extraits des indicateurs médicaux et comportementaux. Qui est propriétaire de ces données ? Qui y a accès ? Comment les protéger ?

Ce type de robotique doit, bien entendu, être validé par l'expérimentation. Actuellement, en France, la loi qui régit ces expérimentations humaines est la même pour tous. Mettre à disposition d'une personne âgée, ayant l'habitude d'utiliser cet appareil, un déambulateur pour faire une campagne d'expérimentation impose de suivre exactement la même procédure légale que pour développer un médicament contre le sida, avec certainement des effets secondaires et l'idée de mieux mesurer risques et bénéfices. Est-ce bien raisonnable ? Ainsi, pour tester un déambulateur au CHU de Nice, deux années ont été nécessaires pour obtenir l'autorisation légale correspondante, alors qu'aux États-Unis d'Amérique des chercheurs obtiennent ce même type d'autorisation en sept jours.

L'absence de législation spécifique ou de norme pour la robotique d'assistance constitue un frein à l'innovation. Les industriels n'investissent pas tant qu'ils n'ont pas la certitude d'une parfaite conformité d'un projet aux contraintes légales.

En conclusion, la technologie n'est qu'un complément aux aidants humains. Par exemple, un robot de transfert mis à disposition d'une équipe d'infirmières à l'hôpital, pour les soulager d'un travail pénible - cette profession est la plus atteinte par les douleurs dorsales -, permettra de renforcer le dialogue social qui est aussi un élément essentiel de bien-être.

M. Jean-Yves Le Déaut. À présent, je passe la parole à M. Pierre-Yves Oudeyer, directeur de recherche, à l'INRIA, également président du comité technique des systèmes cognitifs et développementaux de l'IEEE (Institute of Electrical and Electronics Engineers, en français l'Institut des ingénieurs électriciens et électroniciens). Il s'intéresse tout particulièrement à la compréhension du développement cognitif des humains et à la construction de robots inspirés du vivant, aptes à évoluer tout au long de leur fonctionnement et de s'adapter à leur environnement. Il va aborder la question de la robotique et de l'humain.

M. Pierre-Yves Oudeyer, directeur de recherche, INRIA. Effectivement, mon message vise à mettre en évidence le rapprochement essentiel en cours entre la robotique et les sciences humaines. Nous assistons aujourd'hui à une évolution très importante, au cours de laquelle des objets d'un type radicalement nouveaux dans l'histoire de nos sociétés apparaissent : les robots. Ces machines étendent conjointement notre corps, notre esprit et, de plus en plus, notre système de relations sociales.

S'agissant du corps, ces machines permettent, par exemple, d'être présents à grande distance, dans un autre pays, voire sur la planète Mars. Elles permettent aussi, lorsqu'on souffre d'un handicap, de réaliser des tâches physiques quotidiennes, comme se relever ou marcher. Concernant l'esprit, dans les voitures, ces machines peuvent prendre des décisions à notre place, pour mieux assurer notre sécurité. Elles accompagnent les enfants dans leur apprentissage. En France, ces robots éducatifs sont peu nombreux, mais ils sont très répandus dans d'autres pays, comme la Corée du sud. En matière d'extension des relations sociales, des chercheurs étudient comment des robots peuvent permettre d'établir, à l'hôpital, des relations plus confiantes entre les enfants et le corps médical.

Dans la plupart des projets en cours, les robots ne sont pas destinés à remplacer l'homme. En tout cas, l'objectif des chercheurs ou ingénieurs n'est pas de le remplacer mais plutôt de lui construire des prothèses. Dans ce contexte, l'humain est véritablement au centre, ou devrait l'être, ce qui lance plusieurs défis.

D'abord, il est vraiment important, étant donné la centralité de l'humain, de comprendre les relations qui se construisent entre l'humain et les machines et entre les humains par le biais des machines, ainsi que les impacts induits. Dans le processus de recherche et d'innovation, avant d'étudier ces relations et ces impacts, il faut comprendre les besoins de l'homme, dans le contexte d'utilisation de ces machines. Par exemple, il faut comprendre le contexte cognitif et émotionnel dans lequel elles sont utilisées. Pour que ces machines soient utilisables, efficaces, acceptables et respectueuses de la personne, les études ne peuvent être menées sur un plan uniquement technologique. Il convient donc de faire appel à la psychologie, la sociologie et l'anthropologie, ainsi que, pour les impacts, au droit et aux sciences politiques. Ces sciences humaines sont aujourd'hui au coeur de certains projets, au niveau national et international, mais il reste énormément à faire.

Évidemment, pour que ces robots, de plus en plus présents dans le quotidien des hommes, deviennent véritablement des prothèses et étendent leurs capacités plutôt que d'en faire des victimes, il faut que les hommes comprennent ces machines. Il s'agit d'un défi sur le plan éducatif. Comme le rappelait M. Claude Kirchner, ces machines complexes mettent en jeu un ensemble de technologies numériques élaborées. Il convient de les introduire progressivement, depuis le plus jeune âge.

Une seconde remarque est liée à l'intelligence artificielle, donc à la notion d'intelligence. Ces derniers mois et ces dernières années, un certain nombre de penseurs et d'entrepreneurs, en particulier anglo-saxons, ont évoqué la théorie de la singularité. D'après cette dernière, dans quelques dizaines d'années, voire moins, l'intelligence de certaines machines rejoindrait, voire dépasserait celle de l'homme. Il en découle une sorte d'appel au danger. Même s'il existe évidemment aujourd'hui beaucoup de choses dangereuses, j'aimerais rejoindre M. Jean-Pierre Merlet, lorsqu'il considère que le danger des robots autonomes, comme les drones, résulte moins de leur intelligence que de leur stupidité. En effet, les machines que l'on sait concevoir et construire aujourd'hui ne sont efficaces que dans des contextes extrêmement restreints, pour lesquels la tâche à effectuer et l'environnement sont connus à l'avance de manière complète. Dès qu'il s'agit, par exemple, d'apprendre à manipuler des objets nouveaux, ou de réaliser des choses aussi simples qu'ouvrir une porte, comme dans le DARPA Robot Challenge, c'est la catastrophe. Beaucoup de travail reste à faire pour faire comprendre au robot la notion de chaise ou de verre d'eau. Ce n'est guère surprenant, puisque nous sommes très loin de comprendre comment fonctionne l'intelligence naturelle, celle des êtres vivants.

À ce sujet, j'aimerais mettre en évidence un dernier lien entre robotique et sciences humaines. Aujourd'hui, la compréhension du développement de la cognition et du cerveau humain constitue un grand défi pour les sciences fondamentales. Ce développement résulte d'une interaction complexe entre différents organes, diverses parties du cerveau, le corps et l'environnement. Pour la comprendre, il faut la modéliser précisément, à l'aide des mathématiques, de l'algorithmie et de la robotique. Une collaboration étroite entre robotique, psychologie et neurosciences, a, d'ores et déjà, permis le développement d'un certain nombre de modèles à l'origine de progrès notables, par exemple dans la compréhension de la façon dont les enfants construisent une carte de leur propre corps, apprennent à le manipuler ou à attraper des objets. De la même façon, l'utilisation de modèles robotiques a permis, au cours des vingt dernières années, des avancées notables de la linguistique évolutionnaire, par exemple en aidant à comprendre comment des groupes d'individus peuvent inventer des conventions linguistiques.

En conclusion, on observe véritablement une convergence importante entre robotique et sciences de l'homme. Mais énormément de choses restent encore à faire, en particulier il faut encourager ces deux disciplines à accroître leurs échanges. Les défis scientifiques que nous avons à relever sont véritablement immenses.

M. Jean-Yves Le Déaut. Après la recherche publique, nous allons passer à la recherche industrielle, en l'occurrence sur les véhicules autonomes
- probablement la nouvelle application la plus marquante de la robotique dans notre civilisation de l'automobile - avec l'intervention de M. Guillaume Devauchelle, directeur de l'innovation et de la recherche scientifique de Valeo. Voilà un exemple d'entreprise française très présente à l'international qui a su miser, même si ce n'était pas facile en période de crise, sur l'innovation pour assurer son développement, et qui occupe une place de premier plan dans plusieurs domaines, notamment l'automatisation des véhicules, au côté de géants américains comme Google.

M. Guillaume Devauchelle, directeur de l'innovation et de la recherche scientifique, Valeo. Le véhicule autonome et connecté n'est pas un attribut de plus pour l'automobile, c'est une nécessité et une réalité. À titre d'exemple, Valeo a déjà équipé plus de cinq millions de véhicules de dispositifs de manoeuvre de stationnement automatique ou semi-automatique. Pourquoi le véhicule autonome et connecté est-il une nécessité ? Parce que l'automobile vit aujourd'hui une situation tout à fait paradoxale. En dépit des progrès réalisés en matière de sécurité passive, de consommation de carburant, d'économie d'énergie etc., l'efficacité globale du système demeure, de toute évidence, très faible.

Un véhicule automobile particulier reste largement plus de 80 % du temps à l'arrêt. Lorsqu'il est en action, bien que généralement conçu pour accueillir au moins quatre passagers, il ne transporte qu'une seule personne durant plus de 80 % du temps : le conducteur. Qui plus est, ce conducteur, bloqué dans les embouteillages ou cherchant sa place de stationnement désespérément, considère le temps de transport en centre urbain comme un temps perdu. L'usage et l'efficacité globale des véhicules restent donc très faibles. La promesse du véhicule autonome et connecté, c'est de changer radicalement la donne, en changeant de paradigme. Avec un véhicule autonome et connecté, en suivant des concepts tels que le covoiturage (carpooling) ou l'autopartage (carsharing), il est possible de changer les usages pour améliorer l'efficacité du système.

Une seule innovation peut avoir des incidences multiples, très éloignées de l'usage initialement prévu. Par exemple, en substituant, pour plus de commodité, une clef virtuelle à une clef physique, il apparaît assez vite que le prêt du véhicule s'en trouve simplifié, puis que cela bouleverse des modèles d'affaire, comme celui des loueurs qui n'ont plus besoin de comptoirs. Cela peut également transformer radicalement la gestion de certaines infrastructures, telles que les parkings des aéroports. Ces innovations modifient donc nos habitudes, nos infrastructures et l'organisation sociale. Je ne reviendrai pas sur ce qui a été dit des influences multiples entre sciences humaines et technologies.

Cette vitesse extrême d'évolution est remarquable pour les industriels. Les boucles sont très courtes. Il s'agit non d'une réflexion ordonnée, mais d'un processus assez darwinien. À travers le monde, des milliers d'acteurs, souvent des startup ou des spinup de laboratoires, proposent des innovations de rupture. Celles-ci trouvent, ou non, leur place. Un industriel doit nécessairement être à l'écoute de l'ensemble de ces propositions, dans le monde entier. Il est absolument essentiel de pouvoir tester ces propositions, en les mettant le plus rapidement possible sur les routes, pour vérifier si l'usage correspond réellement à un besoin, celui-ci étant lui-même extrêmement évolutif.

Pour les industriels, il faut permettre les boucles d'expérimentation extrêmement courtes, incontournables pour rester dans la course. Nous avons vu les images du DARPA Robot Challenge aux États-Unis d'Amérique, une compétition mondiale. Ces expérimentations heurtent le droit, pas seulement le code de la route - Mme Sophie Touhadian-Giely reviendra plus tard sur ce point -, posent des questions d'éthique, déjà évoquées, et, souvent, de technologie, imparfaite sur de nombreux plans. Encore longtemps, le véhicule autonome ne le sera pas dans certaines circonstances, si bien qu'il sera nécessaire de surveiller en permanence le conducteur. Des millions de capteurs, de caméras et de scanners à trois dimensions vont sillonner nos routes, générant des flux d'informations presque inimaginables aujourd'hui, dont on n'imagine pas complètement les usages.

Cette démarche interactive, en boucle courte, est indispensable pour résoudre ce problème de société majeur que constitue la mobilité. Le véhicule autonome et connecté représente une solution remarquablement élégante pour le régler, parce qu'il ne nécessite pas d'investissements massifs de pouvoirs publics souvent désargentés. Le surcoût des véhicules autonomes et connectés est relativement faible, voire marginal par rapport au coût d'utilisation des véhicules. Les fonctions évoluant au cours du temps, ce surcoût restera contenu. Mon message est très clair : la France doit rester un territoire d'expérimentation où les usages souhaités par les utilisateurs soient légalisés.

Tous ceux qui circulent sur le périphérique voient d'innombrables conducteurs téléphoner, bien que ce soit strictement interdit. La question se pose de savoir faire évoluer ces réglementations pour les rendre plus conformes à l'usage. Cette interaction très rapide entre les usages et la législation est souhaitable, afin de parvenir, in fine, au meilleur compromis. Le véhicule autonome n'arrivera pas d'un bloc, mais sous forme d'une succession d'innovations partielles, qui aboutiront néanmoins très rapidement à des changements radicaux de société.

M. Jean-Yves Le Déaut. Enfin, je vais donner la parole, en conclusion de cette table ronde et pour faire en quelque sorte le lien avec les suivantes, à M. Alexei Grinbaum, chercheur au laboratoire des recherches sur les sciences de la matière (LARSIM) du CEA-Saclay qui va évoquer le rapport sur l'éthique de la recherche en robotique de la Commission de réflexion sur l'éthique de la recherche en sciences et technologies du numérique (CERNA) d'Allisten, l'alliance des sciences et technologies du numérique. Il abordera aussi les questions juridiques associées.

M. Alexei Grinbaum, chercheur au laboratoire Larsim du CEA-Saclay. La robotique, comme toutes les technologies numériques, modifie la condition humaine. Cette évolution est au moins aussi importante que celle résultant des biotechnologies. C'est pour cela que la CERNA prône la création, dans la loi pour une République numérique, comme indiqué par M. Claude Kirchner, d'un comité consultatif national pour les technologies numériques.

Dans la démarche d'élaboration de ce rapport, disponible en ligne sur son site, la CERNA s'est d'abord posé la question du public auquel ce document devrait s'adresser. Nous nous sommes dit qu'il serait vain d'attendre qu'une technologie soit mise sur le marché, au stade de l'usage, puisque les décisions sur la façon dont ces technologies interagiront avec l'homme sont prises au moment où le chercheur fixe les orientations relatives au développement de telle ou telle technologie.

Il serait donc trop tardif d'attendre, pour instaurer des normes, la mise sur le marché de technologies déjà développées et mises au point. Aussi, la CERNA s'adresse-t-elle, à une étape très en amont, aux chercheurs qui commencent un travail de développement, de conception ou de design. Comment peut-on s'adresser aux chercheurs ? Il existe plusieurs méthodes. L'une consiste à imposer des moratoires, en indiquant ce qui est ou n'est pas possible. La CERNA a choisi une autre approche. Elle pousse le chercheur à la réflexion, en lui suggérant de se poser un certain nombre de questions. Il ne s'agit pas de suivre une méthode radicale d'interdiction mais d'inciter le chercheur à la réflexion sur des sujets qui ne sont pas spécialement dans son champ d'intérêt.

Avant d'en venir aux questions, ce rapport propose des recommandations générales, applicables à toutes les technologies numériques, pas seulement à la robotique. Par exemple, l'une d'entre elles constate qu'en France les possibilités de dialogue entre juristes et scientifiques restent insuffisantes. Il n'y a pas assez de juristes à même de comprendre la façon de penser des chercheurs et, inversement, les chercheurs ne sont pas suffisamment formés pour comprendre comment fonctionne la société sur le plan juridique. Ces neuf recommandations générales traitent de questions non spécifiques à la robotique mais très importantes pour l'ensemble des technologies numériques.

Ensuite, l'avis de la CERNA développe des recommandations autour de trois grands thèmes transversaux, communs à plusieurs études de cas concrets : l'autonomie, avec sept recommandations, l'imitation du vivant ainsi que l'interaction affective et sociale des robots avec les humains, avec six recommandations importantes, et, enfin, la réparation et l'augmentation de l'humain par des robots, avec quatre recommandations.

Je vais prendre deux exemples de recommandations ayant le mérite d'être à la fois opératoires et très proches de fictions. Par exemple, dans le film
Ex Machina, sorti l'année dernière sur les écrans, un robot trompe et manipule son opérateur humain. L'une des sept recommandations sur l'autonomie porte justement sur les décisions prises par le robot à l'insu de l'opérateur, dans des situations où l'opérateur croirait que le robot se trouve dans un certain état, alors que dans la réalité il se trouve dans un autre état. Les recommandations visent à éviter ce genre de situation. Cet exemple pose, au plan juridique, la question, d'ores et déjà assez pressante, de l'introduction dans le corpus législatif de catégories nouvelles, telles que celles d'opérateur et d'utilisateur. Ces notions sont fondamentales pour formuler des normes en matière de technologie numérique, pas seulement de robotique.

Un deuxième exemple concerne la question, très débattue de nos jours y compris au-delà de la robotique, de la réparation et de l'augmentation des capacités humaines. La CERNA a pris position à ce sujet, en prônant la réversibilité de l'augmentation. Sans détailler la recommandation, je vais conclure, après Héphaïstos, par une légende datant du XIIe ou du XIIIe siècle, d'après laquelle le prophète Jérémie aurait créé un homme artificiel ou golem. Le prophète Jérémie étant le plus sage et le plus intelligent des hommes, son homme artificiel était parfait et indistinguable d'un homme naturel. Aussitôt créé, il parle à Jérémie : « Te rends-tu compte de ce que tu as fait ? ». Jérémie lui répondit : « Je t'ai créé ». Le golem sans nom lui dit alors : « Non, à partir de maintenant, quand un homme rencontrera un autre homme dans la rue, il ne saura plus si c'est un homme né de père et de mère ou fait par un autre homme ». Jérémien par son action « technique »n avait créé une confusion entre des catégories juridique, sociale et même morale, jusque-là bien distinctes. Lorsque Jérémie demanda au golem ce qu'il devait faire, celui-ci lui répondit : « Défais-moi ». Il ne dit pas : « Tues-moi », car il n'est pas vivant. Et Jérémie le défit. En effet, il avait l'avantage de la réversibilité, dont nous ne bénéficions pas avec les nouvelles technologies que nous introduisons dans le monde. Nous sommes donc obligés de faire mieux que Jérémie, mieux que l'homme le plus sage et le plus intelligent. C'est pour cela que la mise en oeuvre d'une réflexion éthique institutionnalisée serait essentielle.

DÉBAT

M. Jean-Yves Le Déaut. Nous avons maintenant la possibilité de débattre durant une vingtaine de minutes. Je salue notre premier vice-président, le sénateur Bruno Sido, ainsi que les sénateurs Dominique Gillot, Catherine Procaccia, vice-présidente, et Roland Courteau, vice-président, qui nous ont rejoints. J'invite les parlementaires présents et les intervenants des différentes tables rondes à s'exprimer, et, par la suite, si le temps restant le permet, les personnes présentes dans la salle.

Mme Dominique Gillot, députée. Je suis désolée d'avoir manqué le début de cette table ronde qui m'intéresse particulièrement, parce que je suis très sollicitée pour réfléchir aux conséquences de l'intelligence artificielle, un sujet qui déborde un peu celui d'aujourd'hui.

Je suis particulièrement intéressée par la remarque relative au manque de dialogue entre juristes et chercheurs. Je pense qu'il existe également un manque de dialogue entre chercheurs en sciences humaines et chercheurs en technologies. L'université et les organismes de recherche, parfaitement conscients de ce manque, organisent cette interpénétration des différentes disciplines, précisément pour ne pas inventer des systèmes contraires à l'éthique, susceptibles de nous entraîner dans des dérives très sérieuses. La conférence qui s'est réunie à Genève au début de l'été a justement montré qu'un certain nombre de savants s'interrogent sur la finalité de leurs recherches.

Je voudrais connaître les modalités suivant lesquelles vos interrogations et vos questions sont adressées, sous forme de recommandations, aux différents laboratoires et équipes de recherche susceptibles de s'en emparer, afin que cette nouvelle approche de fabrication de la connaissance soit à la fois bénéfique à la société, à la technique et à l'innovation.

M. Jean-Yves Le Déaut. Ceux qui le souhaitent répondront à cette question. Je donne la parole au sénateur Gérard Longuet.

M. Gérard Longuet, sénateur. Deux sujets m'ont vraiment passionné. Concernant l'intervention de M. Guillaume Devauchelle, comme j'adore conduire - d'ailleurs plutôt mal -, je m'interrogeais sur l'intérêt d'une autonomie complète des véhicules. Sa démonstration sur l'inutilisation des véhicules à hauteur de 80 % à 90 % du temps m'a convaincu. Elle met en évidence la grande réussite du système numérique, dont les robots sont l'un des aspects. Il permet d'optimiser l'utilisation des outils existants, en ce cas l'automobile, avec pour contrepartie l'abandon de l'usage individuel. Quelle est l'échéance du déploiement de ces véhicules autonomes : cinq, dix ou vingt ans ?

Je pose ma seconde question, sous l'autorité du président Jean-Yves
Le Déaut. M. Pierre-Yves Oudeyer a mentionné les robots éducatifs. En tant que rapporteur de l'enseignement scolaire au Sénat, je suis intéressé par les possibilités d'améliorer la productivité de l'enseignement, comme le permettent déjà nos tablettes. Voyez-vous ces robots d'éducation se diffuser en utilisation individuelle, familiale ou collective ? Quel peut-être leur apport à la productivité de l'enseignement, aujourd'hui manifestement très insuffisante ?

M. Pierre-Yves Oudeyer. Quant à la première question, l'éducation constitue justement un enjeu important pour rapprocher, sur le long terme, sciences humaine et sciences robotique, même si, à court terme, ce rapprochement pose plus de difficultés. Il apparaît, en effet, essentiel que les chercheurs en sciences humaines comprennent les concepts de base de la robotique pour être à même d'appliquer à ce domaine leurs compétences souvent extraordinaires.

Concernant l'utilisation des technologies robotiques pour l'éducation, s'il existe une large offre logicielle dans ce domaine, en ce qui concerne les robots à proprement parler, un certain nombre d'expérimentations se développent dans plusieurs pays, à des échelles relativement importantes.

Ainsi, en Corée du Sud une grande partie des classes sont aujourd'hui équipées de petites boîtes robotiques aux multiples rôles, par exemple celui de médiateur entre les élèves et les professeurs ou entre les élèves eux-mêmes. Dans la plupart des cas, les enjeux concernent principalement la personnalisation et la motivation. En termes de personnalisation, les machines devraient permettre d'interagir individuellement avec les élèves, pour comprendre leurs particularités et leur proposer éventuellement des explications ou des séquences d'apprentissage spécifiques, plutôt que d'écouter un enseignant qui explique la même chose, dans le même ordre, à tous. Concernant la motivation, il est possible qu'un objet physique tel qu'un robot puisse, par rapport à un logiciel sur écran, augmenter l'engagement et l'attention des élèves ainsi que favoriser la mémorisation et la compréhension.

M. Gérard Longuet. Cette différence d'efficacité entre un simple logiciel éducatif et un robot est-elle avérée ?

M. Pierre-Yves Oudeyer. Justement, cette question reste aujourd'hui ouverte, un certain nombre de chercheurs proposant, sans l'avoir encore démontré, que la dimension physique de la machine modifie la réception des messages, sur le plan émotionnel et attentionnel.

M. Jean-Yves Le Déaut. M. Alexei Grinbaum va répondre à la question de Mme Dominique Gillot.

M. Alexei Grinbaum. Bien évidemment, la CERNA sait qu'il ne suffit pas de publier un avis de cinquante pages pour que les chercheurs prennent conscience des problèmes. La formation représente l'instrument le plus adapté dans ce cas d'espèce. D'une part, la CERNA essaye d'engager elle-même certaines actions : nous organisons, au début du mois de février 2016, une journée ouverte sur la gouvernance des algorithmes et, à la fin du mois de septembre 2016, une école d'été. D'autre part, nous incitons - bien que cette incitation devrait, à notre sens, plutôt provenir d'autres instances - les écoles d'ingénieurs et les masters d'universités à inclure dans les programmes de formation des modules courts, sur les questions éthiques ainsi que sur les relations entre science et société, afin que les futurs ingénieurs et chercheurs disposent de moyens et d'instruments adaptés et soient formés à réfléchir eux-mêmes sur ces questions. Je connais plusieurs exemples d'autres technologies émergentes pour lesquelles ce type d'incitations a réellement porté des fruits substantiels. La robotique commence juste à prendre ce chemin mais la formation et l'incitation à inclure des modules dans les cursus de formation pourrait représenter, à la suite de notre débat, une recommandation très importante.

M. Claude Kirchner. À propos de ces questions d'éducation qui sont liées, je voudrais attirer votre attention sur le fait que dans le cadre de la mise en place de robots ou de logiciels, tels que les MOOC (Massive Open Online Courses, en français formations en ligne ouvertes à tous), permettant d'accéder à la connaissance et à l'éducation, les données d'usage générées sont considérables et permettent d'avoir un profilage extrêmement fin de l'ensemble des utilisateurs.

Il faut s'interroger sur la propriété de ces données d'usages. Ce n'est d'ailleurs pas nécessairement une question de propriété mais de maîtrise. Si j'utilise une plate-forme MOOC dont les données sont maîtrisées à l'étranger, celle-ci disposera d'un profil extrêmement précis de mon identité, de mes connaissances et de mes contributions potentielles à une entreprise ou à la société. Comme indiqué par M. Pierre-Yves Oudeyer, ces outils extrêmement performants, efficaces et intéressants, permettent de progresser de façon remarquable. Mais nous devons apprendre à les maîtriser, en particulier pour ce qui concerne le problème des données d'usage.

C'est une véritable difficulté que de parvenir à rapprocher les sciences humaines et sociales et les sciences dites exactes. Un sujet récent qui peut poser question concerne les taux de succès des sciences humaines et sociales en France à l'European Research Council (ERC). Cette année nous avons obtenu une seule Starting Research Position, alors qu'en Europe il en existe, sous réserve de vérification, environ deux-cents. Cet indicateur révèle un décalage entre les sciences humaines et sociales telles qu'elles sont pratiquées en France et au niveau international. Comment prendre cela en compte et faire en sorte que, au niveau global, on arrive à une meilleure interaction entre ces différentes sciences ? C'est essentiel, mais en France comment devons-nous nous organiser ? C'est une question importante.

M. Jean-Yves Le Déaut. Bien que je souhaite qu'une question puisse être posée par la salle, je donne la parole successivement à MM. Jean-Pierre Merlet, Dominique Aubin, puis Guillaume Devauchelle.

M. Jean-Pierre Merlet. Comme de nombreux chercheurs, je suis très sensible à cette question des sciences humaines et sociales. Par exemple, en tant que roboticien, je travaille avec Mme Nathalie Nevéjans, qui est juriste, ce qui nous a conduits à contacter M. Claude Kirchner, concernant l'absolue nécessité d'une réflexion collective sur cette question de société.

Dans le cadre de mes recherches portant sur l'assistance aux personnes âgées, l'acceptation des systèmes représente un sujet majeur. L'évaluation de celle-ci constitue un problème typique des sciences humaines et sociales. Cela va même plus loin : mes systèmes doivent aussi être esthétiques, ce qui peut sembler surprenant. Si vous demandez à une personne en chaise roulante les fonctionnalités supplémentaires qu'elle souhaiterait, elle vous répondra qu'elle n'en veut pas plus mais que le système doit être beau. En effet, une personne en chaise roulante discute de manière privilégiée avec les enfants, dont les yeux se situent au même niveau que les siens. Si la chaise roulante ressemble à un fatras de tubes métalliques et de boulons, les enfants vont en avoir peur ; au contraire, si elle est belle, ils seront attirés. Les relations sociales sont autrement plus importantes que les fonctionnalités.

Ensuite, pour répondre à la question de M. Gérard Longuet sur l'éducation, je pense qu'il faut distinguer robots et logiciels. Un robot mobile peut illustrer des concepts très variés. Ainsi, nous développons un robot pédagogique capable de fonctionner dans une salle telle que celle-ci et d'illustrer, de manière totalement visuelle, des concepts comme les mathématiques ou l'informatique. Par exemple, il serait possible de matérialiser les incidents de fonctionnement d'un réseau informatique avec un robot téléguidé heurtant un mur, à la suite d'une erreur de communication. Il s'agit donc, de ce point de vue, d'un outil assez merveilleux.

Mme Dominique Gillot. Pour illustrer ce que vous venez de dire sur l'acceptation et l'esthétique, il faut revenir en arrière pour comprendre pourquoi tous ont accepté de porter des lunettes et pas un appareil auditif. Un autre exemple, largement repris par les médias, concerne ce chercheur qui a inventé pour un enfant une main artificielle robotisée ressemblant à un jeu. Du coup l'enfant montre cette main, alors que si elle avait été laide, il l'aurait cachée dans sa manche.

M. Jean-Yves Le Déaut. Je donne la parole à M. Dominique Aubin.

M. Dominique Aubin. Je suis chargé de mission numérique à Rennes Métropole et co-fondateur du Fab Lab de Rennes, ouvert voici trois ans, qui compte quatorze ateliers. Je voudrais faire part d'un retour de terrain.

Je voudrais aller dans le sens de M. Pierre-Yves Oudayer sur la question de la vertu de l'incarnation physique dans l'apprentissage, en prenant l'exemple de l'utilisation de « briques » pour permettre aux enfants, adultes et retraités de s'approprier la robotique, au point de devenir des concepteurs plutôt que de simples utilisateurs. Après quarante-sept ateliers, tous complets depuis trois ans, et mille-deux-cents débutants formés gratuitement par la ville, en dehors des cursus scolaires et de l'Université, nous avons confirmé cette vertu de l'objet sur le plan cognitif. L'utilisation de kits aimantés, achetés, hélas, en Californie, comportant, pour les enfants, une couleur pour les capteurs, pour l'énergie et pour la sortie, pouvant être reliés à des ordinateurs, permet, au travers de la manipulation d'éléments tangibles, avec des méthodes ad hoc allant du simple vers le complexe, dans une logique « Lego » de recombinaison de modules de base, de parvenir à une appropriation très forte et très rapide par le public.

Il s'agit là d'une approche d'alphabétisation de premier niveau, non d'une démarche théorique. Pour moi, le fait de rendre tangible la technologie, sous forme de briques d'objets connectés mises entre les mains des personnes, a indéniablement des vertus non seulement d'appropriation mais également de démocratisation. Les personnes s'interrogeant sur le fonctionnement, il devient alors possible de les faire remonter jusqu'aux données et à leur mode de stockage.

Par ailleurs, à mon sens, un robot n'est plus nécessairement une machine physique. Par exemple, Siri, l'assistant vocal d'Apple, est un robot. Mon fils, quand il joue aux jeux vidéo parle de « bots », en enlevant le préfixe « ro- ». Ces « bots » sont semblables à vos golems. Aujourd'hui, les systèmes centralisés complexes pilotent souvent un essaim de robots qui ne sont plus seulement des sous-systèmes automobiles mais les ascenseurs de toute une ville ou les capteurs d'incendie de la moitié d'un pays. À mon sens, il existe une question éthique très importante à soulever en matière de réversibilité de ces systèmes, partiellement aptes à proposer leur auto-reprogrammation, par exemple par activation d'un bouton d'arrêt d'urgence permettant de revenir en mode manuel.

Enfin, je rejoins Mme Dominique Gillot sur la pertinence de sa métaphore des lunettes. Un problème d'acceptabilité sociale peut conduite à perdre beaucoup d'argent, si l'on travaille du haut vers le bas, en constatant, au final, que les personnes n'acceptent pas ce qui a été fait. À partir du moment où les personnes, au lieu de rester des consommateurs, participent à la co-conception de systèmes - ce type de posture révolutionne pour partie l'économie du partage dans le numérique - immédiatement applicables, comme nous le faisons, au sein ou en dehors de l'Université, au travers de lieux ouverts, cela produit de l'acceptabilité, dans la mesure où les personnes préfèrent coproduire des choses acceptables pour elles.

M. Guillaume Devauchelle. Je voulais répondre à la question relative au délai d'introduction des véhicules autonomes. Dès 2017, des véhicules seront capables de rouler en complète autonomie sur le boulevard périphérique parisien qui représente un environnement relativement simple, sans piétons, feux rouges ou véhicules venant en sens inverse. Ce service aura une grande valeur pour les millions de personnes bloquées sur ces axes de circulation. À cette même échéance, des véhicules seront capables de rouler en toute sécurité sur autoroute, à cent-trente kilomètres à l'heure, notamment pour pallier l'endormissement. Des véhicules seront aussi capables de rouler sur des autoroutes périurbaines, en voie automatique. En moins de dix ans, l'évolution sera la même pour les véhicules que celle survenue, sur une durée équivalente, pour les téléphones mobiles, devenus téléphones intelligents. L'usage des véhicules n'aura alors plus aucun rapport avec celui d'aujourd'hui. Aussi, cette notion de rythme est-elle très importante. Les innovations vont se succéder, en ordre dispersé. Certaines - une sur mille ou sur cent - seront adoptées par le public, parfois sans aucun cadre. Il sera très difficile de revenir en arrière si l'on n'a pas réfléchi très vite en amont, afin de créer un cadre adapté pour toutes ces expérimentations.

M. Jean-Yves Le Déaut. Les débats sont déjà passionnés. Le premier vice-président, Bruno Sido, redonnera la parole à la salle dans le cadre de la deuxième table ronde. Il est difficile de résumer tout ce qui a été dit, compte tenu de la richesse des échanges. Néanmoins, vous avez confirmé qu'il était essentiel, en amont de la législation, d'engager cette discussion, puisque vous avez indiqué qu'il n'existait pas, à l'heure actuelle, de législation, de norme ou de réglementation adaptées. En l'absence d'un tel cadre, il est important de se saisir d'un sujet nouveau et de se l'approprier.

Par ailleurs, vous avez mentionné le problème de responsabilité posé par la délégation de décisions à des entités autres qu'humaines. Ensuite, vous avez souligné une notion très importante : les convergences entre disciplines. En tant que chercheurs, vous êtes au coeur de ces convergences entre l'informatique, le cognitif, le biomédical, les nanotechnologies, etc. Ce sont ces échanges qui seront à l'origine des sciences et techniques de demain.

Vous avez mis en évidence un autre point très important, en réponse à une question posée par Mme Dominique Gillot : le rôle essentiel joué par les sciences humaines, sociales et juridiques dans l'appropriation d'un nouvel objet. Notre prochaine audition publique du mois de janvier 2016, puisque nous en organisons une chaque mois, sera consacrée aux synergies entre les sciences humaines et les sciences technologiques, avec l'alliance Athéna, en lien avec M. Alain Fuchs, président du CNRS. Elle se tiendra le 21 janvier, dans cette même salle. Notre précédente audition, en novembre au Sénat, portait sur la possibilité de mesurer les performances réelles des moteurs automobiles. C'est un sujet important, non seulement dans l'automobile, mais aussi pour l'efficacité énergétique des bâtiments et dans d'autres secteurs. Je vais à présent passer la parole à notre premier vice-président, le sénateur Bruno Sido qui va animer la deuxième table ronde.

DEUXIÈME TABLE RONDE :
ROBOTIQUE ET SOCIÉTÉ : ENJEUX ÉTHIQUES, SOCIÉTAUX
ET ÉCONOMIQUES

Présidence de M. Bruno Sido, sénateur, premier vice-président
de l'OPECST

M. Bruno Sido, sénateur, premier vice-président de l'OPECST. L'audition publique de ce jour intitulée « Les robots et la loi » devrait permettre, grâce à cette deuxième table ronde portant sur « Robotique et société : les enjeux éthiques, sociaux et économiques », d'examiner les questions nouvelles posées à l'individu, aux libertés, à la société et à l'économie par l'apparition, toujours plus prégnante, des robots, par la complexification de leurs liens avec l'homme, qui entraîneront des retombées normatives (législatives, réglementaires ou techniques).

Comme l'a rappelé le président de l'Office en introduction, au début de la matinée, l'OPECST est pleinement dans son rôle lorsqu'il tente d'anticiper les évolutions scientifiques et technologiques prévisibles pour concilier l'émergence, accélérée et souvent imprévisible, des robots assortie d'impératifs individuels, sociaux ou économiques.

À cet égard, je soulignerais d'abord, non sans malice, à partir du cas des individus particuliers que sont les parlementaires, que si la loi ne doit jamais être faite par des robots, c'est-à-dire par une majorité parlementaire aux ordres du pouvoir exécutif, ces parlementaires ne sauraient davantage être remplacés par des robots, tant la part de l'humain est prégnante dans le processus législatif. En effet, l'élaboration de la loi doit être précédée de la compréhension d'une situation incluant l'ensemble de ses ramifications - qui ne sont pas toutes de l'ordre du rationnel - et doit conduire à imaginer, parfois dans une relative improvisation, des solutions s'inscrivant durablement à la fois dans la réalité et dans les mentalités. C'est ce que nous tentons de faire aujourd'hui, cela grâce à vous.

Effectivement, je pars de l'a priori que, pour comprendre les enjeux de la robotique pour la société, il faut garder présents à l'esprit l'idée de la suprématie de l'homme sur les robots et la volonté de la maintenir. Cette idée et cette volonté pourraient servir de fil conducteur à cette table ronde car les membres de l'Office, qu'ils soient députés ou sénateurs, ont toujours le souci de comprendre les évolutions scientifiques et technologiques, plutôt que d'être mis devant le fait accompli par des évolutions technologiques de l'importance de celles qui nous réunissent aujourd'hui.

Les parlementaires ont, par nature, le devoir de prévoir le devenir des robots - même si nous n'en savons pas encore suffisamment sur eux - et également de prévenir leurs facéties, alors même que la présence de ces réalisations technologiques dans la société est déjà, et sera de plus en plus, séduisante et inattendue, voire indétectable. Ces défis sont à la hauteur des préoccupations scientifiques et technologiques sous-tendant les études habituelles de l'Office.

Plusieurs rapports d'études ou d'auditions publiques de l'Office ont déjà abordé certains des choix à opérer liés aux robots, portant à la fois sur les sciences et les technologies mais aussi, pour une large part, sur les sciences humaines, dont nous avons le plaisir d'accueillir aujourd'hui d'éminents spécialistes. Leurs propos concerneront aussi bien la psychologie, la sociologie ou encore la médecine et ils nous montreront sans doute que parler de robots ne revient pas forcément à escamoter l'humain mais souvent à approfondir notre connaissance de ses composantes.

À ce moment de notre débat, je souhaiterais attirer brièvement votre attention sur le fait que les robots peuvent entraîner des modifications dans des domaines qui paraissent a priori étrangers à leur technicité. Il en est ainsi du droit : les catégories juridiques comme les qualifications juridiques en seront modifiées car les robots poseront de nouvelles questions relatives aux libertés et aux droits fondamentaux.

Si certaines disciplines directement concernés par la robotique viennent immédiatement à l'esprit, comme les biotechnologies, les nanosciences ou les neurosciences, les interfaces cerveau-ordinateur posent la question de la portée de la libre expression de la volonté par ces canaux, ou encore de la protection de la vie privée, si les pensées deviennent automatiquement lisibles. Face aux prothèses ou aux implants de l'homme reconstruit ou de l'homme augmenté, faudra-t-il inventer un droit à la déconnection et une sorte d'habeas mentem en écho à l'habeas corpus ?

Dans un tel contexte, les questions d'expropriation de son propre corps, des limites de la vie privée, des contours de la dignité humaine, de l'intégrité physique, de l'identité devront être revisitées. En retour, surgira la question de la réversibilité de ces évolutions au nom de la préservation de l'individu et de sa dignité.

Prenons le cas des robots de compagnie souvent évoqués : robots domestiques, émotionnels, sexuels... Seront-ils un jour dotés d'une éthique intégrée, correspondant à leurs domaines respectifs ? Cela entraînera-t-il une forme de responsabilité de leur part en cas d'action ayant causé un dommage à autrui ? Au regard de ce devoir de responsabilité, les robots recevront-ils des droits ? Toutes ces questions éthiques, toujours aussi complexes que passionnantes, ne sauraient être éludées. Le droit et la science doivent dialoguer à ce sujet. La présente audition publique marque la volonté de l'Office d'approfondir ces questions.

Je tiens donc à vous redire que je suis, moi aussi, très heureux de vous accueillir aujourd'hui pour cette audition sur les robots et la loi. La première table ronde nous a permis de mieux comprendre comment les évolutions en cours dans le domaine de la robotique vont contribuer - et contribuent déjà - à une diffusion beaucoup plus large de ces technologies dans la société. Au cours de la deuxième table ronde, nous allons tenter d'approfondir les enjeux éthiques, sociétaux et économiques de cet usage croissant des robots, enjeux qui ont déjà été esquissés par les interventions précédentes.

Ces enjeux sont considérables. Dans le temps limité de cette table ronde nous ne pourrons traiter que d'une partie des changements induits par la présence croissante des robots dans la société. Ces changements iront bien au-delà de l'automatisation de certaines tâches, tout comme au XXe siècle, les révolutions de l'automobile, de l'aviation, des télécommunications, du numérique ont eu des conséquences sur l'organisation sociale, et même sur l'individu, bien plus importantes que la simple accélération.

Même s'il tient de la gageure d'appréhender les conséquences de la robotisation dans leur totalité, l'extension de ce phénomène semble inéluctable. Devant l'impact considérable de cette évolution, le risque d'impacts négatifs, non souhaités comme de rejet par la société - comme cela s'est produit pour d'autres innovations technologiques dans la période récente -, est à prendre en considération. En notant que l'absence de réponse aux impacts négatifs ou un rejet des robots ne préserveraient pas forcément des conséquences du développement de la robotisation. Ils interdiraient simplement d'en devenir des acteurs conscients, à même de maîtriser plutôt que de subir ladite robotisation.

À cet égard, par comparaison, certains pays asiatiques, tels la Corée, le Japon ou même la Chine, voient dans les progrès de la science et de la technologie, en particulier de la robotique, davantage une opportunité pour le développement de leur économie et l'amélioration des conditions de vie qu'un risque.

Ainsi, le Japon, confronté au vieillissement très rapide de sa population, après avoir connu une natalité plus dynamique, considère actuellement le développement de la robotique tout à la fois comme une possibilité de conquête de nouveaux marchés, une façon de compenser l'inéluctable amenuisement de sa population active, y compris dans des emplois de service, et une solution à la dépendance de sa population vieillissante.

Sur un autre plan, des études récentes estiment que la robotisation pourrait avoir des effets considérables en termes d'emploi. Très récemment, une étude de l'institut de recherche japonais Nomura Research Institute, en collaboration avec l'université d'Oxford, conclut que, avant une vingtaine d'années, 49 % des emplois japonais seront remplacés par des robots. Pour les États-Unis d'Amérique, ce taux de remplacement serait de 47 % et pour la Grande-Bretagne de 35 %. Ces chiffres doivent être pris avec beaucoup de précaution, mais ils témoignent d'une foi certaine en l'avenir des robots, à travers leur influence grandissante.

Les métiers les plus pénibles et les plus répétitifs seraient robotisés en premier, tandis que les métiers, manuels ou intellectuels, faisant appel aux qualités spécifiques de l'être humain, comme le discernement, la créativité ou l'initiative, seraient préservés, au moins dans un premier temps. De la sorte, la robotisation peut être perçue tant comme un risque de suppression d'un grand nombre d'emplois, que comme une possibilité d'enrichissement du travail humain.

Il en va de même pour l'ensemble des aspects à évoquer au cours de cette deuxième table ronde, avant d'aborder la troisième et dernière qui traitera de la manière dont cette robotisation pourra être encadrée, de façon à en limiter les effets négatifs et, également, permettre d'en tirer le meilleur bénéfice pour la société.

Je vais d'abord donner la parole à M. Serge Tisseron, docteur en psychologie, qui va évoquer les risques d'atteinte à la vie privée et de robot-dépendance, ainsi que les moyens de les prévenir. Vous avez la parole, monsieur le professeur.

M. Serge Tisseron, psychiatre, docteur en psychologie HDR, chercheur associé au Centre de recherches psychanalyse, médecine et société (CRPMS) à l'université Paris VII Denis Diderot. Je vous remercie d'avoir évoqué toutes ces catégories qui vont changer, comme la liberté ou la vie privée. On pourrait y ajouter des concepts qui changent de sens, comme celui de simulation, plutôt connoté négativement, mais qui semble prendre une valeur plus positive avec le développement de la robotique.

Tout d'abord, je vais revenir sur la notion de robot, même si cela a déjà été évoqué. Un robot est une machine dotée d'un certain nombre d'équivalents de nos organes d'information, d'un programme et d'organes effecteurs. Les robots se classent en deux grandes catégories : la robotique distribuée et la robotique concentrée. La robotique distribuée comprend des machines aux programmes assez simples, comme les robots aspirateurs ou les robots tondeuses, programmées à l'avance et susceptibles d'être interconnectées. En robotique concentrée, les robots disposent de programmes beaucoup plus complexes et surtout de la capacité d'apprendre par renforcement ou par imitation. Ceux réalisés par le professeur Hiroshi Ishiguro, directeur du Intelligent Robotics Laboratory de l'université d'Osaka, en sont un exemple, le Japon s'étant orienté vers la robotique concentrée.

Indépendamment de leur niveau de complexité, l'être humain ne va pas manquer de prêter aux robots des intentions et des émotions. En effet, au cours son histoire, l'humain n'a dû sa survie qu'à sa capacité de prêter des intentions à tout ce qui bouge, qu'il s'agisse d'un animal regardant dans sa direction ou de mouvements dans le feuillage d'un arbre, etc. Nous restons pétris de tout ce que le sociologue Lucien Lévy-Brühl a appelé le stade animiste. Encore aujourd'hui, il nous suffit de voir un robot aspirateur pour être tentés de lui prêter des émotions. Si vous en faites l'acquisition, vous découvrirez que, dans la langue française, il n'existe aucun mot pour désigner les mouvements d'une machine. Pour décrire l'activité du robot aspirateur, vous ne direz pas : « il va à droite puis à gauche », mais : « il cherche », « il trouve », « il hésite » et enfin « quand il a fini son travail, il va se recharger ». Vous en parlerez comme s'il avait des intentions. Il n'est donc pas surprenant que dans les maisons de retraite où sont installés des robots Nao, les vieilles dames leur tricotent des vêtements, ou que de nombreuses personnes donnent un prénom à leurs machines autonomes domestiques. Dans certaines expérimentations, des dames veuves ont même donné au robot Romeo le prénom de leur époux décédé.

Cette tendance marquée à prêter des émotions et des intentions aux robots va s'aggraver avec l'empathie artificielle, c'est-à-dire la capacité d'un robot à déchiffrer nos intentions et nos émotions. Les robots Nao en sont déjà capables. Certains robots pourront également répondre avec des intonations et avec des mimiques adaptées. Des travaux sont menés, notamment au Japon, pour démontrer l'importance des mimiques dans les interactions avec les robots. Cette empathie artificielle va évidemment poser un certain nombre de problèmes, face auxquels une première réaction envisageable consiste à considérer qu'il s'agit d'une question de subjectivité, certains ayant plus tendance que d'autres à prêter des émotions aux machines.

Mais à force de prêter des émotions aux robots, on risque de leur prêter aussi des sensations, notamment douloureuses. Ainsi, dans l'armée américaine, les soldats utilisant des robots démineurs dépriment gravement quand ceux-ci sont endommagés. Certains soldats leur rendent même les honneurs militaires quand ils ne peuvent plus être réparés. De fait, même pour des machines aussi primitives que des robots démineurs, la tentation est grande de penser qu'ils peuvent souffrir. On voit tout de suite le danger qu'il y aurait à ce qu'une personne âgée puisse penser que son robot peut souffrir puisqu'elle pourrait se mettre elle-même en danger pour lui venir en aide.

Il faut comprendre que prêter des émotions et des sensations est dangereux. Malheureusement, beaucoup de vendeurs de robots jouent au contraire sur cette ambiguïté, en prétendant vendre des robots dotés d'émotions, ou « emorobots ». « Voici un robot qui a du coeur » est ainsi le slogan utilisé par Softbank pour vendre les robots Pipers. Le logo de Robotcare représente un robot avec un magnifique coeur rouge. Il faudrait réfléchir au danger des publicités mensongères et veiller à ce qu'existe toujours un rappel du fait que, au moins pour les vingt à trente prochaines années, les robots resteront des machines à simuler. À défaut, il existera un risque d'idéalisation puis de diabolisation des robots que les gens finiront par rejeter parce qu'ils auront le sentiment d'avoir été trompés.

Un deuxième risque, mentionné dans l'intitulé de mon intervention, concerne la transmission, inévitable, de données personnelles aux fabricants des robots. Pour pouvoir faire évoluer leurs robots, réparer leurs bugs, s'informer sur leur fonctionnement, les fabricants vont devoir accéder à nos données. Un travail important doit donc être entrepris pour déterminer ce que deviendront nos données.

Par ailleurs, je voudrais aussi souligner la nécessité de prévoir que le bouton de déconnexion d'un robot soit visible et accessible. Aujourd'hui, ce bouton est systématiquement placé juste derrière la nuque, comme dans la série Real Humans. Aussi, pour une personne handicapée, en fauteuil roulant ou dans un lit, il est difficile de déconnecter son robot. Pourtant, ce droit devrait être reconnu. De même, il faudrait que l'utilisateur soit informé de l'état de connexion ou de déconnexion du robot, par exemple par la couleur de ses yeux. Enfin, il conviendrait de veiller à ce que les programmes de débranchement des robots ne soient pas sur-dramatisés. Actuellement, lorsqu'un robot Piper est débranché, sa tête tombe sur sa poitrine. Il devient tout mou, ce qui donne l'impression d'une crise cardiaque. Une personne âgée qui débranche son robot Piper le soir, avant d'aller faire sa toilette et de mettre sa chemise de nuit, ne répétera pas l'opération, car elle aura l'impression d'assister à sa propre mort.

Enfin, un troisième risque porte sur la façon dont les robots vont changer l'humain. Tout comme le téléphone mobile nous a rendu beaucoup moins tolérants à l'attente, on peut craindre que le développement de robots « Nutella », c'est-à-dire des robots conçus, à des fins commerciales, pour nous faire plaisir, nous conduise, notamment les personnes âgées, à préférer leur compagnie à celle des humains, puisque nous risquons de les trouver plus accommodants et sympathiques, dans la mesure où ils nous parlerons toujours de nous et jamais d'eux.

Une dernière question consiste à savoir si le robot sera un substitut d'humain ou s'il sera un médiateur avec d'autres humains. Heureusement, des études ont montré que si un enfant seul avec un robot Nao ou un ordinateur travaille un peu mieux, deux enfants avec un robot Nao travaillent nettement mieux. Il faut donc concevoir des robots qui soient des médiateurs et non des substituts. Cela aura un impact important sur les programmes, puisqu'on peut en imaginer deux grands types : d'une part des « robots-télés » qui proposent toutes les applications souhaitées pour s'occuper en solitaire, et, d'autre part, des robots qui favorisent les liens et la communication entre les personnes.

Pour terminer, je voudrais insister sur l'importance de l'éducation, déjà soulignée, notamment pour ce qui concerne l'apprentissage précoce des langages de programmation et la possibilité de construire des robots. Pour résumer, le problème avec les robots ce n'est pas ce qu'on peut en faire mais ce qu'on veut en faire.

M. Bruno Sido. C'est à présent M. Geoffrey Delcroix, chargé des études prospectives à la Commission nationale informatique et liberté (CNIL), qui va évoquer les implications sur la captation de données personnelles et sur les libertés individuelles de la diffusion dans la société des robots, et, plus largement, des objets dits « connectés ».

M. Geoffrey Delcroix, chargé des études prospectives au pôle de l'innovation, des études et de la prospective de la Commission nationale de l'informatique et des libertés (CNIL). Je vous remercie d'avoir convié la CNIL à participer à cette audition. Vous êtes peut-être étonnés de me voir intervenir dans cette table ronde, plutôt que dans la suivante. Cela correspond à un choix délibéré de s'inscrire dans une logique d'exploration prospective des enjeux sociétaux et des usages, et non uniquement de doctrine. Il est vrai que nous avons aussi besoin d'avoir beaucoup d'échanges avec les experts dans ce domaine. La CNIL a beaucoup travaillé avec la CERNA et l'INRIA, et a aussi eu bon nombre d'échanges avec le Centre de recherche des écoles de Saint-Cyr Coëtquidan (CREC).

En vous paraphrasant, monsieur le président, la CNIL essaye aussi, avec sa mission d'innovation et de prospective, d'avoir un rôle d'artisan de la fabrique de la régulation, en amont de sa consolidation. L'objectif de notre présence aujourd'hui est de proposer quelques éléments de réflexion éthique et juridique, en amont des questions très précises de conformité à la loi.

Il existera un certains effet d'écho dans ce que je vais dire, plusieurs des interventions précédentes ayant abordé les sujets liés aux données personnelles et à la vie privée dans les marchés et usages principaux de la robotique : l'intimité au domicile, avec le robot compagnon évoqué par M. Serge Tisseron, les données de santé dans le contexte médical ou encore la surveillance dans le domaine de la sécurité. Il faudrait y ajouter les applications dans le commerce et la distribution, rarement mentionnées, mais qui pourraient se concrétiser assez rapidement à des fins de marketing ou de ciblage, d'autant que des expérimentations ont déjà été engagées. Pour nous, ces enjeux de respect de la vie privée et de protection des personnes, liés aux usages des données qui les concernent, sont essentiels, même si d'autres sujets juridiques et éthiques peuvent paraître a priori beaucoup plus importants, comme les dommages aux personnes ou les questions de responsabilité.

Mon propos se focalisera, d'une part, sur la possibilité d'assimiler les robots aux objets connectés, et, d'autre part, sur quelques éléments d'éthique spécifiques à la robotique. Sur le premier point, l'autonomie reposant sur ces intrants que sont les données, un objet de plus en plus autonome est de plus en plus dépendant de la collecte et du traitement des données. Ce qui est commun aux objets connectés dans la maison, sur le corps, aux drones, aux voitures connectées, c'est qu'on rend intelligents des objets qui ne le sont pas initialement, en utilisant des capteurs, de la puissance de calcul et de la communication réseau.

Cette captation permanente de l'information dans notre environnement, si elle n'est pas qu'une menace ou un risque, pose un certain nombre d'interrogations qui nous ont conduit à publier, en 2014, un cahier « Innovation et prospective » intitulé, de façon quelque peu provoquante : « Le corps, nouvel objet connecté ». Par rapport aux fichiers traditionnels, le risque induit par cette intensité de captation ne porte pas tant sur l'enregistrement direct de données sensibles, par exemple médicales, que sur l'accumulation, dans la durée, de données a priori anodines, comme le nombre de pas effectués ou les cycles du sommeil, mais sur la base desquelles, par inférence, il serait possible de parvenir à des déductions plus sensibles. Par exemple, avec l'évolution du poids sur une longue période, il serait possible d'essayer de prédire certains risques de santé, ce qui n'a rien d'anodin. En la matière, la prochaine étape consistera à gommer les interactions avec ces technologies, afin d'éviter les notifications incessantes, en ajoutant de l'intelligence, une capacité de décision et d'action. Dès lors, les objets connectés se rapprocheront énormément de la définition du robot donnée par M. Raja Chatila.

Dans la phase qui nous sépare de la présence permanente de robots autour de nous, un nombre toujours croissant de données vont être collecté. Aussi, la CNIL est-elle amenée à étudier dès aujourd'hui ces sujets, par exemple avec les drones, initialement assimilables, en termes de captation de données, à des téléphones intelligents (smartphones) volants mais qui sont de plus en plus dotés de capacités telles que l'évitement d'obstacles ou le suivi de personnes et deviennent, de plus en plus assimilables à des robots. Comme indiqué précédemment, la voiture connaît la même évolution. De ce fait, pour la CNIL, penser la gouvernance des données collectées et traitées par ces objets autonomes, en intégrant la protection de la vie privée dès la conception (privacy by design), doit constituer un impératif, comme préconisé par le rapport de la CERNA. En particulier, il conviendrait de faciliter le contrôle de l'usage des données, par la société, par le régulateur et aussi par l'utilisateur.

Un autre sujet prospectif, également mentionné dans le rapport de la CERNA, concerne le problème de confiance résultant de l'interaction affective et sociale entre humains et robots. À cet égard, je me méfie quelque peu de la notion d'acceptation sociale, qui donne le sentiment qu'une fois les technologies développées, il faut obligatoirement faire le nécessaire pour que les individus les acceptent. Comme l'a expliqué M. Serge Tisseron, il suffira, pour qu'il soit accepté socialement, de donner au robot un air affable ce qui, en termes de création de la confiance, n'est sans doute pas optimal. Il existe un véritable risque de manipulation émotionnelle des personnes. De même, la logique de sur-dramatisation du débranchement pourrait inspirer une sur-dramatisation de l'arrêt de la collecte de données. Aussi, apparaît-il souhaitable de réinventer le consentement en matière de robotique afin de trouver une solution plus adéquate que celles existantes. Rien ne serait plus triste qu'un robot demandant, comme c'est le cas aujourd'hui pour les sites Internet, d'accepter cinquante pages de conditions générales d'utilisation, en appuyant sur un bouton.

Un dernier sujet prospectif, porte sur l'autonomie décisionnelle. Pour nous, il n'est pas nécessairement utile de distinguer entre robots mécaniques et robots logiciels. D'ores et déjà, se pose la question de la régulation de la prise de décision, plus ou moins automatisée, par des systèmes décisionnels à base de mégadonnées (Big Data) et d'algorithmes. Il nous apparaît essentiel, au-delà d'une simple question d'objectivité des données et de magie des algorithmes, de réfléchir à la façon de rendre ces processus de décision transparents, afin d'éviter qu'ils ne soient discriminatoires. Ce sujet renvoie à la loi du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, dont l'article 10 précise qu'une « décision produisant des effets juridiques à l'égard d'une personne ne peut être prise sur le seul fondement d'un traitement automatisé de données ». Je crois que c'est un beau sujet à développer pour l'avenir.

Pour conclure, cette question des robots pose un problème de perception similaire à celui des drones, avec, d'un côté, le jouet et, de l'autre, les armes, alors que, à notre sens, ce sont les applications entre ces deux extrêmes qui vont être importantes dans les années à venir.

M. Bruno Sido. Je vous remercie pour cet exposé très complet qui montre que la CNIL a déjà très sérieusement réfléchi sur ce sujet. C'est à présent M. Renaud Champion, directeur d'euRobotics, association européenne tournée vers le développement de la robotique, et représentant du groupe Syrobo au sein du Syndicat des machines et technologies de production (Symop), qui va traiter de l'impact sociétal de la robotique et des opportunités économiques associées.

M. Renaud Champion, directeur d'euRobotics, représentant du groupe Syrobo du Symop. Force est de constater que la robotique a considérablement évolué au cours des vingt-cinq dernières années, tant du point de vue applicatif que technologique. Alors que la révolution digitale transformait nos méthodes de communication et nos façons d'interagir, les robots sont, assez discrètement, passés d'un statut d'automates préprogrammés à celui de systèmes complexes, connectés et plus ou moins autonomes.

Comme indiqué précédemment, les récentes avancées dans le logiciel, via les logiciels libres (dits Open Source), l'intelligence des capteurs - simultanément à la réduction de leur coût -, mais aussi la gestion de l'énergie, ont permis de disposer de systèmes de plus en plus aptes à répondre à de nouvelles applications et à se développer dans de nouvelles niches. Qui plus est, en tant que pont entre les services et l'industrie, la robotique a permis de créer de nouveaux modèles de marché ou d'affaires (business models). Au cours de la décennie à venir, la robotique avancée devrait accentuer considérablement cette évolution, en passant d'une innovation technologique de niche à un bien courant, grand public, tant dans les domaines professionnels que personnels.

Évidemment, ce développement aura d'importants impacts socio-économiques que j'aimerais détailler suivant trois axes : l'occasion unique que représente la robotique pour répondre à des enjeux sociétaux cruciaux, l'opportunité économique qui pourrait en découler, et, la façon dont ces deux aspects, sociétal et économique, combinés, peuvent influer positivement sur le discours social.

Les économies développées, dont celle de la France, font aujourd'hui face à au moins quatre enjeux sociétaux majeurs : le vieillissement de la population et les questions de santé, les changements climatiques, la production durable et, enfin, la sécurité, tant alimentaire que celle des biens et des personnes. Face à chacun de ces enjeux, la robotique joue d'ores et déjà un rôle.

Prenons quelques exemples. En premier lieu, dans le monde industriel, la nouvelle robotique collaborative permet de produire davantage, mieux, et plus durablement mais surtout de redonner sa place à l'homme, en redéfinissant sa valeur ajoutée par rapport à celle de la machine et en rapatriant les activités de production.

En deuxième lieu, dans le domaine médical, les systèmes d'aide à la personne, à l'hôpital ou à domicile, permettent de mieux accompagner les patients dans leur parcours de santé, ou d'assister des personnes dépendantes, comme l'a montré M. Jean-Pierre Merlet, qui peuvent, de ce fait, continuer à vivre sereinement à leur domicile, sans se couper de leur milieu affectif, donc en préservant le lien social.

En troisième lieu, le transport électrique autonome, déjà évoqué, public dans un premier temps mais qui pourrait dès 2017 devenir personnel, permet non seulement de redéfinir la notion de mobilité mais aussi de réfléchir à une ville connectée, à l'urbanisme fluidifié, moins consommatrice d'énergie fossile.

En dernier lieu, pour la sécurité qui nous concerne tous, l'usage réglementé de drones ou des plateformes mobiles à des fins de sécurité civile, dans les opérations de secours post-catastrophe, ou bien de prévention de risques de malveillance, dans des domaines stratégiques ou d'aide au développement d'une production agricole sécurisée et saine, a commencé à changer la donne.

Il faut bien comprendre que la robotique vise à créer des produits opérant dans le monde réel, afin de résoudre des problèmes concrets, en collaboration avec l'homme, non des systèmes destinés à faire plaisir, comme l'indiquait M. Serge Tisseron. Actuellement, circulent différentes estimations de l'impact économique de la robotique. Ainsi, la Commission européenne estime le marché global de la robotique à environ 15,5 milliards d'euros, l'Office britannique du commerce et de l'investissement évalue, pour sa part, ce chiffre à près de 25 milliards de dollars ; toujours en Angleterre, l'Agence aérospatiale mentionne un montant de 265 milliards de pounds et, enfin, une étude de McKinsey annonce que l'impact global de la robotique avancée pourrait s'élever, avant 2025, à 4,5 trillions de dollars. Au passage, il apparaît que la prédiction économique n'est pas une science exacte. Quoi qu'il en soit, ces chiffres sont suffisamment conséquents pour s'interroger sur la façon dont la France pourrait bénéficier de ce marché.

Bien évidemment, cela dépendra avant tout de nos laboratoires de recherche, qui savent inventer de nouvelles technologies de qualité, et de l'engagement de nos entrepreneurs, qui transforment ces technologies en produits innovants sur de nouveaux marchés. Mais, de toute évidence, le cadre législatif peut également y contribuer. Tout d'abord, il faut continuer à financer l'effort de recherche, via l'Agence nationale de recherche, en limitant, dans la mesure du possible, la réduction des budgets publics.

Surtout, il faut faciliter la participation aux projets de recherche européens. Aujourd'hui, nos laboratoires y prennent part, mais c'est administrativement très lourd. Comment peut-on les aider ? Ensuite, il faudrait impliquer les industriels utilisateurs finaux potentiels de ces technologies, au travers des défis, afin d'ouvrir des marchés mais aussi de valider les technologies développées en laboratoire. Par ailleurs, il faut maintenir le Crédit impôt recherche (CIR), mais aussi réfléchir aux suites du statut de jeune entreprise innovante (JEI). En effet, il convient non seulement de créer des start-ups, mais aussi de s'assurer de leur pérennité, notamment en robotique, où il faut plusieurs années pour développer un produit ou pour valider une recherche. Après huit ans, le statut de JEI pouvant être retiré du jour au lendemain, cela peut constituer une difficulté. Enfin, il conviendrait de favoriser l'implication des grands groupes industriels français dans le rachat de start-ups, notamment grâce à un cadre fiscal et social assoupli, afin d'éviter que Google et Facebook soient aujourd'hui systématiquement vus comme les contreparties les plus recherchées. Les idées ne manquent pas. Une action législative peut-être bénéfique mais il faut veiller à ne pas à légiférer trop tôt, au risque de casser l'innovation.

En conclusion, j'aimerais insister sur un troisième point qui pourrait se résumer de la manière suivante : le bon accompagnement de l'innovation dans des domaines à fort impact sociétal peut non seulement conduire à une croissance durable mais aussi positivement redistribuer les cartes du discours social, si le changement de paradigme qui en résulte est préparé sereinement, et non subi dans la crainte. Des emplois vont disparaître mais combien de nouveaux vont émerger pour lesquels nous devrons être formés ?

Cette évolution n'est pas propre à la robotique. Les études menées au Massachusetts Institute of Technology par MM. Erik Brynjolfsson et Andrew McAfee, ont montré que, chaque fois qu'un choc technologique se présente, de nouveaux métiers sont menacés et de nouveaux sont créés. Cela a été le cas avec la disparition du métier à tisser, malgré la vive opposition des luddites, tout comme avec l'apparition de la voiture automobile, qui a provoqué le mécontentement des cochers. La transition d'un modèle économique vers un autre est une opportunité. Je suis convaincu que mes enfants travailleront dans vingt ans dans des domaines qui me sont aujourd'hui parfaitement inconnus.

Un auteur tel que M. Bernard Stiegler va même plus loin, en prédisant que l'automatisation généralisée marquera la fin de l'emploi. Pour lui, il est donc maintenant nécessaire de réinventer la notion de travail. Pour cela, il faut non seulement écouter les philosophes mais aussi des économistes tels que M. Martin Gouss, de l'université de Louvain, et les éducateurs afin de préparer les générations futures et de reformer les actifs. Enfin, il convient de s'interroger sur la question de la redistribution des gains de productivité, que la robotique ne manquera pas de poser, si nous lui en laissons l'opportunité.

M. Bruno Sido. Je remercie M. Renaud Champion pour son exposé. Il va d'ailleurs, à nouveau, intervenir dans le cadre de la troisième table ronde, sur les questions juridiques. À présent, je donne la parole à M. Christophe Leroux, chercheur et chargé des affaires européennes en robotique pour le CEA, qui va évoquer les premiers résultats d'un programme de recherche européen sur les impacts de la diffusion de ces technologies.

M. Christophe Leroux, chargé des affaires européennes en robotique pour le CEA. Avant de parler de robotique et d'emploi, je vais résumer les actions entreprises au sein des projets dans lesquels je suis impliqué pour le compte de la Commission européenne.

Dans le cadre du partenariat public-privé SPARC, programme dans lequel s'inscrit la recherche robotique européenne, l'un des objectifs consiste à identifier des freins éthiques, légaux et sociétaux au développement de la robotique européenne, au stade de la recherche ou de l'innovation, en regard des enjeux industriels identifiés au sein de programmes tels que High for MS, Industrie 4.0 en Allemagne, ou la Nouvelle France industrielle, ou de ceux, mentionnés par M. Renaud Champion, en matière de santé, de vieillissement de la population, de transport autonome et d'agriculture. Il s'agit d'anticiper les problèmes pour pouvoir cadrer davantage la recherche et stimuler l'activité des parties prenantes. À cette fin, nous sommes en contact avec différents spécialistes de ces questions en Europe, par exemple, pour les questions éthiques avec des philosophes, pour les aspects légaux, avec des juristes en Italie, en Hollande et en Allemagne ou encore, pour les impacts socio-économiques, avec des personnes en charge des questions d'emploi en robotique.

Sur le plan méthodologique, une première approche consistait à partir des cas d'usages pour déterminer les questions pouvant se poser en termes éthique, juridique, d'impact sur l'emploi, d'acceptabilité ou d'utilité sociale. Cette approche a été rapidement abandonnée parce qu'elle manquait de généricité. De ce fait, nous sommes plutôt partis des concepts de droit, d'éthique et d'économie afin d'identifier, pour chaque domaine et chaque type d'application, s'il existait réellement des questions spécifiques à la robotique, ne pouvant être prises en compte dans un cadre plus général. Une première conclusion a été qu'il n'y a pas énormément de questions éthiques, légales, et sociétales spécifiques à la robotique. Aussi, apparaissait-il probablement plus intéressant de s'inscrire dans le cadre plus général des systèmes autonomes, pour lequel les études poussées déjà réalisées couvrent la plupart des problèmes posés par la robotique, par exemple en matière de protection de la vie privée.

S'agissant de l'aspect juridique, nous avons décliné les problèmes selon les différents domaines du droit : le droit de la propriété intellectuelle - à qui appartient-elle lorsque l'invention résulte de l'action d'une machine ? -, le droit du travail, le droit de la responsabilité contractuelle, le droit criminel et, en particulier, la responsabilité non contractuelle liée à l'utilisation de la robotique autonome. Pour les aspects éthiques, nous avons focalisé notre étude sur les questions de dignité, de liberté et d'équité, en particulier sur les besoins en termes d'évolution de la réglementation. Les réponses à ces questions ne sont pas toujours très claires. Elles ont été synthétisées dans un document publié en 2012 : le Green Paper on Legal Issues in Robotics.

Actuellement, nous étudions les différences entre les réglementations existant en Europe, mais aussi aux Etats-Unis d'Amérique, dans différents domaines, en se focalisant sur l'industrie, la santé, les transports et les drones, afin d'identifier les problèmes susceptibles de résulter de ces disparités.

Par ailleurs, plusieurs études ont été conduites sur l'impact de la robotique sur l'emploi, notamment par la Fédération internationale de robotique et, très récemment, en octobre 2015, par un institut Fraunhofer, pour le compte de la Commission européenne. Ces études, encore partielles, nécessitent d'être complétées. Ce travail va se poursuivre.

Les autres pistes que nous suggérons pour avancer sur cette question sont : la formation, la sensibilisation des chercheurs et techniciens en robotique, et, en particulier, la conception de guides pratiques, pour permettre à tout un chacun de comprendre l'importance de ces questions éthiques et leur caractère concret. Les autres pistes concernent les questions relatives à l'homogénéisation des réglementations en Europe, à la personnalité électronique des robots, à l'utilisation d'une boîte noire permettant de rechercher la responsabilité non contractuelle. De façon générale, l'objectif consiste à clarifier ces interrogations pour éviter une stigmatisation de la robotique, parmi les nouvelles technologies numériques.

M. Bruno Sido. Merci, monsieur Leroux. Je pense que nous avons déjà passé en revue un certain nombre d'enjeux généraux de la robotique. Nous allons à présent, si vous le voulez-bien, nous pencher sur un domaine dans lequel la robotique a, d'ores et déjà, conduit à des changements importants et même à des succès : celui de la chirurgie. C'est le professeur Jacques Hubert, coordinateur du diplôme interuniversitaire (DIU) de chirurgie robotique, qui va s'attacher à montrer les changements induits par cette évolution et leurs conséquences.

Pr Jacques Hubert, coordinateur du diplôme interuniversitaire (DIU) de chirurgie robotique, chef de service d'urologie, IADI-UL-INSERM (U947) - CHU de Nancy. Je vais m'appuyer sur des diapositives et deux courtes séquences vidéo pour essayer d'expliquer pourquoi l'introduction de la chirurgie robotique représente, à mon sens, une nouvelle étape dans l'évolution de la chirurgie. Je ne sais pas comment la chirurgie robotique évoluera dans les vingt prochaines années mais j'ai eu la chance de suivre son évolution sur les dernières années.

Il faut d'abord rappeler que le mot « robot » vient du tchèque « robota », apparu pour la première fois en 1921 dans la pièce de théâtre de Karel Capek: « Rossum's Universal Robots (RUR) ». Ce mot signifiant « travail », le robot est censé soulager l'homme de certaines tâches pénibles.

Les premières interventions chirurgicales d'urologie ont été pratiquées au XVe siècle sur le calcul de la vessie. Elles étaient, bien entendu, réalisées à vif, avec l'aide d'assistants choisis pour leur musculature afin de tenir le patient sur la table d'opération. Au XVIIIe siècle, le compositeur Marin Marais a écrit une pièce musicale à ce sujet, décrivant un peu l'état d'esprit du futur opéré : « Le tableau de l'opération de la taille ». Il s'agit d'un exemple unique d'intervention mise en musique. La chirurgie ouverte a connu, par la suite, des progrès significatifs. Elle continue à être pratiquée régulièrement. Mais le chirurgien se tient toujours au-dessus du patient, les mains dans la plaie opératoire.

L'étape suivante, la coeliochirurgie, ou chirurgie « par les petits trous de serrure », a été mise en oeuvre pour la première fois en 1987, par un Français d'origine lyonnaise, M. Philippe Mouret, si bien qu'elle a été considérée par les Américains comme une nouvelle révolution française.

S'agissant de la chirurgie robotique, il convient de souligner que le robot chirurgical est, en fait, un télémanipulateur, non un robot tel que défini précédemment. Il permet au chirurgien d'optimiser son geste mais c'est toujours lui qui manipule les manettes et l'interface informatique.

Dans la salle d'opération, lorsque le robot est en action, le chirurgien se tient à la console, les yeux plongés dans un système binoculaire qui lui donne une vision en trois dimensions. Il dispose, au niveau des mains, de manettes lui permettant de commander à distance les instruments et les outils endocorporels et, à ses pieds, de différentes pédales de commande. Le chirurgien est très dépendant de son équipe, en général un assistant et une infirmière de bloc opératoire. Les mouvements du robot sont assez spectaculaires à l'extérieur, mais se traduisent par des mouvements millimétriques au contact des organes dans le corps, ce qui permet une précision extrême, en tout cas inconnue en coeliochirurgie, a fortiori en chirurgie ouverte.

Pour le chirurgien, l'apport du robot est considérable : une vision tridimensionnelle, des articulations endocorporelles permettant de récupérer la liberté de mouvement des membres supérieurs, l'absence d'effet pivot, la suppression du tremblement physiologique, la démultiplication : un mouvement de cinq centimètres à la console se traduit par un mouvement d'un centimètre en mode corporel, ou encore l'ergonomie : le chirurgien restant assis, il n'a plus peur d'opérer durant quatre ou cinq heures, alors que, en position debout, avec les bras soulevés, c'est assez difficile. Certains apports de la chirurgie robotique sont invisibles, notamment l'habileté récupérée par le chirurgien dans ses gestes et la possibilité de transmettre son expérience beaucoup plus facilement. Les autres avantages sont ceux de la coeliochirurgie.

À ce jour, il n'existe qu'un seul fabriquant de robots chirurgicaux. Initialement, ils étaient deux : Computer Motion et Intuitive Surgical. Ce dernier, situé à Sunnyvale en Californie, a racheté le premier, puis arrêté la commercialisation de ses produits. La gamme actuelle comprend un modèle comportant quatre bras, un autre avec deux consoles et deux variantes du Da Vinci Xi, d'un prix de deux millions d'euros. Comme mentionné tout à l'heure, ce prix est probablement moins lié au coût de fabrication du robot qu'à son domaine d'application.

Il est également important de noter l'évolution des indications : à la chirurgie urologique, pionnière en la matière, s'est ajoutée la chirurgie gynécologique - actuellement aux États-Unis d'Amérique, et sans doute demain en Europe, elle représente plus d'interventions que l'urologie -, puis les chirurgies digestive et thoracique, enfin une spécialité inattendue, la chirurgie ORL endo-buccale, par la bouche, pour traiter des cancers de l'arrière gorge.

Lorsque nous avons eu la chance d'acquérir notre premier robot, en 2000, il n'en existait que quinze en Europe et le même nombre aux États-Unis d'Amérique. Actuellement, ils sont plus de deux-mille-trois-cents aux États-Unis d'Amérique et à peu près quatre-vingt-dix en France, répartis sur tout le territoire. Tous les CHU n'en sont pas équipés, alors que certains gros établissements privés et des établissements à but non lucratif en disposent.

Se pose ensuite le problème de la formation sur lequel nous reviendrons au cours de la troisième table ronde. Bien que cette chirurgie semble très facile, les instruments reproduisant fidèlement les mouvements des mains du chirurgien, elle comporte une courbe d'apprentissage. Le chirurgien ayant la tête plongée dans le dans la console, il ne voit pas ce qui se passe autour de lui. 80 % des informations circulant habituellement par voie visuelle disparaissent, seule la voie auditive étant utilisée. L'utilisation des manettes et des pédales ainsi que la position des bras ne sont pas intuitives.

Quoi qu'en dise le fabriquant, il faut un apprentissage, de la même façon que pour le permis de conduire il faut apprendre comment changer de vitesse, actionner les essuie-glaces, etc. Les études réalisées montrent que les vingt à trente premières opérations posent problème, puisqu'elles durent de deux à cinq fois plus longtemps que les interventions réalisées après quarante ou cinquante opérations. Par conséquent, une véritable question éthique est posée, peut-être aussi un problème juridique. Aussi la formation en robotique chirurgicale mérite-t-elle d'être améliorée.

M. Bruno Sido. Je vous remercie, monsieur le professeur, pour cet exposé qui a montré les progrès que nous pouvons espérer de la robotique en médecine. Vous interviendrez aussi dans le cadre du débat de la troisième table ronde, pour évoquer les implications juridiques de ces développements.

Nous allons à présent conclure cette table ronde en abordant un autre aspect important de la robotique : la disparition des frontières entre l'homme et la machine. Contrairement à ce que l'on pourrait penser, c'est un sujet qui nous concerne tous, dès aujourd'hui. Il touche les personnes équipées d'un stimulateur cardiaque (pacemaker) mais aussi celles et elles sont nombreuses, de plus en plus dépendantes de cet appendice de l'humain qu'est devenu le téléphone portable, la tablette, l'ordinateur en général, auxquels nous confions une part de plus en plus importante de nos informations les plus sensibles, et par lesquels nous passons pour communiquer avec nos semblables et avec d'autres machines.

Celui qui va nous en parler, M. Nicolas Huchet, a été directement confronté à ce sujet dans sa vie personnelle. Il a décidé d'agir pour qu'un nombre croissant de personnes puissent bénéficier de la robotisation. Ses travaux lui ont valu un prix de la revue du Massachusetts Institute of Technology. Il va donc évoquer cette problématique des relations de l'homme et du robot. Par la même occasion, M. Hugues Aubin, chargé de mission TIC, va dire quelques mots du cadre qui a permis la réalisation de ses travaux, c'est-à-dire celui des Fab Lab qu'il a mis en place à Rennes.

M. Nicolas Huchet, président de Bionico Hand, lauréat du prix Innovators Under 35 France, MIT Technoly Review. Le sujet que je vais aborder concerne la fusion de l'homme et de la machine, que nous pourrions appeler « cyborg » ou encore « humain modifié ». J'ai séparé ce concept en deux catégories : l'homme réparé et l'homme augmenté, ayant en commun les questions éthiques. Dans la catégorie « homme réparé », j'ai placé les personnes souffrant de limitations physiques : les porteurs de lunettes, de prothèse auditive, de stimulateur cardiaque, etc. Dans mon cas il s'agit d'une prothèse de main. Évidemment, on pense d'abord aux avancées de la technologie qui permettent de concevoir des prothèses beaucoup plus performantes. C'est effectivement le cas pour les prothèses de membres supérieurs.

Mais la priorité pour les personnes concernées n'est pas de disposer d'énormément de fonction mais d'une prothèse esthétique, afin de l'accepter plus facilement. La plupart des personnes handicapées disposant de prothèses ne se considèrent pas comme des cyborgs, mais tout simplement comme des humains qui ont envie de retrouver une vie normale. L'esthétique est donc très importante, en général plus que la performance. Alors pourquoi la priorité est-elle donnée à cette dernière ? Sans doute parce que ce sont des ingénieurs qui travaillent sur ces questions d'évolution technologique, et ils oublient parfois le côté artistique des choses.

Une deuxième chose importante est l'interface homme-machine. Il y a quelques années, certaines lunettes pouvaient être très désagréables à porter et faisaient mal derrière les oreilles. En ce qui concerne les prothèses, le problème est identique. Le confort est la deuxième chose la plus importante après l'esthétique, encore une fois plus importante que la performance. L'ensemble de ces caractéristiques va permettre à la personne d'accepter son handicap, lié à une limitation physique, et de le compenser.

Dans la deuxième catégorie, celle de l'homme augmenté, se trouvent, par exemple, les exosquelettes surpuissants, permettant de développer des facultés physiques pour soulever des charges, courir plus vite, disposer d'un troisième bras, respirer sous l'eau, voir la nuit, etc. On aborde là la question du transhumanisme. Que se passerait-il si, demain, porter une prothèse apparaissait, au final, plus intéressant que d'avoir un vrai bras ou si un stimulateur cardiaque permettait de vivre plus longtemps ? En réalité, nous sommes déjà des humains augmentés, puisque nous disposons de montres, de lunettes, de téléphones intelligents, etc. qui nous permettent de faire plus de choses, par exemple en gagnant du temps libre.

J'en viens à la question de l'éthique. N'ayant pas de réponse toute faite, je me suis demandé ce qu'un homme préhistorique penserait de notre état actuel. Peut-être dirait-il que l'homme issu des éléments et de l'univers est aujourd'hui plus à l'écoute des notifications de ses objets connectés que des signaux que lui envoie la nature. En ce qui concerne l'éthique, nous nous posons des questions par rapport à la situation d'aujourd'hui. Mais il faut voir beaucoup plus loin, par exemple la fusion de la biologie et de la robotique pourraient permettre de fabriquer demain des os plus performants.

En conclusion, je pense qu'il ne faut pas se fixer de limite et ne pas avoir peur mais, au contraire, être très optimiste au sujet de la robotisation. Si on avait imaginé, il y a trente ans, que des ordinateurs permettraient à des organisations extrémistes de faire de la propagande, nous en serions restés aux machines à écrire. Les robots doivent servir de médiateurs. Le grand danger de la robotique est, bien sûr, la manipulation émotionnelle. Je passe la parole à M. Hughes Aubin.

M. Hugues Aubin, chargé de mission TIC, ville de Rennes. Je suis venu pour vous donner un exemple de démarche d'innovation ouverte puisque M. Nicolas Huchet a créé une prothèse de main bionique sans brevet, donc Open Source et reproductible. Depuis, un certain nombre ont été construites. Certes, elles fonctionnent moins bien que celles fabriquées par l'industrie mais tout le monde peut les construire et s'en servir.

Une première chose importante, c'est que tout ce que nous faisons en matière de Living Lab, d'innovation ouverte, de terrain et d'éducation populaire, croisés avec la technologie, le social, l'esthétique et les non spécialistes, est possible très simplement avec du temps, à condition d'ouvrir des lieux pour pratiquer la socialisation autour de métaphores tangibles, dans un écosystème simple : le « Lego ». Il ne s'agit pas de la marque mais d'une logique dans laquelle des caractères permettent de construire des mots. Ces caractères, pour nous, ce sont des capteurs, traitements, sortis en essaim qui peuvent être codés à loisir.

Aujourd'hui, avec ces outils, les gens font de l'agronomie sans brevet, des voitures sans brevets, des microsatellites sans brevets, des distributeurs de croquettes programmables sans brevets, des blagues, sans brevet, etc. Tout cela circule dans une nouvelle économie, dont, à mon grand dam, la France tient fort peu compte dans son évaluation de l'innovation, tant sociale que technologique, puisque cette évaluation est fondée sur un cumul des licences de brevets déposées par tous les instituts avec lesquels nous travaillons.

À côté du Fab Lab, nous avons ouvert, avec Telecom Bretagne, un MOOC gratuit, dénommé MOOC FAB, pour huit cents personnes de Bretagne, car la documentation technique de ces bases alphabétiques était en anglais alors que nous nous adressions à des Français. À notre grande surprise, nous avons aujourd'hui vingt-deux-mille inscrits, dont seulement un peu plus d'une moitié de Français. Je pense que le croisement d'expérience comme celle de Nicolas Huchet, nos expériences de terrain, et d'autres en France, mériteraient un peu plus d'attention, voire même de facilitation.

M. Bruno Sido. En remerciant tous les intervenants pour leurs exposés aussi divers qu'instructifs. J'ouvre maintenant la seconde partie de cette table ronde, consacrée au débat.

DÉBAT

M. Alexei Grinbaum. Je souhaite intervenir sur deux points. D'une part, le Parlement européen s'intéresse exactement aux mêmes questions que celles abordées aujourd'hui. La commission des affaires légales du Parlement européen, à l'initiative de la députée luxembourgeoise Mady Delvaux a engagé une réflexion importante sur la robotique J'ai été auditionné le 22 octobre 2015 par cette commission dans un cadre semblable à celui d'aujourd'hui. Je pense que nous ne pourrions pas avancer sans le cadre européen. Il serait donc souhaitable de coordonner les travaux de l'Assemblée nationale et du Sénat avec cette démarche européenne.

D'autre part, au sujet de la robotique chirurgicale, il existe d'autres pistes que les robots Da Vinci. D'autres équipes travaillent sur des notions de co-manipulation, dans lesquelles le chirurgien est effectivement présent au-dessus du patient et utilise des instruments robotisés. Cette démarche, beaucoup plus légère et économique, mérite aussi d'être encouragée. Beaucoup de médecins, notamment de chirurgiens, sont impliqués dans ces travaux, au côté des chercheurs en robotique.

M. Jean-Yves Le Déaut. Sur la question de la coordination, elle existe bien au niveau européen, au travers du réseau des offices parlementaires d'évaluation scientifique et technologique, l'EPTA. Hier à Bruxelles, avec Mme Mady Delvaux, j'ai participé à une conférence du STOA, présidée par le prix Nobel Serge Haroche, sur les applications de la physique quantique. Comme je le disais en introduction, la semaine dernière, à l'occasion du vingt-cinquième anniversaire du TAB, une conférence a traité de l'effacement des frontières entre l'homme et la machine. L'un des participants y délivrait exactement les mêmes messages que M. Nicolas Huchet.

Mme Dominique Gillot va probablement travailler sur le sujet de l'intelligence artificielle et, dans le cadre de l'Assemblée parlementaire du Conseil de l'Europe, je suis rapporteur d'une étude sur la convergence technologique, l'intelligence artificielle et les droits de l'homme. Ce sont donc des sujets très coordonnés au niveau européen, tout comme le travail d'évaluation technologique dans différents parlements, alors que ce n'était pas le cas voici une quinzaine d'années. On arrive comme cela à avoir un panel d'experts européens qui nous permettent de mieux appréhender ces questions.

M. Bruno Sido. Quelqu'un souhaite-t-il effectuer une dernière intervention ?

M. Jean-Pierre Merlet. Je voudrais revenir sur la notion d'objet connecté, dont on a beaucoup parlé pendant toute cette matinée. Il s'agit, à mon sens, d'un concept extrêmement ambigu. Le mot connecté donne l'impression que l'objet ou le robot est connecté en permanence à Internet, via un canal hertzien. Ce n'est tout simplement pas possible. Il n'y a pas besoin de sortir très loin en dehors de Paris pour trouver des lieux où les téléphones intelligents ne fonctionnent pas. Dans certains hôpitaux ceux-ci sont totalement interdits, pour des raisons de protection des équipements médicaux.

Qui plus est, des objets connectés constituent aussi une faille de sécurité. En l'occurrence, je suis persuadé que, dans cette salle, je serais capable d'aspirer, avec mon téléphone intelligent, une dizaine de numéros de cartes bancaires, parce que vous avez probablement oublié de désactiver le protocole NFC (Near Field Communication, en français communication en champ proche ou CCP) de vos appareils. Si cela vous intéresse, nous pourrons en faire l'expérience. Hier, dans une salle de cinquante personnes, j'ai ainsi pu récupérer une trentaine de numéros de cartes bancaires.

Il faudrait plutôt parler d'objets communicants. A-t-on vraiment besoin de transmettre toutes les données d'un robot ? Probablement non. Ainsi, dans un système d'assistante à la marche, un médecin n'est pas intéressé par des téraoctets de données mais par des indicateurs synthétiques donnant des tendances sur l'évolution de la trajectoire de vie. Aussi, je pense que le mot connecté devrait être corrigé.

Mme Catherine Procaccia, sénateur, vice-présidente. Je vous remercie de vos interventions très claires, y compris pour les non spécialistes. En particulier, la comparaison, utilisée par plusieurs d'entre vous, avec l'évolution du téléphone sur dix ans, nous fait bien prendre conscience des changements à venir. Vous nous dites tous que dans les dix ans les choses auront complètement changé, sans que l'on puisse tout prévoir, tout comme personne n'avait prévu, voici dix ans, l'usage des réseaux sociaux pour le terrorisme ou encore les risques affectant les données

En tant que parlementaire, donc législateur, je me demande si nous disposons de suffisamment d'éléments pour préparer une législation adaptée. Par ailleurs, puisque nous avons échoué, voici cinq ou dix ans, dans l'information du public sur l'évolution des téléphones, comment faire pour réussir cette information pour les robots, notamment en regard des enjeux sur les relations émotionnelles avec les robots qui ont été évoqués ?

M. Jacques Hubert. Les chirurgiens sont bien sûr à l'écoute de tous les progrès en robotique, d'autant que la société Intuitive Surgical leur impose son matériel et ses tarifs depuis quinze ans. Je pense que M. Alexei Grinbaum faisait référence aux équipes de Grenoble qui ont développé des robots permettant de remplacer, en particulier, le bras endocorporel. Le jour où un robot sera aussi efficace que le modèle Da Vinci, et d'un coût très inférieur, plus aucun chirurgien ne pratiquera de célioscopie classique. Il est évident que la robotique est l'avenir de cette chirurgie endocorporelle, mais cette évolution reste à venir.

Mme Dominique Gillot. Je voudrais revenir sur les questions législatives dans le domaine économique, pour accompagner le déploiement des innovations. Vous avez évoqué à plusieurs reprises la loi sur le numérique qui va être examinée par le Parlement en début d'année prochaine. Mais une autre loi en préparation n'a pas encore été présentée en Conseil des ministres. Il s'agit de la loi NOE ou Nouvelles opportunités économiques, de M. Emmanuel Macron, qui vise justement à recenser toutes les innovations en matière de production. Je vous encourage vraiment à faire part de vos suggestions et remarques, de façon à ce que, dès le départ, cette loi soit complète, même si, dans ce domaine-là, on est nécessairement en retard par rapport aux développements à venir.

M. Bruno Sido. Je rends maintenant la parole au président Jean-Yves
Le Déaut, pour la troisième et dernière table ronde de la matinée intitulée : « Quelles dispositions juridiques pour faire face au développement de la robotique ? ».

TROISIÈME TABLE RONDE :
QUELLES DISPOSITIONS JURIDIQUES POUR ACCOMPAGNER
ET ENCADRER LE DÉVELOPPEMENT DE LA ROBOTIQUE ?

Présidence de M. Jean-Yves Le Déaut, député, président
de l'OPECST

M. Jean-Yves Le Déaut. Après ce tour d'horizon, sous la présidence du sénateur Bruno Sido, des enjeux éthiques, sociétaux et économiques de la robotique, nous allons passer à la dernière table ronde de cette audition, consacrée à ses implications juridiques. Elles ont déjà été esquissées. Ainsi, a-t-il été indiqué que les délais d'obtention des autorisations pour une expérimentation étaient beaucoup plus brefs aux États-Unis d'Amérique qu'en Europe. Il a aussi été dit qu'il ne fallait pas que la législation ou la réglementation freinent l'innovation. Il s'agit d'ailleurs d'un discours assez classique, indépendamment des thèmes abordés.

L'apparition des robots dans la société aura, nous venons de le constater, de nombreuses et diverses conséquences. Elle pose de multiples interrogations au plan juridique, en matière de responsabilité civile, de droit pénal ou de protection de la vie privée. Le cadre juridique actuel permet-il de traiter l'ensemble des problèmes liés à l'usage des robots, doit-il être simplement adapté à la marge, ou faut-il envisager de le modifier en profondeur, par exemple en inventant une nouvelle forme de personnalité morale pour les robots ? Les différents éclairages qui vont nous être donnés, et le débat qui suivra, devraient nous permettre de mieux comprendre ces enjeux.

Quand on demande à un chercheur jusqu'où il va aller, il répond qu'il ira jusqu'aux limites autorisées par la loi. Est-ce que la loi doit être profondément ou bien légèrement modifiée, en laissant sa place à la jurisprudence ? Est-ce que ces adaptations doivent être retardées, comme l'un des intervenants l'a suggéré tout à l'heure ? Nous avons été confrontés à ces mêmes questions pour la bioéthique. Alors qu'une loi devrait fixer des cadres intangibles, cela nous a conduit à élaborer une loi qui pourrait être qualifiée de biodégradable, puisqu'elle prévoit son propre réexamen, après quelques années. Faut-il reprendre ce mécanisme, visant à prévoir l'adaptation d'une loi à des évolutions rapides ou, au contraire, attendre que les problèmes soient réellement posés ? Les intervenants de cette table ronde vont nous aider à répondre à ces questions.

En ouverture de cette table ronde, je vais donner la parole à M. Thierry Daubs, maître de conférences à l'université de Rennes 2, chercheur associé au Centre de recherche des écoles de Saint-Cyr Coëtquidan. Les forces armées françaises ont été parmi les premières à se préoccuper des questions d'ordre éthique et juridique posées par l'usage des robots pour leurs applications militaires. Nous traiterons de ces dernières à une autre occasion, mais il n'est pas interdit d'y faire référence aujourd'hui. Les enseignements tirés de ces réflexions s'appliquent également, pour une part, aux usages civils des robots. M. Thierry Daubs va traiter aujourd'hui des aspects matériels et institutionnels de la robotique civile.

M. Thierry Daubs, maître de conférences à l'université de Rennes 2, chercheur associé au CREC de Saint-Cyr Coëtquidan. Le titre de cette audition : « Les robots et la loi », commence comme une fable de Jean de la Fontaine. Un robot indiquerait les lois auxquelles il doit obéir au magistrat et ce dernier constaterait qu'il n'est peut-être pas hors la loi. La première loi concernerait les normes techniques, relatives à son fonctionnement interne. La deuxième préciserait sa catégorie juridique, c'est-à-dire, d'une part, le cadre juridique dans lequel il intervient : civil, militaire, ordre public, etc. et, d'autre part, les différents domaines de droit qu'il va rencontrer lors de son évolution : vol au-dessus de l'espace public, au-dessus d'une propriété privée, sur la terre, dans la mer, etc. La troisième loi s'attacherait à définir, en fonction de son application, des limites constitutionnelles et législatives pour permettre le bon usage du robot dans le cadre d'un État de droit démocratique, au service des libertés publiques.

Le législateur et le pouvoir constituant ont un rôle à jouer pour poser les fondements d'une robotique respectueuse de ces qualités de l'État et surtout de la nature humaine, cela pour deux raisons. La première raison c'est que le robot fait de l'être humain un partenaire, avec lequel il coopère et partage les compétences, donc le pouvoir de décision. En conséquence, il faut fixer l'autorité juridique de la décision robotique, par rapport au partenaire du robot et au destinataire. Dès lors, le droit, dans ses fondements, est-il adapté à la situation ?

La deuxième raison qui justifie l'intervention du législateur et peut-être du pouvoir constituant, c'est le fait que le développement de la robotique est parallèle à celui d'une société très soucieuse d'une sécurité optimale, individuelle et collective. Cette évolution traduirait une inversion philosophique où, contrairement à la présupposée bonté et innocence de l'être humain, on suggère de lui appliquer le principe de précaution, en raison du danger potentiel qu'il représente, pour éviter qu'il nuise à l'ordre et à la société. Ce faisant tout être humain doit devenir identifiable, traçable, dissuadable et sanctionnable.

En fin de compte, la robotique et tous les autres moyens technologiques, permettent de rendre l'individu dématérialisé et transparent. Cette « machinisation » de la société et de la sécurité inciterait à une application mécanique de la loi, par la réduction de l'intervention du juge humain. Ce qui est en cause, ce n'est pas la technologie ou la science. Cette dernière doit être libre, mais il faut réfléchir à l'utilisation de cette science pour préserver la démocratie, l'État de droit et les libertés publiques. Jusqu'à quel point faudra-t-il adapter l'être humain au robot et, plus généralement, à la rationalisation économique et informatique ?

Ainsi, on pourrait proposer que le droit de la robotique règle deux grands types de questions juridiques : d'abord des questions de fond, liées à la nature même du robot : une machine autonome est-elle un meuble ou un immeuble par destination ? Pourrait-elle être dotée d'une personnalité juridique ? Ensuite, interviendrait l'influence de la spécificité technique et juridique du robot, dans les différents droits des activités, obéissant déjà à un régime juridique, dans lesquels il est utilisé. Quelle est l'influence de la présence d'une voiture robotisée sur la route, d'un drone dans l'espace aérien, d'un robot sous-marin dans l'espace maritime ou en surface ? C'est là qu'il faut mesurer l'impact de l'autonomie du robot sur un cadre juridique particulier. En fin de compte, les robots se situent dans un environnement juridique composé de différents cadres qui vont s'articuler les uns par rapport aux autres au fur et à mesure de leur déploiement.

Par ailleurs, le droit de la robotique formaliserait un certain nombre de principes éthiques, au moyen de règles juridiques qui seraient essentielles à la bonne conception et au bon usage du robot. Ce droit préciserait le cadre institutionnel de la robotique, comme pour l'informatique avec la CNIL. Enfin, le droit de la robotique concernerait aussi les normes techniques particulières à la conception, la fabrication et la distribution des robots, sans oublier les normes propres aux usages civils.

Cela conduit à envisager l'essentiel du robot : l'autonomie robotique, qu'il faut essayer de qualifier juridiquement. On peut proposer l'approche suivante : l'autonomie robotique, d'un point de vue juridique, se définirait comme la capacité, au sens de possibilité immatérielle et matérielle du robot, de par sa volonté propre, de décider, dans le cadre de ses compétences, d'une action juridiquement qualifiable, opposable à un tiers et contrôlable, soit par l'être humain sur l'instant, soit, a posteriori, lors d'un litige. C'est en cela que l'autonomie juridique posera la question de la responsabilité car il faudra déterminer qui est responsable de la chose robotisée.

Pour appréhender cette question on peut proposer quelques postulats. Le premier est qu'une personne physique ou morale sera toujours par principe responsable du robot, pour en couvrir les dommages même si aucune faute n'a été commise. Le deuxième, susceptible de heurter, poserait l'hypothèse d'un principe d'inversion proportionnelle de la responsabilité de la personne physique ou morale utilisatrice, au regard de la maîtrise de l'autonomie robotique, et donc du robot et de son intervention subsidiaire à celle de l'être humain. Concrètement, il faut distinguer l'opérateur et l'utilisateur, comme suggéré un peu plus tôt. Dans une voiture robotisée où le passager n'a aucune action de conduite, c'est bien l'opérateur du véhicule qui doit être considéré comme responsable, sinon l'utilisateur n'achètera jamais un tel véhicule.

Ensuite, il y a l'enjeu de l'influence de la robotique sur les libertés publiques qui va s'apprécier par rapport aux cadres juridiques où s'exercent celles-ci. Le robot va concerner la plupart des droits : le droit de propriété, la propriété industrielle, la protection des données, etc. Simultanément, il faut penser à la justice, dans la mesure où il faut éviter que le recours à des systèmes automatisés prive du droit au juge, à un procès équitable ou encore du droit de la défense.

C'est pour ces raisons qu'une charte constitutionnelle de la robotique et des nouvelles technologies serait souhaitable, pour éviter une robotisation de l'État, et préserver une société humaniste. Cette charte devrait avoir un rang constitutionnel et poserait quelques principes pour préciser les conditions techniques et juridiques de l'utilisation du robot, tels que le droit de préférer le recours à un être humain ou des services administratifs plutôt qu'à un robot ou à un site Internet, la possibilité de désactiver un robot à tout moment et en tout lieu, ou d'identifier son fabriquant ou propriétaire, etc.

M. Jean-Yves Le Déaut. C'est à présent à nouveau M. Renaud Champion qui va intervenir pour présenter ses considérations sur de nouveaux cadres juridiques pour la robotique, issues notamment des travaux qu'il a mené avec des juristes spécialisés.

M. Renaud Champion, directeur d'euRobotics, représentant du groupe Syrobo du Symop. Depuis 2010, de multiples travaux sur les enjeux éthiques et juridiques de la robotique ont été menés en Europe. Certains ont déjà été mentionnés, comme les fameux Green Papers, dont M. Christophe Leroux a assuré la coordination, en lien avec les programmes SPARC-Robotics et euRobotics, ou encore le projet européen Robolaw, qui avait pour vocation de proposer aux régulateurs européens et nationaux des lignes directrices sur les enjeux juridiques et éthiques de la robotique. La France n'est évidemment pas en reste. Vous avez ainsi mentionné le Centre de recherche des écoles de Saint-Cyr Coëtquidan, dont l'approche est justement fondée sur la dualité des technologies, la sphère de la robotique civile étant représentée au côté de la sphère militaire.

Une deuxième initiative a été lancée en France, en 2013, à la suite de la publication par le Gouvernement du plan France Robot Initiative. À cette occasion, le syndicat SYROBO a lancé des groupes de travail multidisciplinaires afin de réfléchir aux enjeux. Ceux-ci ont formulé leurs premières propositions l'année dernière. Ces travaux se poursuivent, notamment au Parlement européen, avec le groupe de travail de Mme Magy Delvaux. Ils se poursuivent également en vue de la publication d'un livre blanc du droit de la robotique et de la machine-outil, destiné à définir un cadre et faire des propositions au législateur, auquel contribuent des chercheurs, des industriels, des juristes, des philosophes, des éthiciens et des représentants de l'État. J'en coordonne, avec Me Alain Bensoussan, la rédaction pour le SYMOP.

Pour résumer, ces différents travaux font référence à trois enjeux principaux : la responsabilité, la sécurité et le traitement des données personnelles. Les cadres juridiques sont déjà établis mais une légère évolution pourrait apparaître souhaitable. Tout d'abord, concernant la chaîne de responsabilité évoquée par M. Thierry Daubs, qui peut être tenu responsable dans le cas du robot ? Si c'est l'utilisateur ou l'acquéreur, qui peuvent bien évidemment être deux personnes différentes, cela risque de freiner le déploiement de la robotique. Si l'utilisateur se trouve tenu responsable de manière non encadrée et non limitée des dommages causés par son robot, il refusera de l'acheter. Le vendeur peut-il porter cette responsabilité, comme le suggèrent de récentes déclarations de Tesla et d'Apple qui, pour le véhicule autonome, semblent disposés à assumer une plus grande part de responsabilité financière ? Ou bien le concepteur et l'intégrateur du produit doivent-il mettre en oeuvre, d'une part, des solutions technologiques de type « boîte noire », pour permettre une meilleure traçabilité de la responsabilité et du dommage et, d'autre part, des certifications adaptées pour la conception ?

Dans tous les cas, la réflexion doit intégrer, comme cela a été indiqué précédemment, une notion de proportionnalité de la responsabilité. Cette proportionnalité doit-elle être définie en fonction de la connaissance en robotique de l'opérateur et du concepteur ou aussi par rapport aux enjeux économiques ?

À propos de la sécurité, la question se pose à partir du moment où le robot sort de sa cage pour collaborer avec l'homme, notamment dans le domaine industriel, logistique et, bien entendu, aussi médical. Il est clair que le cadre défini par la directive européenne relative aux machines n'est absolument plus adapté. La sécurité proposée doit être d'un niveau suffisant. Pourquoi ne pas envisager un comité de certification indépendant chargé d'accorder des autorisations de mise sur le marché à ces différents systèmes ? Pour ce faire, il faut bien connaître les dispositions d'utilisation des robots afin de préconiser un référentiel de risque et d'analyse d'impact. Tout cela ne peut se réaliser, comme précisé par MM. Jean-Pierre Merlet et Guillaume Devauchelle, qu'en testant le système dans des conditions réelles, conformément à un cadre juridique clair.

Enfin, concernant les données personnelles, de nombreux travaux ont déjà été engagés par la CNIL. Mais si l'on s'attarde sur le cas spécifique du véhicule autonome, comment les données que celui-ci peut acquérir sur chaque piéton vont-elles être traitées ? Ce dernier va-t-il essayer de les monnayer et de quelle façon ? De ce fait, faut-il légiférer en amont sur la libre circulation des données acquises et exploitées par les robots, par exemple dans le cadre d'un grand marché numérique européen unifié ? Cette question ouverte est clairement inscrite à l'agenda de la Commission européenne.

De manière sous-jacente, il a été aujourd'hui souvent question d'autonomie. Ce mot est à prendre avec grande précaution, compte tenu de ses fortes implications juridiques alors même qu'aucun système ne peut être à ce jour ainsi qualifié. Derrière cette notion d'autonomie, se trouve l'intelligence artificielle qui a commencé à révolutionner les technologies depuis soixante ans, que ce soit par les langages objet, dont l'hypertexte ou, plus récemment, par le web sémantique et l'apprentissage profond (Deep Learning).

Pour certains auteurs, cette évolution de l'intelligence artificielle peut non seulement amener les robots à plus d'autonomie, mais aussi les juristes à se poser la question d'un nouveau champ du droit, centré sur la personnalité juridique du robot. Il ne s'agit pas forcément de définir le robot comme un sujet du droit, comme le font aujourd'hui les Sud-Coréens dans leur charte de la robotique mais plutôt d'envisager des similitudes avec le droit des sociétés. Tout à l'heure, pour des questions d'assurance, on a parlé de propriété intellectuelle, du patrimoine et du capital. Pourquoi la personnalité-robot ne pourrait-elle pas s'approcher de ce type de droit ?

De façon plus prospective, les théoriciens du « Ethical Robot », comme MM. Ronald Arkin de Georgia Tech ou Alan Winfield du Bristol Robotics Lab, veulent donner au robot une capacité décisionnelle accrue, fondée sur des algorithmes éthiques. Au-delà de l'autonomie et du statut juridique, d'autres questions sont donc soulevées dans la communauté scientifique.

En conclusion, j'aimerais attirer votre attention sur trois dates importantes en 2016. La première concerne la parution, au mois de mai, du livre blanc du SYMOP sur le droit de la robotique et de la machine-outil. En juin 2016, le groupe de travail de Mme Mady Delvaux doit remettre ses recommandations au Parlement européen. Enfin, avant décembre 2016, la Commission européenne finalisera la stratégie pour la transformation numérique de l'industrie, à la suite de la réflexion menée sous l'impulsion du commissaire européen Günther Oettinger. Cette stratégie inclura notamment un cadre juridique ainsi que le concept de marché unique du numérique. Bien entendu, la robotisation y tiendra une place centrale.

M. Jean-Yves Le Déaut. À présent, je passe la parole à un praticien du droit, Me David Lutran, avocat, passionné de la question des enjeux juridiques des robots, qui va essayer de répondre à la question : Le robot est-il un caméléon juridique ?

Me David Lutran, avocat au barreau de Paris, Rivedroit Avocats. Effectivement, je me demande si le robot est un caméléon juridique parce que, quand on réfléchit à la réponse juridique à apporter au problème des robots, il apparaît extrêmement difficile d'appréhender ceux-ci au plan conceptuel, compte tenu de leur diversité. Qu'y-a-t-il de commun entre un robot tueur, un robot qui s'inscrit dans une chaîne industrielle, pour fabriquer d'autres robots, des nano-robots, des robots compagnons, etc. ? Pourtant, quand on parle de robotique dans le milieu juridique, on fait finalement assez peu de distinction entre ces différents types de machines et on a une vision assez englobante de la question.

Dans les milieux juridiques, la question qui se pose est en effet de savoir si l'arsenal juridique existant est suffisant, s'il présente une élasticité lui permettant de s'adapter aux enjeux de la robotique ou si, au contraire, il faut créer un nouveau droit, voire aller jusqu'à la création d'une personnalité juridique du robot. Je pense qu'il est assez difficile d'avoir une vision préconçue sur la façon d'aborder ce nouveau phénomène au plan juridique. La réflexion sur l'évolution du cadre juridique, au regard du développement de la robotique, doit à la fois appréhender ce phénomène dans son ensemble et, en même temps, distinguer selon les types de robots envisagés, tout en anticipant les usages futurs des robots, l'environnement dans lequel ils s'inscrivent, leur degré de perfectionnement technologique et la forme qu'ils prendront, sachant que la tâche est compliquée, en termes d'invention d'une réponse normative, par le caractère exponentiel du potentiel de développement des robots, quel que soit le domaine dans lequel ils s'inscrivent.

Il existe, en effet, un socle commun de problématiques propres à tous les robots et notamment les régimes de responsabilité. Ainsi, on a évoqué tout à l'heure l'autonomie du robot. Il est évident qu'un robot qui échappe à son utilisateur remet en cause un certain nombre de principes de responsabilité qui existent en droit français et, notamment, la responsabilité du fait des choses puisque on ne peut plus parler, à ce moment-là, de contrôle exercé par l'individu sur la machine.

La robotique est un phénomène protéiforme et extrêmement difficile à conceptualiser sur le plan juridique pour esquisser une réponse adaptée, compte tenu de la diversité de l'univers robotique et des éléments qui composent le robot, qu'il s'agisse de l'aspect mécanique, informatique, programmatique ou de l'insertion du robot dans le réseau.

Je ne vais pas revenir sur les nombreux concepts déjà énoncées, simplement je pense qu'il est difficile d'envisager aujourd'hui un régime juridique général pour les robots. Il faut être extrêmement fin dans sa vision de ce phénomène. Le robot n'est pas une entité réductible à ce qu'elle est ou paraît être et qui se suffirait à elle seule. Il s'agit autant d'un objet que d'une réalité qui doit être appréhendée à l'aune de la diversité de ses représentations, de ses fonctions constamment renouvelées et façonnables au gré de l'imagination de ses concepteurs, de ses différentes composantes, de l'usage qui en est fait et de la faculté du robot à évoluer et à agir dans le monde qui l'environne et d'impacter celui-ci.

C'est en cela que le robot constitue un caméléon, c'est-à-dire une réalité qui est assez difficilement saisissable au plan juridique et qui commande sans doute d'appréhender le problème d'une façon différente. Par ailleurs, l'industrie de la robotique ne sera sans doute pas une industrie figée, dans la mesure où il est déjà possible de fabriquer son propre robot, au moyen d'une imprimante tridimensionnelle, et en se procurant des programmes qui sont assez facilement accessibles, de sorte que l'environnement de la robotique ne sera sans doute pas toujours l'apanage d'une industrie contrôlée par des acteurs identifiés et susceptibles de maîtriser leur filière de bout en bout, ce qui complexifie encore davantage le phénomène.

De sorte qu'on peut s'interroger sur ce que pourra être la réponse normative. Est-ce qu'il s'agira d'une réponse limitée au droit positif ? Faudra-t-il envisager d'autres types de réponses normatives ? Le droit souple (soft law) aura sans doute un rôle à jouer ainsi que l'éthique, à tous les niveaux de la chaîne de conception du robot, depuis la recherche fondamentale jusqu'à la fabrication, en passant par l'élaboration des programmes. Se posera également la question de la mise en place de normes applicables aux programmes qui seront installés dans les robots, visant à contrôler leurs actes et à éviter qu'ils ne commettent des dommages inconsidérés.

M. Jean-Yves Le Déaut. Je vais maintenant donner la parole à M. Stéphane Pénet, directeur des assurances de biens et de responsabilité de la Fédération française des sociétés d'assurance, qui va traiter des nouveaux risques liés à la robotique et des solutions qui peuvent être envisagées pour les assurer. Dans de précédentes auditions, portant sur d'autres sujets, vous avez indiqué que les assureurs assurent les risques connus. Comme je l'ai souligné dans un rapport sur l'innovation à l'épreuve des peurs et des risques, la difficulté à assurer ces derniers peut constituer un frein à l'innovation. Dans ce domaine, la position des sociétés d'assurance est-elle claire ? Proposent-elles, d'ores et déjà, des produits spécifiques pour la robotique ?

M. Stéphane Pénet, directeur des assurances de biens et de responsabilité, Fédération française des sociétés d'assurance (FFSA). Le regard que je porte sur cette question est celui d'un assureur. Quels sont les risques posés par la robotique ? Peuvent-ils être identifiés ? Est-il possible de les assurer ? Si ce n'est pas le cas, puisqu'il s'agit d'une condition au développement de ces avancées technologiques, dans quelle mesure pourraient-ils l'être ?

Il existe deux grands types d'assurances. Je ne m'attarderai pas sur l'assurance dommage. Un robot est un objet ayant une certaine valeur, susceptible, comme tout autre, d'être volé ou endommagé. Le problème se pose pour l'assurance responsabilité : dans quelle mesure est-il possible de couvrir la mise en cause de la responsabilité d'un robot, de son utilisateur, de son détenteur ou de son propriétaire ? Bien entendu, dans ce domaine, les assureurs sont toujours très vigilants sur l'existence d'une visibilité juridique suffisante des responsabilités qui pourraient être mises en cause. Lorsque les mises en cause de responsabilités deviennent aléatoires, dépendantes des jurisprudences ou de pressions médiatiques, les assureurs ne sont plus présents. Pour couvrir des responsabilités, ils ont besoin d'avoir une visibilité et une sécurité juridique.

En ce qui concerne les robots, vous savez que les assureurs ne sont ni des rêveurs, ni des auteurs de science-fiction. Lorsqu'on parle de robots, on parle d'énormément de domaines. Tout à l'heure, M. Renaud Champion a évoqué des chiffres qui vont de quinze milliards à trois trillions. Ce n'est pas l'incertitude sur l'avenir des robots qui est cause de cette hétérogénéité mais plutôt la définition du champ pris en compte : les systèmes d'aide à la décision, les objets connectés, les robots, etc.

Aussi, vais-je évoquer un cas concret qui concerne énormément les assureurs dans l'immédiat : les véhicules autonomes ; l'assurance automobile représentant 50 % du marché de l'assurance, c'est un sujet que nous surveillons comme le lait sur le feu. La question du véhicule autonome englobe toute une série de systèmes d'aide à la conduite, de plus en plus sophistiqués, qui motivent les discours de certains entrepreneurs américains sur les véhicules entièrement automatisés.

Nous avons examiné de près les implications d'un éventuel véhicule autonome, susceptibles d'apparaître dans les prochaines années, sur les questions de responsabilité et d'assurance. Il existe deux problèmes distincts : d'une part, déterminer comment serait indemnisée la victime, et, d'autre part, établir qui serait le responsable, in fine, du préjudice. Je distingue bien les deux car, dans notre droit actuel, l'indemnisation des victimes passe avant tout. La loi Badinter qui définit la responsabilité et les droits à indemnisation des victimes stipule que tout véhicule impliqué indemnise la victime. On ne cherche pas les responsabilités. Il suffit d'être impliqué. Que je sois en train de lire mon journal, de regarder la télévision ou de conduire mon véhicule, dès lors que celui-ci est impliqué, il me revient, donc il revient à mon assureur, de réparer le dommage subi par la victime.

Au sujet de l'indemnisation, la seule question porte sur le fait de savoir si ce que les textes entendent par « conducteur » est en réalité la personne en charge du contrôle du véhicule. J'espère bien qu'on n'en arrivera pas à cette folie de concevoir des véhicules autonomes, hors sol et hors normes, sans aucun contrôle. Il doit toujours exister un acteur en charge du contrôle du véhicule. C'est l'assureur de cette personne qui devra, en premier lieu, indemniser la victime, que cette personne ait, ou pas, les mains sur le volant.

Ensuite, vient le problème de la responsabilité. Pour être très pragmatique, l'assureur de celui qui est en charge va indemniser la victime puis va se demander s'il existe quelqu'un d'autre que l'assuré responsable de l'accident, pour engager d'éventuels recours contre lui. Il est évident que, à partir du moment où il s'agit de véhicules autonomes faisant appel à des technologies, le champ des responsabilités possibles, dans cette seconde phase de recours, sera beaucoup plus large. Ce pourrait être l'un des systèmes automatiques du véhicule qui a mal fonctionné, une transmission de données mal effectuée, un système d'infrastructures routières intelligentes défectueux, ce qui conduirait à chercher la responsabilité de celui qui est en charge de l'entretien de l'infrastructure, l'État ou un opérateur privé s'il s'agit d'une autoroute, etc.

Pour simplifier ces questions de détermination de responsabilité, nous avons quelques propositions à formuler. La première serait de normaliser les technologies, ce qui permet de simplifier la recherche de responsabilités. Dans une sorte d'anarchie technologique, où chacun a ses propres normes, il va être beaucoup plus difficile de les rechercher. Dès lors qu'il s'agit de technologies mettant en jeu la sécurité des personnes, le législateur a intérêt à les encadrer.

La deuxième proposition consiste à s'assurer que la personne en charge du contrôle du véhicule a bien été informée du fonctionnement de celui-ci. S'il lui a été vendu sans explication sur son fonctionnement, la responsabilité du vendeur pourrait être mise en cause. Ce que nous demandons dans ces cas-là c'est la formalisation du mode d'emploi ainsi que de la délivrance de la formation et de l'information nécessaires pour le maniement, de façon à ce qu'il n'y ait pas de doute sur un mauvais conseil du vendeur.

La troisième proposition porte sur la boîte noire évoquée tout à l'heure. Il est vrai que, dans un véhicule classique, elle n'est pas nécessaire, les questions de responsabilités étant assez simples à établir. Mais s'agissant de véhicules autonomes, pour lesquels le champ des responsabilités pourrait être largement plus ouvert, la présence d'une boîte noire accessible à tous, non propriété de tel ou tel, pourrait s'avérer précieuse en cas de litige.

À travers cet exemple, je voulais donner quelques illustrations sur la façon dont la réglementation et la loi pourraient intervenir mais, encore une fois, dans le cas de l'indemnisation des victimes d'accidents automobiles, les dispositions actuelles sont parfaitement compatibles avec les véhicules autonomes.

M. Jean-Yves Le Déaut. C'est à présent Mme Sophie Touhadian-Giely, directrice juridique pôle de Valeo qui va traiter de la question spécifique et très concrète du cadre juridique du véhicule autonome. Pouvons-nous, d'ores et déjà, envisager de lâcher le volant sans nous mettre en infraction et qu'en est-il alors de la responsabilité du pilote automatique ? Peut-être pourrez-vous, à cette occasion, aussi répondre à ces questions.

Mme Sophie Touhadian-Giely, directrice juridique pôle de Valeo. Je suis ravie d'intervenir après M. Stéphane Pénet, qui a abordé des questions essentielles pour le secteur automobile. Aujourd'hui, j'ai choisi de parler d'un sujet très spécifique : l'autonomie. Depuis le début de cette audition, nous avons essayé de définir la notion de robot. Je vais tenter d'expliquer comment le concept d'autonomie du véhicule conduit à l'assimiler à un robot. Comme l'a indiqué M. Guillaume Devauchelle, demain des milliers de véhicules autonomes pourraient circuler sur les routes. Dans les années à venir et à un horizon plus lointain, ces véhicules représenteront le type de robots le plus fréquemment rencontré dans la vie quotidienne. Je voudrais souligner le paradoxe existant à ce jour entre l'évolution de cette technique et celle du droit.

Qu'est-ce que c'est qu'un véhicule autonome ? Dans le monde industriel, il existe un consensus sur une classification de l'autonomie, suivant cinq niveaux : du véhicule très peu autonome, au niveau un, jusqu'au véhicule complètement automatisé, au niveau cinq. Il est possible d'établir la « fracture juridique » au niveau trois, celui où le conducteur délègue la conduite du véhicule à un système et ne sera, de ce fait, plus en contrôle et en vigilance. En l'état actuel de la réglementation, à partir de ce niveau trois, il s'avère impossible d'homologuer un véhicule pour le mettre sur la route.

Cette impossibilité résulte d'un traité international : la Convention de Vienne de 1968, qui stipule précisément que tout véhicule doit avoir un conducteur et que celui-ci doit être en état psychique et physique de conduire, ce qui implique qu'il s'agit d'une personne physique, devant être à tout moment en maîtrise et en contrôle du véhicule. Si le conducteur doit maîtriser son véhicule, par principe, il ne peut pas en déléguer la conduite à un système.

Ces dernières années, depuis que le débat sur le véhicule autonome est engagé, les membres du groupe de travail sur la sécurité routière (WP1) préparant l'adaptation de cette convention ont proposé un amendement, qui vient d'être adopté et entrera en vigueur au mois d'avril 2016. Cet amendement prévoit de rendre ces systèmes automatisés légaux, à condition qu'ils soient conformes aux normes techniques internationales ou que le conducteur soit en mesure de les déconnecter. Mais la contrainte du contrôle par le conducteur demeure. En effet, après avoir validé ces systèmes automatisés, d'ores et déjà présents en grande part sur le marché, le législateur n'a pas souhaité modifier l'article de la convention prévoyant le contrôle permanent du véhicule par le conducteur.

Faute de temps, je passerai sur les discussions en cours sur un deuxième amendement qui a semblé intéressant aux industriels travaillant sur l'automatisation complète du véhicule car il proposait de modifier la notion de conducteur en prévoyant que celui-ci puisse être un système. Récemment cet amendement a été modifié à nouveau et cette idée de permettre que le conducteur puisse devenir un système, donc un robot, a disparu.

Aujourd'hui, nous sommes dans une situation où, comme indiqué par M. Guillaume Devauchelle, la technique avance extrêmement vite. L'industrie automobile est en mesure de concevoir et de développer des véhicules 100 % autonomes, tout comme des concurrents tels que Google, et probablement Apple, d'une agilité et d'une réactivité extrêmes dans ce domaine, qui ont bien compris que ce secteur est porteur. Mais les législateurs n'ont pas la même notion du temps et ne vont pas à la même vitesse, très certainement pour des raisons de prudence bien compréhensibles, notamment à la lumière des explications données par M. Stéphane Pénet sur les problématiques de responsabilité.

Néanmoins, la situation apparaît paradoxale car autoriser un conducteur à déléguer 100 % des tâches de conduite à un système, tout en indiquant qu'il doit rester en contrôle du véhicule, implique de maintenir sa responsabilité juridique complète sur le véhicule. Il serait logique que la délégation de la conduite à un système entraîne un transfert de responsabilité vers celui-ci, vers des algorithmes, développés, standardisés et testés, aptes à fonctionner quand ils seront mis en oeuvre.

Je voulais souligner cette incohérence évidente entre, d'une part, l'évolution législative internationale, puisqu'aujourd'hui il faut passer par les conventions internationales avant de pouvoir modifier la réglementation et le code de la route français et, d'autre part, l'évolution de techniques permettant, dès à présent, de déléguer intégralement la conduite à des systèmes. Je pense que la France a un rôle actif à jouer dans la résolution de cette problématique importante pour le secteur automobile.

M. Jean-Yves Le Déaut. Je vais enfin donner la parole à Mme Nathalie Nevejans, maître de conférence à la faculté de droit de Douai, qui se consacre, notamment en lien avec l'INRIA, aux implications juridiques de la robotique et qui va, en conclusion de cette table ronde, présenter une synthèse de ses travaux sur l'approche juridique et éthique de la robotique civile.

Mme Nathalie Nevejans, maître de conférences à la faculté de droit de Douai. Effectivement, je vais traiter de l'approche juridique et éthique de la robotique civile en reprenant les différents aspects évoqués aujourd'hui. Cette audition a bien mis en évidence la diversité de la robotique et la question essentielle de son enjeu économique pour la France. Si elle s'avère prometteuse pour notre pays, la robotique civile ne pourra se déployer tant que certains préalables ne seront pas satisfaits.

Tout d'abord, il convient d'éviter le faux débat sur la personnalité juridique du robot. Le droit de la robotique civile ne pouvant se réduire à ce concept, certes plaisant, car faisant écho à plusieurs ouvrages ou films d'anticipation. Malheureusement, en l'état actuel des connaissances scientifiques, le robot conscient ou intelligent n'existe pas. Les roboticiens ne savent même pas s'ils pourront un jour parvenir à le créer. Surtout, évoquer une personnalité juridique des robots a pour effet d'occulter les véritables questions. Or, à la veille d'une révolution robotique qui verra chaque foyer se doter de robots, il devient impératif de se les poser. Nous devons réfléchir dès aujourd'hui à la société dans laquelle nous vivrons demain, en compagnie des robots.

À la mi-2016, je publierai les résultats de plusieurs années de travaux sur la question des enjeux éthiques et juridiques de la robotique, dans un ouvrage intitulé « Traité de droit et d'éthique de la robotique civile ». Je vais vous en livrer ici, en distinguant aspects juridique et éthiques, un condensé forcément incomplet et imparfait, s'agissant d'un ouvrage de mille pages.

Pour l'aspect juridique, il apparaît essentiel que les différents acteurs de la robotique : concepteurs, fabricants, intégrateurs, acheteurs, employeurs et utilisateurs de robots, soient à même, non seulement d'appréhender le cadre juridique dans lequel ils seront amenés à évoluer, mais également de le maîtriser. Contrairement à ce qui est parfois avancé, il n'existe pas de véritable vide juridique, si ce n'est ponctuellement. À cet égard, les véhicules autonomes constituent un exemple d'inadéquation du dispositif existant, en tout cas à partir d'un certain niveau d'autonomie. Néanmoins, le plus souvent, le droit est d'ores et déjà en mesure de prendre en compte les grandes questions juridiques posées par la robotique, notamment celle de la responsabilité des différents acteurs susmentionnés.

L'autonomie des robots rend-elle impossible à déterminer, en l'état actuel, un régime juridique ? À mon avis, non. Même si l'autonomie complique quelque peu les règles habituelles, le droit peut s'y adapter ou, en tous cas, la jurisprudence peut, dans une certaine mesure, parvenir à l'adapter, notamment en assouplissant certains concepts. Dès lors, est-ce que le législateur doit intervenir aujourd'hui par une loi destinée à régir l'ensemble des questions juridiques en matière de robotique ? À mon avis, non. Cela n'aurait, en effet, pas une grande utilité, en l'état actuel des choses. Surtout, compte tenu de la diversité des robots, ce serait impossible. Une loi générale aurait, en effet, des difficultés à traiter l'ensemble des questionnements en matière de robotique civile. Par exemple, la mise sur le marché d'un robot industriel n'a rien de commun avec celle d'un robot chirurgical. Dès lors, il s'avère impossible de concevoir un régime commun : à robots différents, régimes juridiques différents.

La question de l'aspect éthique s'avère plus délicate et constitue le véritable enjeu de la robotique. Si la robotisation de la société - c'est-à-dire l'implantation des robots au plus près de l'homme - échoue, les conséquences seront plus désastreuses que l'échec de la robotisation de l'industrie. L'homme refusera tout simplement d'avoir des robots auprès de lui.

Or de nombreuses questions pourront faire reculer les personnes en matière de robotique. Ainsi, serait-il concevable de laisser une personne âgée ou handicapée seule avec un robot ? Serait-il admissible de confier à un robot l'éducation de nos enfants ? Un robot d'assistance aux soins pourrait-il interdire à une personne de boire un verre d'alcool ou la forcer à marcher, si elle reste allongée toute la journée, au prétexte que le médecin l'a déconseillé ? Que restera-t-il de la vie privée quand un robot sera toute la journée au domicile ? Le robot pourrait-il devenir le Big Brother de demain ? Le développement de l'empathie artificielle des robots ne fait-elle pas courir un risque, notamment aux personnes les plus vulnérables ? Ces questions pourraient se multiplier. Or, la société ne s'est pas posé ce type de questions, pourtant fondamentales.

À l'image de la loi bioéthique évoquée tout à l'heure, il serait possible de proposer une loi en éthique des robots ou robo-éthique, régulièrement ré-ajustable. On peut se demander s'il est raisonnable de mettre un robot dans chaque foyer si on a fait l'économie d'une réflexion globale sur ces questions. De nombreux pays ont commencé à réfléchir aux problèmes relatifs à l'éthique de la robotique, c'est-à-dire à l'éthique de l'homme face aux robots, ou robo-éthique, nouveau champ d'application de l'éthique. De plus en plus de travaux portent sur cette discipline, aux États-Unis d'Amérique, en Italie, au Japon, en Chine, aux Pays-Bas, en fait presque partout, sauf en France.

Il convient surtout de ne pas confondre la robo-éthique avec l'éthique des robots, précédemment évoquée. L'éthique des machines implique que le robot lui-même doive respecter des règles éthiques, alors que la robo-éthique s'applique à l'homme, qui va concevoir ou utiliser des robots. La France est-elle prête à affronter les questions robo-éthiques ? Une intervention du législateur pourrait être souhaitable car elle aurait pour effet de poser les règles générales qui pourraient, en principe, concerner tous les robots. En attendant, j'ai tenté de formuler un certain nombre de grands principes robo-éthiques, centrés sur l'homme, qu'il soit concepteur, fabricant, vendeur, utilisateur, opérateur ou bénéficiaire du robot. En la matière, la place des droits de l'homme est fondamentale.

Pour conclure, c'est en adoptant une démarche responsable et globale, face à cette nouvelle technologie, que l'homme parviendra à en tirer le plus grand bénéfice.

DÉBAT

M. Jean-Yves Le Déaut. Avant de passer au débat qui sera bref, puisque chacun a pu s'exprimer et que le temps imparti a parfois été dépassé, le professeur Jacques Hubert voulait ajouter quelques mots sur la responsabilité en matière de chirurgie robotique. Le cadre juridique est-il bien fixé aujourd'hui ?

M. Jacques Hubert. La réponse à cette question découle assez naturellement des échanges précédents. J'ai appris avec intérêt qu'il existait cinq degrés dans l'automatisation des véhicules. Si cette classification pouvait s'appliquer à d'autres robots, les robots chirurgicaux ne se trouveraient pas au niveau trois, impliquant la délégation de certaines actions, mais plutôt au niveau un ou deux.

Dans son exposé, M. Stéphane Pénet a évoqué la question de l'adéquation de la formation de la personne en charge du contrôle du véhicule. À l'heure actuelle, nous nous posons la même question en chirurgie robotique. Dans ce domaine, la formation a deux aspects : d'une part, la maîtrise technique du robot, similaire à l'apprentissage de la conduite automobile, et, d'autre part, l'apprentissage des interventions chirurgicales. Tous les chirurgiens actuellement formés à la robotique, généralement confirmés, savent opérer et vont simplement appliquer ce nouvel outil technologique à leurs pratiques. La formation actuelle en robotique est assurée exclusivement par le fabricant, en France et partout ailleurs dans le monde. Il assume par conséquent une responsabilité, évoquée par M. Stéphane Pénet. Il est assez critiquable, puisque la courbe d'apprentissage montre qu'après formation par la société, le chirurgien continue à apprendre durant les vingt à trente premières opérations.

L'Agence nationale de sécurité du médicament a conduit, en 2013, une enquête rétrospective qui a permis d'identifier trente événements indésirables graves sur dix-sept mille interventions. C'est peu, ce qui explique que la robotique soit actuellement sous les radars des compagnies d'assurance professionnelles. Une enquête a montré que 45 % de ces événements indésirables graves étaient liés à un problème de formation des chirurgiens et de leurs équipes. Actuellement, aux États-Unis d'Amérique, des patients portent plainte contre les hôpitaux qui ont autorisé des chirurgiens à utiliser leur robot, alors qu'ils n'avaient pas de formation suffisante, ou contre des chirurgiens, parce qu'ils ne les ont pas informés qu'ils étaient encore dans leur courbe d'apprentissage. Sur Internet, des cabinets d'avocats invitent les patients ayant rencontré un problème de chirurgie robotique à les contacter, pour déterminer si celui-ci résultait d'un défaut d'apprentissage. On voit qu'il existe véritablement un souci avec cette formation et on peut se demander si elle répond aux exigences de qualité que les patients seraient en droit d'attendre.

À Nancy, nous bénéficions d'une expérience pionnière, puisque nous avons été dotés, en 2000, de l'un des tout premiers robots au monde A partir de 2008, nous avons quelque peu anticipé certaines recommandations de la Haute autorité de santé, parues pour la première fois en 2012. Nous avons développé une formation en chirurgie robotique originale, unique en Europe, fondée sur la simulation de l'utilisation du robot sur des objets inanimés et des animaux, avant de passer à l'homme. Cette formation est aussi rattachée à une équipe INSERM, ce qui permet de mener des recherches dans ce domaine.

L'Académie nationale de chirurgie s'est aussi préoccupée de ce problème de formation. En son sein, une commission composée d'experts de différentes spécialités utilisatrices du robot, ainsi que de représentants des compagnies d'assurance, de la Haute autorité de santé et de la Caisse primaire d'assurance maladie, a examiné cette question et émis des recommandations. La première d'entre elles porte sur la nécessité d'une formation spécifique pour la chirurgie robotique, respectant des principes similaires à ceux développés dans notre centre. La commission affirme également que cette formation est de la responsabilité des sociétés savantes et des universités, non de celle d'un fabricant de machines.

M. Jean-Yves Le Déaut. Qui souhaite intervenir ou poser des questions ?

M. Serge Tisseron. Je voudrais revenir sur ces projections tout à fait humaines consistant à prêter des intentions et des émotions à tout ce qui bouge, notamment aux robots, pour signaler une autre illusion nuisible qu'il m'a semblé sentir affleurer à certains moments de ce débat. Il s'agit de l'idée qu'un robot serait une sorte d'organisme fermé, semblable à l'humain.

Tous les spécialistes des robots insistent sur leurs capacités d'apprentissages mais aussi sur le fait que les résultats de celui-ci sont transmis sur un serveur distant, tous les robots du même modèle puisant dans ce dernier, pour se remettre à jour en permanence. Autrement dit, un robot isolé, cela n'existe pas, si ce n'est en laboratoire. Mais, très vite, un grand nombre de robots sera inter-communicant, plutôt qu'interconnecté. En tout cas, le sujet de la robotique sera celui de la communauté des robots. D'ailleurs, toutes les préoccupations actuelles concernant l'intelligence artificielle ne portent pas sur l'idée qu'un fou la créerait un jour dans son laboratoire, mais que, à force de fabriquer, de-ci de-là, de petits bouts d'intelligence, un jour ceux-ci pourraient se réunir pour constituer quelque chose d'inattendu. Autrement dit, il ne faudrait pas tomber dans le déni de l'interconnexion ou de l'intercommunication des robots.

Je pense qu'une solution pourrait consister à implémenter, comme cela a été évoqué, des logiciels éthiques- on retrouve un peu la logique des lois d'Asimov, même si celles-ci ne s'appliqueraient pas. Une autre possibilité pourrait être de créer une sorte de communauté des robots, de Facebook des robots, permettant une autorégulation. Cela permettrait de rompre complètement avec l'idée que si un robot fait une bêtise, c'est lui qui est responsable, sous prétexte qu'il aurait été dans la situation de la faire, alors que tous les robots du même modèle et ayant bénéficié du même apprentissage auraient fait exactement la même erreur dans la même situation. Je pense qu'il va falloir vraiment penser le sujet de la robotique comme celui de la communauté des robots, pas comme les robots auxquels nous avons à faire dans nos pratiques quotidiennes.

M. Jean-Yves Le Déaut. Je donne la parole à M. Raja Chatila.

M. Raja Chatila. Un terme a été prononcé à plusieurs reprises, auquel on n'a peut-être pas accordé suffisamment d'importance, c'est celui de norme ou de standard. Je crois que c'est un point très important. Dès lors que des produits seront développés, ils vont être amenés à respecter certains standards. Qui les dictera ? Il est important de se poser cette question, parce que celui qui élaborera les standards bénéficiera, bien évidemment, d'une certaine maîtrise du marché. J'attire donc votre attention sur ce fait, et la nécessité de trouver les moyens pour que l'industrie française soit partie prenante de l'élaboration des différents normes ou standards.

Mme Dominique Gillot. M. Stéphane Pénet a évoqué les questions de responsabilité et de dommages. Qu'en est-il aujourd'hui, par exemple, pour les jeux, de plus en plus sophistiqués, parfois assimilables à des automates ou àdes robots, mis entre les mains d'enfants ou de jeunes adultes ? Comment sont-ils assurés et qui assume la responsabilité des éventuels dommages aux tiers ?

Ensuite, Mme Sophie Touhadian-Giely a mentionné les niveaux de responsabilité dans l'autonomie des véhicules. Est-il possible de faire un parallèle avec la responsabilité des pilotes d'avions qui passent le relais du pilotage à des robots ? J'ai pris connaissance de plusieurs rapports à ce sujet, ainsi que des revendications des pilotes, qui voudraient bénéficier d'une formation beaucoup plus poussée pour être à même de maîtriser l'automatisme et de reprendre la main en cas de défaut de pilotage susceptible de conduire à une catastrophe. Lorsqu'un tel cas se présente, il interroge toute la chaîne de responsabilité, ce qui rejoint votre préoccupation.

Enfin, M. Jacques Hubert est revenu sur le problème de la formation en chirurgie robotique. Certes, le fabricant assure la formation à l'utilisation des robots chirurgicaux mais l'habileté du praticien à s'emparer du robot et à y introduire sa propre expérience entre également en ligne de compte. Cela pose un problème d'évaluation de ces différentes responsabilités.

M. Hugues Aubin. L'enjeu de l'automobile, représentant 50 % du marché de l'assurance, n'a été envisagé que dans un écosystème avec un fabricant et un propriétaire, déléguant la conduite à une machine, avec ou sans conscience.

Dans l'écosystème que j'ai découvert depuis trois ans, on télécharge les robots, les fabricants sont parfois des particuliers, ou le Fab Lab du coin. Les plans sont reproduits et dotés de licences de fabrication pour des revendeurs Chinois, Américains, etc. ceux-ci reversent les droits de fabriquer et de distribuer un matériel documenté, autour duquel les gens qui le souhaitent participent au processus d'innovation, comme pour la carte électronique Arduino, avec une usine par continent, mais sans brevet.

De nombreuses autres innovations bouleversent les écosystèmes en place : les mises à jour physiques, le Center for Bits and Atoms du MIT, qui étudie comment transformer les données en objets et les objets en données, la jonction entre biologie et informatique, le passage du PITO (Product In, Trash Out) au DIDO (Data In, Data Out), les utilisateurs qui recomposent l'écran de leur téléphone intelligent ou leur domotique et vont télécharger demain les mises à jour de leur voiture, les imprimantes tridimensionnelle mutualisées, des machines qui vont peut-être assembler des atomes, etc. Tout cela n'arrivera pas dans vingt ans mais beaucoup plus simplement.

J'adhère beaucoup à l'idée d'une reconsidération possible de la loi, comme pour la bioéthique, par rapport aux effets constatés et à la prise de conscience citoyenne. Il faut un cadre qui existe aujourd'hui: la responsabilité, la propriété, le droit d'usage, etc. Mais quelle est la formation des citoyens sur les capteurs qui les entourent et les données ? Comment hybrider cette économie avec l'ancienne ? Je pense qu'il faut également en débattre puisque, demain, les gens paieront peut-être leur assurance dans le temps de location d'un véhicule mais n'auront sans doute plus, les trois quarts du temps, une assurance pour un véhicule personnel. Je voulais juste souligner que nous ne serons peut-être plus demain nécessairement dans les circuits anciens de propriété ou d'innovation fermée.

M. Jean-Yves Le Déaut. L'audition touchant à sa fin, nous allons écouter les réponses, avant de conclure.

M. Stéphane Pénet. Ces questions sont extrêmement importantes. Il ne faut pas opacifier le débat, en arguant de l'inapplicabilité du droit de la responsabilité. Ainsi qu'indiqué, les robots font appel, suivant leur domaine d'application, au droit de la responsabilité civile médicale, de la responsabilité civile automobile, de la responsabilité des produits défectueux, de la responsabilité du chef de famille, etc. À ce jour, nous disposons, par conséquent, d'un ensemble de droits de la responsabilité opérationnels. Il convient juste de déterminer, dans chacun de ces domaines, si des aménagements seront nécessaires pour prendre en compte les particularités des robots. Il ne faut donc pas compliquer les choses. Je ne crois pas du tout en la création d'un droit spécifique de la responsabilité des robots.

Mme Dominique Gillot posait la question de l'assurance des drones, sur laquelle nous avons été sollicités par le Secrétariat général de la défense et de la sécurité nationale, chargé par le Parlement de publier un rapport à ce sujet. Nous avons simplement expliqué que si un enfant mineur fait une bêtise avec son drone, ses parents sont responsables et feront jouer leur assurance responsabilité civile en cas de dégâts causés à des tiers. Les dispositions existantes s'appliquent donc bien. Une clarification serait néanmoins utile sur le fait d'assimiler, ou pas, l'utilisation d'un drone à l'aéromodélisme, ou encore sur les obligations à respecter en fonction de la taille du drone. Pour autant, il n'y a pas lieu d'évoquer un droit de la responsabilité des robots qui serait totalement illusoire et utopique.

M. Jean-Yves Le Déaut. Je vais donner la parole au Pr Jacques Hubert, qui m'avait indiqué souhaiter intervenir pour soulever des questions juridiques liées à la robotique en chirurgie.

Voici juste un an, à la suite du survol de centrales nucléaires par des drones, l'Office a organisé une audition publique, dans cette même salle, avec la totalité des acteurs concernés. Je crois que cela a été très efficace, puisque vous avez évoqué le rapport du Secrétariat général de la défense nationale et que ces questions de droit ont été clarifiées. Cette démarche n'a pas abouti à une nouvelle loi, mais à des clarifications et à des projets de l'Agence nationale de recherche sur la détection audio et vidéo d'objets non métalliques, tels que des drones. Un an plus tard, il n'y a plus de survols mais ils peuvent se renouveler, d'autant qu'il s'agissait probablement d'opérations de communication sur la sûreté des centrales nucléaires. Je crois qu'il est important, en tout cas, de traiter d'un sujet d'actualité quand il porte sur des liens entre sciences, technologies, et problèmes de société.

M. Jacques Hubert. Mme Dominique Gillot a posé la question importante de l'évaluation. La formation et l'évaluation sont les deux faces d'une même pièce. Il est possible de s'interroger sur l'indépendance d'une évaluation réalisée par l'entreprise qui commercialise le matériel et prodigue la formation. Celle-ci peut-elle, par exemple, se permettre de recaler une personne d'un niveau insuffisant ? Cette incertitude a conduit l'Académie de chirurgie à recommander de déléguer à la fois la formation et l'évaluation aux sociétés savantes et aux universités.

Mme Sophie Touhadian-Giely. Je vais répondre à la question de Mme Dominique Gillot relative à l'aéronautique. La comparaison est intéressante. Évidemment, nous l'avons également faite. Nous avons beaucoup à apprendre de ce secteur. Toutefois, il faut garder à l'esprit que les deux configurations sont radicalement différentes. Sauf erreur de ma part, un pilote d'avion ne peut quitter son poste et relâcher sa vigilance, comme cela est envisagé à moyen terme pour l'automobile. Une autre différence significative, même si elle ne relève pas d'une problématique juridique mais plutôt technique, découle de la réflexion en cours sur la mise en sécurité du véhicule, suite à un incident ou une perte de contrôle. La solution envisagée consisterait à l'arrêter au bord de la route, ce qui est évidemment impossible pour un avion. De fait, les risques et les solutions ne sont pas tout à fait identiques dans ces deux domaines.

PROPOS CONCLUSIFS

M. Jean-Yves Le Déaut, député, président de l'OPECST. Je voudrais vous remercier pour votre participation à cette matinée. Le débat a été riche, passionnant et varié. Je vais essayer de reprendre quelques-uns des points évoqués qui m'apparaissent importants.

Un robot a la capacité de percevoir son environnement, d'agir, de se mouvoir, quelquefois de prendre des décisions. Il peut remplacer ou assister l'humain, lui rendre service, le réhabiliter, le réparer ou l'augmenter. Vous avez tous insisté sur la multiplicité des applications des robots, un robot industriel n'ayant pas du tout les mêmes caractéristiques qu'un robot chirurgical, si bien qu'il est difficile de légiférer face à une telle diversité. C'est exactement ce même type de problématique que nous avions rencontré dans d'autres domaines, tels que les biotechnologies, les nanotechnologies, les OGM, etc. S'agissant des robots, l'une des questions qui leur est commune concerne la capacité à contrôler une prise de décision autonome, par exemple en les débranchant.

Un deuxième point, sur lequel vous avez fortement insisté, concerne l'absence de régulation, de législation ou de normalisation. Néanmoins, vous avez jugé qu'il ne faut probablement pas une loi spécifique aux robots mais plutôt adapter le corpus législatif existant en fonction de problèmes nouveaux qui peuvent se poser. En revanche, il faut mettre en place des normes parce qu'il faut normaliser les technologies.

Vous avez également posé la question globale du respect de la vie privée et de la protection des personnes. C'est également un vrai sujet. Vous avez évoqué le robot caméléon. Est-il un ange gardien ou un Big Brother ? Vient-il aider ou, au contraire, vient-il espionner ? Plusieurs d'entre vous ont mentionné la communauté des robots.

La majorité des intervenants s'accorde sur le fait que le robot n'est pas sujet de droit et n'a pas à avoir de personnalité juridique. Néanmoins, il faut pouvoir régler le problème de la responsabilité entre l'acquéreur, le revendeur, l'intégrateur, le fabricant, etc. L'un d'entre vous a proposé une charte constitutionnelle de la robotique. En tout cas, il faut une charte et des règles générales, même si celles-ci ne doivent pas forcément être inscrites dans la Constitution.

M. Hugues Aubin a mentionné, à plusieurs reprises, la propriété intellectuelle et la possibilité d'accès à certaines fonctions des robots. C'est une question qui a été évoquée, la semaine dernière, au Bundestag. Comme en informatique, sur l'Open source et l'Open Data, se pose la question de la captation permanente des données. Nous avons organisé une audition publique sur le traitement massif des données ou Big Data en agriculture, à l'occasion de laquelle a été révélé le rôle des capteurs dans les matériels agricoles. La collecte d'informations sur les techniques culturales permet de disposer de renseignements économiques sur les productions agricoles. Avec l'INRIA et avec les organisations agricoles, nous nous sommes posé ces mêmes questions de la propriété des données.

Vous avez aussi insisté sur les convergences entre les disciplines, notamment entre les sciences humaines et sociales et la robotique. C'est sur ces convergences que travaille l'Office parlementaire. Elles sont à mon sens essentiels.

Un autre point est que si la science doit être libre, il faut quand même s'interroger - et je le dis en tant que scientifique dans l'âme - sur le temps de la science et le temps de l'innovation. Quand l'innovation vient très vite après la science, parfois elle ne laisse pas suffisamment de temps à la réflexion.

Vous avez également parlé des robots qui ont du coeur et de la nécessité de mettre en place des règles générales, notamment dans le domaine de l'apprentissage de la robotique. Le Pr Jacques Hubert a évoqué l'importance de la simulation, comme dans l'aéronautique et certains autres secteurs, ce qui évite un certain nombre de catastrophes. J'ai d'ailleurs eu l'occasion de visiter son école de chirurgie robotique qui est la première en Europe et forme énormément de chirurgiens.

Je crois qu'on ne compliquera pas le droit et qu'on ne fera pas de la géologie politique en ajoutant une nouvelle couche législative, sans prendre en compte les dispositions existantes, en tout cas nous ne le préconiserons pas. Cette audition sera très utile à nos collègues qui vont par la suite être amenés à se poser ces questions de l'adaptation de la législation.

EXTRAIT DE LA RÉUNION DE L'OPECST DU 3 MARS 2016 PRÉSENTANT LES CONCLUSIONS DE L'AUDITION PUBLIQUE

M. Jean-Yves Le Déaut, député, président de l'OPECST. Le 10 décembre 2015, l'Office parlementaire a organisé une audition publique ouverte à la presse sur le thème : « Les robots et la loi », à la suite d'une saisine formulée, en application de l'article 6 ter de l'ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires, par M. Jean-Jacques Urvoas, président de la commission des lois de l'Assemblée nationale. En effet, l'accélération du développement des nouvelles applications de la robotique, dans des secteurs aussi variés que la défense, la médecine, les transports et l'assistance aux personnes, pose avec une particulière acuité la question des implications de ces innovations en termes de droits et de sécurité des personnes.

Cette audition, préparée en liaison avec l'INRIA, par l'entremise de M. Claude Kirchner, conseiller du président et directeur de recherche, représentait une opportunité d'aborder le sujet des robots qui n'avait jusqu'alors pas été traité en tant que tel dans le cadre de l'Office. L'étude qui vient d'être évoquée en constitue une suite logique.

Avant d'aborder l'objet même de la saisine, il s'avérait, par conséquent, nécessaire de préciser le périmètre de la robotique et les effets prévisibles d'une plus large diffusion de celle-ci sur la société. De ce fait, cette audition comportait d'abord deux tables rondes destinées, d'une part, à décrire l'état de l'art et les perspectives de la recherche en robotique, et, d'autre part, à mieux cerner les impacts sociétaux, économiques et éthiques de la diffusion des robots dans la société. Sur cette base, la troisième et dernière table ronde a traité des dispositions d'ordre juridiques nécessaires pour encadrer et accompagner le développement de la robotique.

Une première interrogation concernait la définition du champ de la robotique. J'ai moi-même évoqué, en introduction de cette audition, un rapport de 2010 sur les apports des sciences et techniques à l'évolution des marchés financiers. Ce rapport a mis en lumière le rôle croissant de logiciels financiers, communément qualifiés de robots de trading à haute fréquence. Toutefois, les membres de l'OPECST et les intervenants se sont accordés, après l'intervention de M. Raja Chatila, directeur de l'Institut des systèmes intelligents et de robotique, sur une définition limitant la notion de robot aux seules machines matérielles, dotées de capteurs permettant de percevoir l'environnement, d'effecteurs permettant d'agir sur cet environnement, ainsi que d'un ordinateur leur donnant une certaine capacité de décision.

Une deuxième clarification nécessaire portait sur l'état de l'art de la robotique et ses développements à venir prévisibles. L'évolution de la robotique depuis un quart de siècle résulte de la convergence de toute une série de progrès, intervenus parallèlement dans les sciences et les technologies du numérique : en matière de conception des logiciels, d'apprentissage automatique - en anglais machine learning -, de vitesse des processeurs, de miniaturisation des capteurs et des effecteurs, de réduction des coûts et des délais de développement, etc. Ces progrès ont permis d'améliorer les performances des robots, en termes de perception et de modélisation de leur environnement, de locomotion et de manipulation des objets. À côté de recherches menées sur un plan technologique, M. Pierre-Yves Oudeyer, directeur de recherche à l'Inria, a insisté sur l'importance de l'interaction entre les spécialistes des sciences et technologies robotiques, les juristes, les philosophes, et, en particulier les chercheurs en sciences humaines et sociales.

La capacité des robots à interagir avec les humains et avec leur environnement s'est ainsi trouvée notablement améliorée. Les robots de nouvelle génération étant désormais à même d'investir la plupart des espaces publics et privés, les applications envisageables s'avèrent extrêmement étendues. Elles vont de l'exécution de tâches domestiques, comme tondre une pelouse ou nettoyer le sol, à des missions de sécurité civile, en passant par l'assistance aux personnes handicapées. Pour autant, comme l'ont indiqué les chercheurs présents à l'audition, les robots les plus avancés demeurent très éloignés de l'image véhiculée par la littérature et le cinéma de science-fiction. Leur appréhension de l'environnement reste rudimentaire, leurs gestes encore maladroits et leur capacité d'adaptation embryonnaire.

En dépit les déclarations très médiatisées de plusieurs entrepreneurs américains célèbres, la perspective de robots égalant l'intelligence humaine,
a fortiori capables de se faire passer pour des humains, semble à ce jour illusoire. Il existe toujours un fossé, heureusement infranchissable, entre la science-fiction et la réalité de la science. Si une machine gagne aux échecs contre une personne humaine, c'est parce que les chercheurs sont parvenus à compiler dans l'ordinateur qui la commande la somme des intelligences consacrées au jeu d'échec depuis des décennies.

Malgré ces limitations, les avancées déjà réalisées devraient permettre le développement rapide de nouvelles applications de la robotique dans certains secteurs : bien entendu, dans les usines mais aussi les transports, avec le véhicule connecté, l'éducation ou encore l'aide aux personnes et aux soins. Par exemple, les premiers véhicules entièrement automatisés pourraient apparaître sur les routes dans un délai de cinq à dix ans seulement. Comme l'a indiqué au cours de cette audition M. Renaud Champion, représentant du groupe Syrobo du Symop, les évaluations de l'impact économique de la robotique dans les prochaines années divergent considérablement mais l'une des plus prudentes, celle de la Commission européenne, estime ce nouveau marché à un peu plus de quinze milliards d'euros.

La recherche et l'innovation représentent bien évidemment deux atouts majeurs pour conquérir ce nouveau marché. En dehors du maintien des dispositifs déjà en place, plusieurs pistes transverses ont été esquissées pour les renforcer, par exemple l'organisation de défis destinés à impliquer les potentiels utilisateurs finaux de ces technologies, ou l'accompagnement à plus long terme des jeunes entreprises innovantes (JEI). Par ailleurs, M. Guillaume Devauchelle, vice-président de l'innovation du groupe Valéo, a souligné le besoin d'une adaptation transitoire et limitée de la réglementation, notamment du code de la route, pour faciliter l'expérimentation en grandeur réelle de nouveaux usages, expérimentation indispensable à l'émergence des innovations dans le domaine du numérique.

Toutefois, l'impact d'une large diffusion de la robotique dans la société ne se limitera pas à de nouvelles opportunités d'innovation et de développement de marchés. Elle pourrait également apporter des solutions à des problèmes de société tels que la dépendance des personnes âgées - par l'intermédiaire de l'assistance aux personnes et aux soins -, la réduction de la population active - par l'automatisation d'un nombre croissant de tâches aussi bien matérielles qu'intellectuelles - ou les questions posées par le changement climatique, en modifiant radicalement l'organisation du transport routier. Le marché du travail sera, lui aussi, nécessairement profondément transformé par l'arrivée des robots. Certains métiers pourraient disparaître, par exemple dans les transports, alors que d'autres, liés au surcroit d'activité généré par ce nouveau marché, viendraient s'y substituer. La réussite de cette transition implique de la préparer, pour mieux identifier les risques et les opportunités.

S'agissant des enjeux éthiques de la robotique, ceux-ci ont été évoqués tout au long des trois tables rondes. Au travers de sa commission de réflexion sur l'éthique de la recherche (CERNA), l'alliance des sciences et technologies du numérique, Allistene, a publié fin 2014 un rapport sur l'éthique de la recherche en robotique, proposant des recommandations destinées aux chercheurs. Par ailleurs, la CERNA incite les écoles d'ingénieurs et les masters d'universités à inclure dans les programmes de formation des modules courts sur les questions éthiques ainsi que sur les relations entre science et société. Cette approche apparaît particulièrement pertinente puisque c'est au stade de la conception des robots que la prise en compte des questions éthiques s'avère la plus efficace.

Plusieurs intervenants ont insisté sur les risques de dérives liés à l'interaction affective des hommes avec les robots. M. Serges Tisseron, chercheur associé au Centre de recherches psychanalyse, médecine et société (CRPMS), a mis en évidence la propension naturelle des êtres humains à attribuer des intentions et des émotions, voire également des sensations à toutes choses animées. Le développement de l'empathie artificielle, visant à donner aux robots la capacité d'interpréter les sentiments humains et à y répondre par des réactions apparemment adaptées, pourrait encore aggraver cette dérive. Certains fabricants de robots semblent jouer sur cette ambiguïté pour faciliter l'acceptation sociale des robots. Cette démarche apparaît dangereuse et pourrait conduire, à terme, à un rejet de la robotique. Une piste plus appropriée pour assurer une meilleure acceptabilité sociale des robots a été suggérée : celle de la co-conception qui consiste à associer très en amont les futurs utilisateurs au développement des nouveaux produits.

La présence croissante des robots dans la société pose également la question du respect de la vie privée dans un monde où la captation des données - comme cela vient d'être évoqué avec la CNIL - deviendrait permanente et multiforme, ainsi que du contrôle de l'usage de ces données; c'est une question transverse puisqu'elle concerne aussi les objets connectés. Des millions de capteurs, de caméras et de scanners vont générer des flux, dont on n'imagine pas aujourd'hui le volume et tous les usages. Par exemple, comme l'a mis en lumière M. Jean-Pierre Merlet, responsable scientifique du projet HEPHAISTOS, les robots utilisés à domicile pour l'assistance à la personne produiront en permanence un très grand nombre de données sensorielles, dont pourront être extraits des indicateurs médicaux et comportementaux. D'où des interrogations sur l'identité des propriétaires des données, l'accès à celles-ci et la nature de leur protection.

Comme pour d'autres technologies, un renforcement de la culture scientifique et technique des citoyens apparaît aujourd'hui nécessaire pour préserver la capacité de la société à intégrer les innovations dans le respect des libertés publiques. L'apprentissage d'un langage de programmation et la possibilité de s'initier à la logique de construction des robots en utilisant des « briques » élémentaires pourraient permettre une meilleure appropriation de ces nouvelles technologies. Par ailleurs, l'utilisation des robots eux-mêmes à des fins pédagogiques pourrait constituer une piste pour renforcer, dès le plus jeune âge, la capacité à maîtriser les outils du numérique.

La dernière table ronde a mis en évidence deux approches opposées pour l'encadrement législatif du développement de la robotique. La première approche considère le robot comme un objet radicalement nouveau, nécessitant la création d'un cadre juridique spécifique, tout comme cela avait été proposé au début de son développement pour l'Internet. Un tel cadre viserait notamment à mieux prendre en compte, sur le plan juridique, l'autonomie de décision des robots. Toutefois, les robots actuels ne sont pas dotés d'une telle autonomie et rien n'indique qu'ils pourront l'être à l'avenir. Qui plus est, la diversité des applications de la robotique - qui a conduit l'un des intervenants à la qualifier de « caméléon juridique » - soumettra les robots à des contraintes légales elles-mêmes très diversifiées qu'il serait difficile de toutes intégrer.

La deuxième approche conduit, au contraire, à considérer que la législation existante permettra, éventuellement au prix d'aménagements limités, de prendre en compte les conséquences de l'intrusion de la robotique dans ses divers domaines d'application. Ce point de vue a été notamment défendu par M. Stéphane Pénet, directeur des assurances de biens et de responsabilité de la Fédération française des sociétés d'assurance (FFSA), qui a montré dans quelles conditions les dispositions existantes pourraient permettre d'assurer les futurs véhicules autonomes, en imposant des contraintes réglementaires complémentaires, en termes de normalisation des produits, de formation des utilisateurs et de traçabilité des accidents et des incidents. De telles réflexions pourraient être menées, domaine par domaine, dès lors que la perspective de déploiement de solutions robotique se précise.

À cet égard, l'autonomie de décision du robot, même si elle reste limitée, posera dans de nombreuses applications de nouvelles difficultés pour l'identification des responsabilités des différents acteurs concernés : concepteur, fabricant, vendeur, opérateur, utilisateur ou bénéficiaire. Comme l'a souligné M. Thierry Daubs, maître de conférences à l'université de Rennes, une personne physique ou morale devra nécessairement être responsable d'un robot, pour en couvrir, le cas échéant, les dommages. Il conviendra, pour chaque application, de trouver un équilibre de répartition de responsabilités adapté.

En conclusion, l'audition publique du 10 décembre 2015 a permis de mieux cerner les contours des technologies robotiques, de comprendre les circonstances de leur émergence et les potentialités des développements en cours. La capacité de cette nouvelle génération de robots à interagir avec les hommes et leur environnement leur ouvre un champ considérable d'applications.

Dans les prochaines années, tout au plus dix ans, plusieurs secteurs vont être profondément affectés par l'introduction de solutions robotiques inédites. Leurs impacts sur l'économie et l'ensemble de la société nécessite de préparer la transition vers cette situation.

À cette fin, l'Office parlementaire propose les orientations suivantes :

1. À la suite de cette audition publique, qui répond à une demande de la commission des Lois de l'Assemblée nationale, l'Office parlementaire engagera une étude approfondie sur la question de l'intelligence artificielle, dont elle vient d'être saisie par la commission des Affaires économiques du Sénat.

2. L'Office parlementaire estime que la multiplicité des applications des robots devrait conduire à adapter, au cas par cas, la législation existante, en fonction des problèmes spécifiques posés, plutôt que de tenter de légiférer de manière globale. Pour les applications les plus matures, telles que les véhicules autonomes, il convient d'identifier dès à présent, en lien avec les chercheurs et les organisations professionnelles, les adaptations nécessaires des codes et règlements.

3. Il est également souhaitable d'engager une réflexion sur la façon dont il serait possible d'autoriser, dans des délais réduits, en dérogeant exceptionnellement à la réglementation en vigueur, avec une ampleur et une durée limitée, certaines expérimentations en matière de robotique, et plus généralement de technologies numériques, pour prendre en compte les cycles d'innovation extrêmement brefs dans ce domaine. Le droit à l'expérimentation devrait être reconnu. Par exemple, dans le domaine des équipements biomédicaux, tous les fabricants sont contraints de réaliser leurs tests aux États-Unis car ce droit à l'expérimentation n'existe pas en France.

4. Le respect de la vie privée et de la protection des personnes, doivent être garanti. La question de la protection et de la propriété des données collectées, partout et en permanence, par les robots, doit être régie par des systèmes ouverts, permettant de préserver les droits de chacun des acteurs concernés, et la confidentialité des données.

5. Un effort particulier doit être engagé pour assurer le meilleur niveau de représentation des scientifiques et industriels français au sein des comités en charge de la normalisation des technologies du numérique, notamment celles contribuant au développement de la robotique, ainsi qu'au sein des instances de révision des traités internationaux impactant ces technologies. L'instance à mettre en place pour assurer cette vigilance reste à définir mais elle devra nécessairement s'appuyer sur un consortium des industriels du secteur. De façon générale, les liens sont plus ténus entre diplomates et chercheurs en France et en Europe, qu'aux États-Unis, où les experts sont beaucoup plus présents dans les négociations internationales.

6. Une réflexion approfondie sur l'éthique de la robotique doit être lancée sur des questions telles que la prise de décision autonome, l'effacement des frontières entre l'humain et la machine, la réversibilité de l'augmentation, etc. À cette fin, les attributions du comité consultatif national d'éthique (CCNE) pourraient être étendues au domaine des sciences du numérique, d'autant que leurs interactions, sur le plan éthique, avec les sciences de la vie et de la santé ne pourront que se renforcer dans les années à venir.

7. L'Office parlementaire préconise un soutien renforcé aux différentes disciplines concernées par le développement de la robotique. En 2015, l'Office avait demandé un soutien aux technologies de détection vidéo et audio des drones. Il insiste aujourd'hui sur l'effort particulier à accorder dans les domaines de la robotique industrielle, dans le cadre des programmées liés à l'usine du futur, des véhicule autonomes connectés, et de la robotique chirurgicale, notamment pour les programmes de formation des chirurgiens par des méthodes de simulation, proches de celles utilisées dans l'aviation.

8. Les convergences entre les disciplines doivent être soutenues par des programmes spécifiques de l'ANR, tout particulièrement les convergences entre la robotique et les sciences humaines et sociales. Les programmes des formations universitaires, scientifiques et technologiques, doivent intégrer des modules courts sur les questions d'éthique ainsi que de relations entre science et société, afin que les futurs ingénieurs et chercheurs disposent de moyens et d'instruments adaptés et soient formés à réfléchir par eux-mêmes sur ces sujets.

Voilà, mes chers collègues, les conclusions qui se sont imposées à la suite de cette audition.

Mme Dominique Gillot, sénatrice. Je pense que nous sommes au début d'une étude extrêmement importante, compte tenu de l'étendu du champ de réflexion abordé et de ses multiples ramifications. Ainsi, l'audition du mois de janvier 2016 sur les liens entre sciences humaines et sciences technologiques a révélé l'utilisation par Daesh, indifférent aux questions d'éthique, de robots empathiques pour répondre aux jeunes sur les réseaux sociaux. Par ailleurs, en matière d'accessibilité des personnes handicapées, les universités d'Artois et de Lille mettent en oeuvre la détection émotionnelle, pour mieux guider les usagers dans l'accessibilité, le repérage dans l'espace, etc. Par conséquent, cette question de l'empathie des robots, évoquée dans les conclusions de cette audition fait, d'ores et déjà, l'objet d'expérimentations.

Dans le cadre de l'étude sur l'intelligence artificielle, il sera nécessaire d'inventorier toutes les recherches en cours, notamment dans le domaine de l'assistance aux personnes âgées. Ces développements pourraient apparaître vertigineux à certains éthiciens, compte tenu des questions posées à la suite de cette audition.

L'OPECST a ensuite approuvé les conclusions et autorisé la publication du rapport.