Allez au contenu, Allez à la navigation

COMPTES RENDUS DE L' OFFICE PARLEMENTAIRE D'EVALUATION DES CHOIX SCIENTIFIQUES ET TECHNOLOGIQUES


Jeudi 7 décembre 2017

- Présidence de M. Gérard Longuet, sénateur, président, puis de M. Bruno Sido, sénateur -

La réunion est ouverte à 9 heures.

Échange de vues avec M. Rémi Quirion, scientifique en chef du Québec

M. Gérard Longuet, sénateur, président. - Deux points sont à l'ordre du jour. Nous allons, tout d'abord, accueillir M. Rémi Quirion, scientifique en chef du Québec, que je remercie de sa présence et qui nous expliquera le sens de cette dénomination, son rôle ainsi que les moyens dont il dispose. Le deuxième temps de cette réunion sera consacré à la présentation, par notre premier vice-président, Cédric Villani, des réflexions qu'il conduit actuellement sur l'intelligence artificielle, des auditions qu'il a engagées et de l'avancement de cette commande gouvernementale sur ce que pourrait être une politique nationale française en matière d'intelligence artificielle.

M. Rémi Quirion, scientifique en chef du Québec. - Merci beaucoup, M. le président, pour cette invitation. C'est vraiment un plaisir d'être avec vous ce matin.

J'ai effectué la majorité de ma carrière à l'université McGill, dans le domaine des neurosciences. J'y ai mené des recherches sur le cerveau, et plus précisément sur la dépression, le suicide, la schizophrénie, la maladie d'Alzheimer. Cela m'a offert la chance de côtoyer des étudiants du monde entier, dont certains venant de France, et j'ai trouvé très stimulant de travailler avec toutes ces personnes au cours des trente dernières années. En bout de piste, j'ai été nommé membre du comité scientifique international pour le plan Alzheimer France, auquel je contribue toujours et qui se réunit deux fois par an.

Avant d'échanger avec vous, je souhaiterais vous donner quelques éléments d'information sur le rôle du scientifique en chef du Québec et sur les Fonds de recherche, puis terminer, pour faire le lien avec la deuxième partie de votre réunion, par quelques réflexions autour de la question de l'intelligence artificielle.

Le poste de scientifique en chef a été créé voici près de sept ans par le gouvernement du Québec. J'en suis le premier titulaire. Mon mandat est de conseiller le ou la ministre de l'économie, de la science et de l'innovation en matière de développement de la recherche et de l'innovation au Québec. Mon activité s'effectue donc du côté des élus, non des fonctionnaires. Ma ministre, Mme Dominique Anglade, est également vice-première ministre du Québec. Le lien est particulièrement étroit avec ce ministère, mais je noue de plus en plus de partenariats avec tous les ministères du gouvernement du Québec et travaille en interaction avec le bureau du premier ministre actuel, M. Philippe Couillard, neurochirurgien de formation, que je connais de longue date puisque nous avons fréquenté la même université et avons eu l'opportunité de travailler ensemble bien avant qu'il entre en politique. Il est certain que lorsqu'il s'agit d'avoir avec un gouvernement des discussions relatives à la recherche et à l'innovation, le fait d'avoir un premier ministre neurochirurgien peut aider.

Une autre de mes missions importantes concerne les partenariats internationaux de recherche. Par exemple, j'étais à Rome cette semaine pour explorer des partenariats à l'international avec l'Italie. Le Québec, s'il dispose d'un territoire très vaste, est un pays relativement peu peuplé puisqu'il ne compte qu'environ huit millions d'habitants. C'est, en quelque sorte, la banlieue de New-York ou de Shanghai. Si l'on veut augmenter l'impact de ce que l'on fait, il convient donc de travailler en réseau, en collaborant avec des collègues aux États-Unis, bien évidemment, mais également, de plus en plus, en Europe.

Au Québec, les universités sont très souvent organisées en facultés disciplinaires et en départements (biochimie, chimie, etc.). Une autre de nos missions est de développer la recherche intersectorielle, pour faire face aux grands défis de société, largement partagés à travers le monde. On pense, par exemple, aux changements démographiques, avec le vieillissement des populations. Le Québec est le deuxième État au monde en termes de moyenne d'âge de sa population, le pays le plus âgé étant le Japon. Les autres provinces canadiennes sont un peu plus jeunes. Cela n'est pas uniquement négatif mais représente un défi : il s'agit de voir comment développer de nouvelles façons de vieillir en santé. Or cela ne relève pas uniquement du champ de la médecine mais a des implications en termes d'art, de culture, de nouvelles technologies qui permettent de rester à la maison plus longtemps. Les changements climatiques et le développement durable sont également des enjeux importants, qui requièrent les regards d'experts en océanographie, en santé, en sciences sociales, etc.

Il nous appartient en outre de promouvoir les carrières en recherche pour les jeunes Québécois et les jeunes étrangers qui viennent faire leurs études dans notre réseau universitaire.

Par ailleurs, nous avons pour mission de promouvoir auprès du grand public la culture scientifique, en travaillant avec la société civile pour expliquer la méthode scientifique, sans toutefois entrer dans le détail des résultats. Cela nous semble de plus en plus important, dans un monde de faits alternatifs et de fausses nouvelles.

Particularité du modèle québécois, je préside les conseils d'administration et dirige les trois Fonds de recherche du Québec : le premier dans le domaine de la santé, le deuxième dans le secteur du génie des sciences pures et le troisième dans le champ des sciences humaines et sociales, des arts et de la culture. Le mandat qui m'est confié est donc assez vaste. Toutefois, je bénéficie énormément de l'apport des membres des trois conseils d'administration environ 15 membres par conseil experts dans différentes disciplines. Cela me permet, lorsque je reçois des demandes de ma ministre de tutelle ou de collègues, d'y répondre rapidement.

J'ai beaucoup appris en un peu plus de six années au poste de scientifique en chef. Par exemple, j'ai connu, au cours de cette période, trois gouvernements et six ministres différents : l'une des clés est d'établir un lien de confiance avec les élus et les hauts fonctionnaires, qui ne passe pas nécessairement par la rédaction de longs rapports mais, bien souvent, par des contacts téléphoniques et une réactivité face aux demandes exprimées et aux questions posées.

Il est également important de ne pas oublier que mon rôle est celui d'un conseiller du gouvernement du Québec : il m'appartient donc de fournir au gouvernement des données probantes, sur la base de la science, de formuler des recommandations mais pas de décider. C'est le politique qui décide au bout du compte. Il ne faut pas l'oublier.

Il est en outre très important pour moi de comprendre l'environnement du décideur, dont la science n'est que l'un des aspects. Il faut également considérer d'autres données, en lien avec la réalité du monde politique.

Par ailleurs, il est essentiel de bien comprendre le processus de décision politique. Très souvent, en milieu académique, on rédige de longs rapports, des articles scientifiques, des demandes de subventions, qui impliquent de nombreux aller-retours, sur des mois : le processus est souvent très long. Or, aujourd'hui, lorsque la ministre m'appelle, elle a besoin d'avoir les informations qu'elle demande très rapidement, afin de pouvoir prendre une décision dans les heures suivantes. Les temps de réaction sont donc très différents.

Il est évident que l'on ne peut agir en vase clos : il est donc très important d'avoir un réseau d'appui au niveau du gouvernement, ce qui se passe relativement bien.

Il est aussi important de bien expliquer les raisons pour lesquelles on propose telle ou telle solution plutôt que telle autre : il ne faut pas laisser les faits parler d'eux-mêmes. Il est essentiel de bien communiquer le message.

Maintenir sa crédibilité scientifique apparaît également comme un élément clé auprès des élus comme des chercheurs. Il est fondamental de garder une crédibilité forte dans tous les secteurs et pas uniquement, en ce qui me concerne, dans le domaine des neurosciences, afin d'avoir l'appui de la communauté scientifique.

Il faut adopter une vision transversale et, par-dessus tout, faire preuve de résilience puisque, comme je vous l'indiquais, nous avons changé de gouvernement et de ministre de tutelle assez souvent. L'avantage de ce poste est de ne pas être associé à un gouvernement donné et de s'inscrire dans la durée, contrairement au poste de conseiller scientifique du gouvernement américain, qui est associé au président et change avec lui ou est supprimé.

Très souvent, les collègues du ministère des finances veulent des données pour pouvoir mesurer l'impact économique des investissements en recherche et innovation. En collaboration avec la filiale québécoise de KPMG, nous avons ainsi mené une étude pour évaluer les retombées économiques des investissements dans la recherche académique au Québec. Cette étude a montré que cela était équivalent, en termes de nombre d'emplois, au secteur des sciences de la vie (privé et public) et de l'aéronautique. Le retour sur investissement est donc très important, en plus de fournir des personnes de très haut niveau pour s'assurer d'une société du savoir de demain.

Plusieurs indicateurs quantitatifs sont utilisés. Le pourcentage du PIB consacré à la recherche et innovation est, au Québec, de l'ordre de 2,6 %. On visait 3 % mais le niveau a baissé depuis quelques années. Il n'empêche qu'au Canada, le Québec occupe la première place en termes d'investissements en recherche et innovation, la moyenne canadienne se situant à 1,9 %.

D'autres types d'activités de recherche sont facilement quantifiables, comme les brevets, les publications, etc.

Au Québec, nous avons, en outre, fait le choix de développer des programmes complémentaires aux programmes fédéraux : cela fait effet de levier et est un bon argument pour le ministère des finances.

Mais ces données ne rendent pas suffisamment justice à l'impact réel de la recherche dans la société. Certes les indicateurs quantitatifs sont nécessaires, mais nous avons aussi besoin d'histoires. J'assimile ainsi souvent les chercheurs à des conteurs. Imaginons, par exemple, qu'un député me demande de lui expliquer ce qu'apporte la recherche à son comté : je peux lui parler de la qualité de l'eau d'une rivière, de certains éléments de santé, de l'exploration minière ou de la préservation de l'environnement. Il est important de pouvoir disposer d'exemples très pratiques, concrets et probants de l'impact de la recherche sur l'ensemble du territoire québécois. Les chiffres sont importants mais il est aussi essentiel de pouvoir mettre tout cela en mots, surtout dans une période pré-électorale, comme c'est le cas actuellement.

Nous essayons par ailleurs de travailler avec les élus de tous les partis, de les informer régulièrement sur les activités scientifiques, notamment lors de petits déjeuners à l'Assemblée nationale du Québec. En général, deux chercheurs y sont invités à présenter leurs travaux en quatre à cinq minutes. Récemment, nous avons organisé une séance sur la recherche dans le grand nord québécois, avec la présentation de travaux en géologie et de leurs impacts sur la société. L'exercice est souvent assez difficile pour les chercheurs, habitués à donner de longues conférences, mais cela fonctionne très bien. De plus en plus de députés de tous les partis assistent à ces rendez-vous. Les informations aux élus passent également par le site web du scientifique en chef. Nous organisons aussi des rencontres avec le milieu politique : dans mon mandat à l'international, je participe de plus en plus à différentes missions du Premier ministre du Québec ou de certains ministères, dont le ministère des relations internationales et de la francophonie.

Pour ce qui est de la sensibilisation du grand public, nous travaillons avec les médias, notamment avec les médias sociaux. Par exemple, nous développons, avec l'agence Science Presse, un projet intitulé « Détecteur de rumeurs » qui permet, toutes les semaines, de mettre l'accent sur deux fausses nouvelles parues dans la presse. Il arrive, en effet, que certaines découvertes soient survendues : on lit régulièrement dans la presse que telle molécule va rapidement permettre de guérir Alzheimer ou telle autre maladie. Ce « Détecteur de rumeurs » nous permet d'insister sur la réalité du processus scientifique, les certitudes, les incertitudes. Le grand public est très friand de ce genre d'information. Ce programme est développé en collaboration avec les Fonds de recherche du Québec, l'Agence Science Presse et l'ensemble du réseau universitaire québécois.

Je souhaiterais à présent citer deux exemples dans lesquels les données probantes ont bien fonctionné pour l'un, moins bien pour l'autre. Le premier concerne la pêche hivernale. Des études de chercheurs dans le domaine montraient les risques liés à l'utilisation de poissons-appâts vivants, car il s'agissait souvent de carpes-roseaux extrêmement envahissantes. Sur la base de ces travaux, nous avons fait une proposition au ministère des forêts, de la faune et des parcs en vue d'interdire l'utilisation de ces appâts, dans le but de contrôler la prolifération de ces carpes. Notre préconisation a été suivie par le gouvernement du Québec même si cela a, bien sûr, eu un impact, en termes de tourisme, sur la pêche sportive.

Dans le deuxième exemple, notre proposition n'a pas reçu un accueil aussi favorable. Il s'agissait de protéger la migration des caribous dans le nord du Québec, par rapport à l'exploration forestière. Nous avions suggéré d'utiliser un chemin forestier comme voie alternative aux chemins prévus initialement par la compagnie qui souhaitait exploiter les forêts dans le grand nord. Finalement, notre proposition a été rejetée pour des raisons économiques.

Ainsi, si les données scientifiques sont importantes, les élus doivent aussi tenir compte d'autres types de données et paramètres. Je pense toutefois qu'il est toujours aidant, pour la prise de décision, de disposer de données probantes.

En résumé, après six ans comme scientifique en chef, il faut se rappeler que mon rôle est, avant tout, celui d'un conseiller et que la confiance est l'élément essentiel, à tous les niveaux : avec les élus, la haute fonction publique, la communauté scientifique et la société civile. Les données probantes et les évidences scientifiques sont également d'une grande importance : elles ne sont cependant que l'un des aspects du processus de décision politique. Les histoires à succès sont aussi très importantes. Enfin, je dirais que ce poste nécessite, par dessus tout, d'avoir une grande capacité de résilience et de prendre du plaisir dans ce que l'on fait. J'apprends chaque jour des choses nouvelles : c'est l'une des raisons pour lesquelles j'apprécie particulièrement cette fonction.

Je dirige par ailleurs les trois Fonds de recherche du Québec. Nous finançons ainsi l'excellence de la relève, c'est-à-dire les jeunes chercheurs, dans différents secteurs, avec trois domaines prioritaires : le vieillissement, le climat et la créativité, l'esprit d'entrepreneuriat. Nous venons ainsi de lancer un programme intitulé « Audace », dans lequel nous demandons aux chercheurs de nous faire des propositions audacieuses, impliquant de l'expertise dans au moins deux ou trois disciplines, afin de trouver de nouvelles solutions à nos grands défis de société. Je prends souvent, pour illustrer cela, l'exemple du base-ball : on ne veut pas nécessairement toujours aller du premier au deuxième but mais disposer, parfois, d'un coupe-circuit. Maintenant, les taux de succès en sciences dans les programmes sont tellement faibles que l'on prend de moins en moins de risques. Je pense donc qu'il faut essayer de réveiller cette capacité d'audace.

Nous sommes actuellement en pleine phase de planification stratégique pour nos trois Fonds de recherche. Nous avons, pour cela, consulté les partenaires habituels (ministères, recteurs et présidents d'université, chercheurs, étudiants-chercheurs) ainsi que la société civile. Nous avons interrogé le grand public pour connaître son opinion sur les études qu'il penserait intéressantes de mener sur le vieillissement, le climat et autres, et avons recueilli des propositions absolument exceptionnelles, en provenance notamment de régions du Québec n'abritant même pas d'université. Nous développons de plus en plus cette démarche consistant à aller chercher des suggestions auprès de la population, à solliciter la participation du grand public. Cet aspect me semble très important.

Je souhaiterais maintenant faire le lien avec la suite de cette matinée, au cours de laquelle vous allez évoquer, avec Cédric Villani, la question de l'intelligence artificielle. Depuis deux ou trois ans, Montréal est un pôle internationalement reconnu pour les recherches en matière d'intelligence artificielle et d'apprentissage profond grâce, notamment, à l'équipe de recherche menée par Yoshua Bengio. Cela a attiré l'attention de nombreux investisseurs privés dont Google, Amazon et Facebook et suscité le lancement de start-up comme MILA et Element AI. Le secteur est en plein essor et draine beaucoup de ressources. Par exemple, le gouvernement fédéral investit de façon importante dans le domaine, tout comme le gouvernement du Québec. Nous manquons d'ailleurs de personnel : des compagnies comme Element AI recrutent, par exemple, dix nouveaux employés par semaine, de niveau PhD, dont la très grande majorité ne vient pas du Canada mais sont des jeunes issus du monde entier.

Cela est très stimulant mais pose de nombreux défis : il s'agit par exemple de recruter les meilleurs cerveaux et talents et de savoir les garder à long terme, sachant que la compétition est féroce avec les régions de San Francisco, Boston et Seattle. Il convient également de s'assurer de la viabilité du secteur universitaire : les jeunes reçoivent en effet des offres tellement fortes des entreprises qu'ils sont tentés d'aller dans le secteur privé très rapidement avant même, parfois, d'avoir obtenu leur diplôme. Il faut donc envisager la manière de s'adapter au mieux à cette réalité. Enfin, dernier élément d'importance, l'appréciation des impacts de l'intelligence artificielle et du numérique sur notre société : cela va, en effet, sans aucun doute, modifier considérablement nos façons de faire, en droit, en sécurité publique et en santé. Il faut donc préparer la future génération de travailleurs à la réalité de l'intelligence artificielle.

M. Gérard Longuet, sénateur, président. - Je suis persuadé que de nombreux collègues ont des questions à vous poser. Pour ouvrir le débat, je souhaiterais savoir qui vous nomme et pour quelle durée.

M. Rémi Quirion. - Je suis nommé par le gouvernement du Québec, pour un mandat de cinq ans renouvelable. Je suis actuellement au début de mon deuxième mandat.

M. Gérard Longuet, sénateur, président. - Vous disposez donc, sur place à Montréal, d'une équipe autour de vous ?

M. Rémi Quirion. - Comme je vous l'ai expliqué, j'assure un rôle de conseiller en recherche et innovation mais aussi la direction des Fonds de recherche. Ces fonds existaient déjà avant la création du poste de scientifique en chef et disposaient d'équipes, un peu comme le CNRS ou l'ANR ici en France, pour évaluer les programmes. J'ai ainsi une équipe à Montréal et une à Québec, chacune comptant entre 50 et 60 personnes.

M. Cédric Villani, député, premier vice-président. - Merci beaucoup, cher Rémi, pour cette belle présentation, dont j'avais eu un avant-goût lors de notre discussion d'hier. Je dois avouer que je suis assez admiratif de nombre d'éléments de cet exposé, à commencer par le fait qu'un scientifique avec une carrière du plus haut niveau comme la tienne accepte de consacrer autant de temps à des questions à l'interface entre science et politique, avec les implications que cela peut avoir sur sa vie de recherche mais aussi avec la satisfaction d'apprendre beaucoup de choses, d'être en contact permanent avec l'interface science-société et d'avoir un réel impact.

Par ailleurs, on sait que le contact entre science et politique n'est jamais simple et peut prendre des formes très variées d'un pays à l'autre. Vous avez mis au point un modèle dans lequel il existe une confiance remarquable, avec une nomination pour une longue durée, une possibilité de contrôle et d'influence réellement importante sur les fonds et les politiques. Nous n'avons rien d'équivalent en France. Le constat est cruel pour nous lorsque l'on considère nos institutions de contact entre science et politique, dont le niveau d'influence n'est pas du tout à la hauteur. Nous avons l'ambition que cet Office parlementaire, jouissant d'une histoire prestigieuse et de productions de belle qualité, gagne en possibilité d'influence. Quant aux autres organismes censés assurer cette interface, le bilan n'est pas brillant, notamment pour ce qui concerne le Conseil stratégique de la recherche, placé sous l'autorité directe du Premier ministre mais qui n'a, je pense, pas été réuni depuis deux ans et n'a, de ce fait, plus aucun rôle.

Depuis longtemps se pose, en France la question de savoir s'il serait intéressant d'avoir un conseiller en chef, sur le modèle du chief science advisor du monde anglo-saxon, dont le plus célèbre au plan international était sans conteste, jusqu'à récemment, le conseiller du président des États-Unis, sachant que ce poste, après avoir été très important pendant une quarantaine d'années, n'a pas été renouvelé par le président Trump, dans le cadre d'une révolution administrative qui a laissé sceptiques les scientifiques du monde entier. Il n'est prévu ni dans notre Constitution ni dans nos règles que le système français puisse se doter d'un tel organe. On voit toutefois, à l'international, que cela fonctionne plutôt bien quand on arrive à le mettre en place. Un chef de gouvernement a souvent besoin, pour être éclairé dans son action, d'une présence permanente, de conseils, de réactivité au quotidien plus que d'un conseil scientifique consultable à intervalles assez longs. Il y a une articulation à trouver entre le temps court du politique et le temps long du scientifique. Le fait d'avoir une personne bénéficiant d'une légitimité scientifique et ayant la disponibilité nécessaire pour être aux côtés du monde politique et réagir rapidement est un atout. J'ai eu, à ce propos, de nombreuses discussions avec Sir Peter Gluckman, qui joue ce rôle de chief science advisor auprès du gouvernement néo-zélandais et est reconnu en quelque sorte comme l'autorité internationale en matière de construction d'interfaces entre science et politique. Au moment où j'avais rédigé, voici quelques mois, le document de prospective sur les possibles évolutions de l'OPECST, j'avais pris en compte son avis. La présence, aujourd'hui, de notre collègue Rémi Quirion et les bonnes nouvelles qu'il nous montre doivent nous inciter à réfléchir à la façon dont nous pouvons faire évoluer nos institutions.

Je souhaiterais enfin exprimer mon admiration devant l'évolution récente du Canada, et du Québec en particulier, sur le sujet de l'intelligence artificielle. En quelques années, le Canada s'est placé sur la carte internationale des endroits les plus « chauds » en matière d'intelligence artificielle, a réussi à mettre sur la table des centaines de millions de dollars provenant d'investissements publics et privés et attire de façon importante. Cela s'est fait grâce à une combinaison de talents, une articulation entre monde scientifique et secteur de l'entreprise mais aussi par l'image. Nous avons bien vu, dans ta présentation, l'importance que tu accordes aux questions de communication, de mise en récit et d'images. Lorsque nous avons mené des auditions sur l'intelligence artificielle et rencontré des collègues québécois, comme Denis Terrien qui fait partie de cette aventure du deap learning autour de Yoshua Bengio, nous avons été frappés de constater à quel point l'image véhiculée avait été importante pour attirer des fonds. Elle est celle d'un écosystème scientifique autour de l'intelligence artificielle à la fois libre, plein d'énergie, sans peur, sans contrainte, et en même temps avec l'objectif de servir le bien public, travaillant en coopération avec les universités, c'est-à-dire, pour caricaturer, aussi libre que les États-Unis d'Amérique et aussi éthique et soucieux du bien public que l'Europe. Cela a été un réel succès et doit nous inspirer.

M. Rémi Quirion. - Merci beaucoup pour ces commentaires. Je connais très bien Peter Gluckman, le scientifique en chef de Nouvelle-Zélande. Ensemble, avec quelques collègues - nous sommes en effet une petite communauté à l'international -, nous avons créé un réseau international dans le secteur, intitulé International network of global science advisor. Notre dernière réunion en date s'est déroulée à Bruxelles, il y a deux ans. La prochaine aura lieu à Tokyo. Je suis encore le seul francophone de cette organisation : nous essayons donc de voir comment augmenter la présence francophone, que ce soit en provenance d'Europe ou d'Afrique. Nous avons, par exemple, organisé la première école d'été dans le domaine à Dakar, voici quelques mois. Il existe des demandes pour le Maghreb, le Burkina Faso et plusieurs autres pays africains. Je pense que nous pouvons travailler ensemble et apprendre les uns des autres, car ce modèle est relativement nouveau. Au Canada, suite à la décision du gouvernement du Québec, il y a quelques années, de créer le poste que j'occupe, le gouvernement Trudeau a créé, voici deux mois environ, un poste de conseiller scientifique, confié à une chercheuse de grande renommée, Mme Mona Nemer. La province de l'Ontario vient de suivre le mouvement en créant, il y a deux semaines, un poste similaire. Nous disposons donc désormais d'une sorte de triumvirat. Nous avons travaillé d'arrache-pied, au cours des dernières années, et le gouvernement du Québec a décidé, dans son dernier budget, de réinvestir de façon assez importante, sur une période de cinq ans, dans les Fonds de recherche du Québec, avec une augmentation de 20 % par an, ce qui est assez rare.

La décision du gouvernement du Québec de créer ce poste avait notamment été motivée par le fait d'avoir un seul interlocuteur plutôt que de devoir en contacter une douzaine pour obtenir la même information. Il est également possible que le fait que le scientifique en chef travaille à l'interface entre le politique et la science atténue le phénomène de lobbying, dans la mesure où les lobbies sont certainement moins nombreux à aller voir le ministre pour défendre leur secteur.

Mme Dominique Gillot, ancienne sénatrice et co-rapporteure de l'Office sur l'intelligence artificielle. - J'ai été très intéressée par votre exposé et la confiance, l'autorité que vous représentez dans une organisation politique où l'interface entre la science et la société est vécue comme un élément essentiel. En France, nous n'en sommes pas encore là. J'ai été rapporteure pour avis du budget de la recherche pendant plusieurs années et je faisais état chaque année dans mon rapport de mon constat de l'insuffisante présence du Conseil stratégique de la recherche, qui se réunissait de façon institutionnelle, chacun défendant sa filière, son domaine, avec me semble-t-il une certaine difficulté à travailler ensemble pour l'intérêt commun. De plus, ce Conseil n'était pas présidé par le Premier ministre mais par un scientifique qui avait été nommé là en remplacement de la ministre de l'enseignement supérieur et de la recherche. L'autorité politique n'était ainsi présente qu'à l'ouverture et à la clôture et ne participait ni n'assistait aux débats.

J'ai rencontré de nombreux scientifiques qui étaient admiratifs du rôle que jouait le conseiller scientifique auprès du président Obama, par exemple. Mais j'ai également constaté une certaine réticence, de la part des scientifiques en France, à s'engager politiquement. J'étais, je dois l'avouer, un peu dubitative face à la démarche de Cédric Villani pour devenir député, mais je trouve cela extraordinaire. Je pense que si l'on veut s'inspirer de votre expérience, qui est de bonne pratique, il faut que nous fassions évoluer nos mentalités et que le rapprochement entre les scientifiques, la société et la politique ne soit pas suspect. Cela doit se faire dans la transparence, avec des arguments vérifiables de manière citoyenne et n'est absolument pas condamnable. Très souvent, en France, on reproche à des scientifiques de travailler avec l'industrie pharmaceutique, par exemple ; or comment contrôler ou obtenir la fabrication de médicaments utiles à l'épanouissement d'une recherche scientifique sans ce contact avec l'industrie ?

Je pense qu'il faut que nous étudiions avec attention la manière dont vous agissez, que nous nous en inspirions pour lutter contre cette idée reçue selon laquelle un scientifique devrait être indépendant à tout crin et ne pas conseiller le politique au risque de devenir suspect. Il y a là un travail à mener, dans la transparence, avec la définition d'une éthique. Cela permettrait, me semble-t-il, de gagner en efficacité et de permettre une meilleure connaissance de la population, de développer cette culture commune de confiance dans la science et dans le progrès technologique.

M. Rémi Quirion. - Merci encore une fois. Je ne voudrais pas non plus donner l'impression que tout est parfait et fonctionne à merveille.

Voici deux semaines, nous avons organisé, au Palais des congrès de Montréal, un atelier sur le sujet de la communication scientifique : je veux vraiment que l'on reconnaisse, dans nos programmes, les chercheurs qui participent à ce processus. Certains collègues scientifiques estiment que cela ne correspond pas à leur rôle. Il est certes important d'effectuer des publications, mais participer à des débats publics l'est également. Le salaire du chercheur vient du public ; il est donc naturel qu'un certain retour s'effectue vers le public.

M. Michel Amiel, sénateur. -Ma première question, à laquelle vous avez déjà répondu en grande partie, concernait la place de la recherche fondamentale.

Quel rôle jouez-vous, par ailleurs, en termes d'expertise des expertises ? Prenons le cas concret du glyphosate, qui faire rage actuellement en France et en Europe. On assiste à un débat à la fois scientifique - avec des expertises contradictoires, en l'occurrence celles du Centre international de recherche sur le cancer (CIRC) et de l'Agence européenne de sécurité alimentaire, utilisant des méthodologies de natures différentes -, économique - avec des modèles d'agriculture complètement différents selon les choix qui pourraient être faits - et d'autres aspects purement politiques - en Allemagne, par exemple, le débat sur ce sujet a largement contribué à l'éclatement probable de la coalition -. Jouez-vous un rôle, dans le conseil que vous pouvez apporter à partir de l'aspect scientifique, dans la préconisation en faveur d'une expertise ou d'une autre ?

M. Rémi Quirion. - La recherche fondamentale représente environ 80 % des budgets des Fonds de recherche du Québec. Les décisions d'attribution sont faites par des comités de pairs. Le gouvernement fédéral investissait en revanche de plus en plus dans la recherche dirigée et nous espérons que, dans le sens des recommandations du rapport de David Naylor, le gouvernement Trudeau va, dans le prochain budget, annoncer de nouveaux investissements en recherche fondamentale.

Lorsqu'on arrive sur des sujets « chauds », controversés, je donne des avis, que le gouvernement rend parfois publics, en m'appuyant sur les données probantes. J'utilise beaucoup les réseaux dont on dispose au Québec et au Canada, dans différents secteurs, pour prendre des avis, auprès par exemple de la Société royale du Canada. Pour ce qui concerne l'exemple des pesticides, il existe, au Canada, la Fondation David Suzuki qui oeuvre dans le domaine de l'environnement et m'a contacté pour me demander de favoriser l'interdiction de diverses substances chimiques. Entre également en ligne de compte, dans ce domaine, la stratégie agroalimentaire et agricole du gouvernement. Je donne donc, dans ce cas, des avis généralement nuancés, en laissant le soin aux politiques, à partir des informations qui leur sont fournies, de prendre la décision finale. Je suis confronté assez régulièrement à ce genre de question. L'exploitation minière du nord en est un autre exemple, avec les communautés autochtones, qui vivent là depuis des siècles : cela n'est jamais simple.

Mme Catherine Procaccia, sénateur, vice-présidente. -Vous avez évoqué l'ANR et parlé des aides et des choix. Sans doute savez-vous que seuls 10 % des projets proposés à l'ANR aboutissent et sont subventionnés, d'où un certain découragement de nos chercheurs. Quel pourcentage des dossiers qui vous sont soumis sélectionnez-vous ? Quel sont, par ailleurs, le processus et les critères de sélection ?

M. Rémi Quirion. - Je connais fort bien les organismes français, comme l'ANR, le CNRS ou encore l'Inserm. Il y a un an environ, j'ai présidé un comité international chargé d'évaluer le CNRS. Vous disposez, en France, d'institutions de très grande qualité et de très haut niveau. Je pense qu'à l'ANR, notamment, le taux de succès est beaucoup trop faible. Chez nous, ce taux se situe entre 15 et 20 %, ce qui est légèrement supérieur à celui de l'ANR mais rend tout de même la situation des chercheurs assez difficile. Personnellement, j'ai participé à de nombreux comités d'évaluation comme chercheur au cours des trente dernières années : lorsque que l'on descend sous les 20 %, cela constitue, selon moi, une erreur du système. Dans le rapport que nous avons rédigé à propos du CNRS, nous avons indiqué qu'il faudrait s'assurer d'un taux de succès « raisonnable » d'au moins 20 %. Au Québec, les conseils subventionneurs fédéraux ont un taux de succès entre 13 et 15 %. Nous espérons que les budgets vont croître et que cela entraînera une augmentation de ce taux.

M. Cédric Villani, député, premier vice-président. - Je partage complètement cette analyse : un taux de succès inférieur à 20 % est trop bas et démoralisant pour les chercheurs, qui passent un temps infini à rédiger des réponses à des appels à candidatures. Un taux trop élevé n'est pas non plus très bon signe. Un chiffre situé entre 20 % et 40 % me semble le signe d'un système en bonne santé.

Concernant l'ANR, a également été pointée du doigt la grande difficulté à mettre en oeuvre une stratégie globale. Nous sommes dans un contexte où le taux de réponse est uniforme pour tous les domaines, ce qui signifie que plus un sujet fait de dossiers, plus il a de chances de recevoir de subventions : ce n'est pas ainsi que l'on peut mener une politique scientifique.

M. Gérard Longuet, sénateur, président. - Il s'agit d'un débat absolument passionnant, qui met en question l'organisation de l'animation politique de la recherche et l'interface entre le monde politique et le monde scientifique.

M. Cédric Villani, député, premier vice-président. - Historiquement, les premières institutions fondées dans les grands pays européens pour faire l'interface entre la science et le politique étaient les académies des sciences, créées à partir du XVIIe siècle. Petit à petit, le lien entre ces académies et les gouvernements s'est, dans certains cas, délité ; il a perduré dans d'autres. J'ai en tête que remettre l'Académie des sciences dans une situation où elle pourrait donner des conseils réguliers et utiles au gouvernement, en prenant appui sur nous, par exemple, serait important. Comment la discussion se déroule-t-elle au Québec, au Canada ? Il a été question, dans l'exposé, de liens avec la Société royale par exemple.

M. Rémi Quirion. - Je dois avouer que nous sommes quelque peu jaloux de la situation en Angleterre, où il existe un poste de conseiller scientifique depuis près de 50 ans, en plus de la Société royale qui dispose de moyens considérables et donne des avis en général de très grande qualité.

Au Canada, la Société royale était assez dormante depuis plusieurs années. Nous essayons de faire revivre cette institution. S'il m'est, en effet, souvent demandé de donner des avis rapidement, les sociétés royales et les académies peuvent s'inscrire davantage dans la durée et prendre le temps d'approfondir un dossier. Travailler avec ces institutions serait donc idéal pour le genre de poste que j'occupe. Nous n'en sommes toutefois pas encore là.

M. Gérard Longuet, sénateur, président. - Les pouvoirs politiques ont, en réalité, incité à la création des académies pour laïciser la connaissance et faire en sorte que l'intelligence, la culture, la science ou même la langue française s'organisent en dehors de l'université qui était, en Europe jusqu'au XIXe siècle, complètement contrôlée par l'autorité religieuse. Les phénomènes de structures sont absolument passionnants. Le risque de sclérose est permanent, les académies risquant de devenir, selon le sens commun du terme, « académiques », c'est-à-dire des instances que l'on respecte mais auxquelles on ne croit pas car trop institutionnelles et formelles. Rénover ce concept d'académie serait certainement un très beau cadeau que l'on pourrait faire aux communautés scientifiques, en faisant vivre des institutions fédératrices, sachant qu'aujourd'hui, la multiplication des sources d'information fait que les structures sont toujours concurrencées. Pour moi qui suis libéral, l'idée d'une concurrence ne me choque pas, bien au contraire ; il convient simplement de garder un peu de sang-froid et de n'accepter aucun monopole ni aucune culture du dénigrement des institutions installées.

L'exemple du Québec, décliné en Ontario et au niveau fédéral, est tout à fait intéressant. C'est un risque de choisir une seule personne mais c'est aussi une solution, car cela fait que l'on dispose d'un interlocuteur unique, qui se professionnalise et accède, dans la durée dont il jouit, à une certaine autorité.

Je vais vous proposer de clore cette première partie d'échanges, tout en vous invitant, M. Quirion, si vous le souhaitez et si votre emploi du temps vous le permet, à assister au deuxième point de l'ordre du jour de cette réunion, au cours duquel Cédric Villani va nous rendre compte de l'étape intermédiaire de la mission qu'il accomplit pour le compte du gouvernement.

Présentation du rapport d'étape de la mission sur l'intelligence artificielle confiée par le Gouvernement à M. Cédric Villani, député, premier vice-président

M. Gérard Longuet, sénateur, président. - L'intelligence artificielle est une préoccupation collective extrêmement forte. Le précédent gouvernement avait lancé, à travers le rapport France IA, une première réflexion globale.

Notre Office est tout à fait informé de ces questions puisqu'il a éclairé le Parlement grâce aux travaux de Dominique Gillot, que je remercie de sa présence, et Claude de Ganay, qui ne pouvait être présent en raison d'un engagement à l'étranger. Nous avons déjà traité de différents aspects de l'intelligence artificielle mais nous sommes, aujourd'hui, face à une accélération absolue de l'interrogation de la société sur les conséquences possibles de cette intelligence artificielle, allant de la prise de pouvoir par les GAFA sur nos vies sociales jusqu'au transhumanisme en passant par des situations intermédiaires, profondément déstabilisantes sur le plan économique pour des activités traditionnellement organisées. Dans le même temps s'ouvrent des perspectives formidables d'exploitation de données de masse, qui permettent d'instituer du sur-mesure dans le grand nombre, ce qui semble, en apparence, quasiment impossible mais pourrait l'être désormais. Cela est notamment perceptible dans les travaux autour de la médecine personnalisée.

Nous avons le devoir absolu d'éclairer nos collègues parlementaires sur ces possibilités. C'est également la volonté du gouvernement et nous avons la chance d'avoir, en la personne de Cédric Villani, celui qui fait l'articulation entre l'éclairage gouvernemental, dans le but d'établir une stratégie nationale dans le domaine de l'intelligence artificielle, et le travail collectif de l'Office, qui a vocation à permettre aux parlementaires d'avoir une bonne connaissance et la meilleure maîtrise possible de ces sujets.

M. Rémi Quirion, scientifique en chef du Québec. - Je suis très intéressé par ce sujet et vais continuer à interagir avec Cédric Villani, mais je dois malheureusement vous quitter pour me rendre à une réunion à l'OCDE, objet principal de ma visite à Paris.

M. Cédric Villani, député, premier vice-président. - Nous resterons bien évidemment en contact.

Je vais prendre quelques instants pour vous parler de cette mission, qui en est, à peu près, à mi-parcours. Un travail considérable a déjà été effectué, mais beaucoup reste à faire. Il s'appuie sur des travaux antérieurs. Le rapport France IA, produit l'an dernier, a correspondu au réveil du politique français sur ce sujet, un réveil tardif par rapport à d'autres acteurs internationaux, mais qui intervient cependant plus tôt que chez certains de nos collègues, européens en particulier. En plus du rapport France IA, rédigé très rapidement dans une certaine forme d'urgence, mais qui a néanmoins procédé à un excellent travail de défrichage et de cartographie, est venu le rapport de notre Office, qui nous a été d'une grande utilité pour le calage et l'instruction de notre propre rapport. Notre ancienne collègue Dominique Gillot a elle-même assisté à l'une de nos auditions et sera bientôt auditionnée formellement dans le cadre d'une confrontation de résultats, de vérifications, afin de tenter de tirer le maximum du travail préliminaire accompli par l'OPECST.

Par rapport à ce dernier, nous avons, dans cette mission, plusieurs ambitions, dont l'une est d'affiner les diagnostics, dans un paysage qui évolue de façon assez importante, aussi bien en termes de cartographie des acteurs impliqués que pour ce qui concerne les domaines et les usages. Nous avons également pour vocation d'expliciter davantage les questions déjà identifiées, d'aller plus en profondeur et de formuler un certain nombre de propositions, essentiellement en termes d'actions à mener. Nous nous sommes rendu compte en effet qu'il existait certaines particularités de mise en oeuvre spécifiques à l'intelligence artificielle, la question majeure étant de savoir quel est le chemin à parcourir pour aller de l'état actuel à l'état que nous souhaitons atteindre.

Dans la lettre de mission du Premier ministre figuraient deux grands objectifs : il s'agissait de proposer au gouvernement, pour les années à venir, une stratégie se déclinant en plusieurs axes (politique, économique, administratif, juridique, culturel, éducatif, etc.), afin de faire en sorte, d'une part, que la France et l'Europe puissent être au mieux de leur compétitivité en la matière, renforcer leurs atouts, combler leurs faiblesses et, d'autre part, que cela profite à l'ensemble de la société et serve des buts que l'on considère comme justes et équitables plutôt que d'aggraver les inégalités, ce qui constitue un risque classique face à toute nouvelle révolution ou grande vague d'innovation technologique.

Cette mission se déroule dans un très grand enthousiasme puisque, entre les demandes que nous avons suscitées et celles qui nous sont parvenues, quelque 600 personnes sont à ce jour « entrées dans la boucle ». Nous en avons reçues environ 250 en audition, le plus souvent sous forme de tables rondes, avec des débats organisés, parfois thématiques, parfois en fonction des interlocuteurs. De nombreuses tables rondes restent encore à venir.

Nous avons, par ailleurs, très récemment mis en ligne une plateforme contributive, pour permettre à l'ensemble des citoyens intéressés de participer à la réflexion. Évidemment, une telle démarche poursuit plusieurs buts. L'un d'eux est de participer à augmenter la prise de conscience, par les citoyens, de l'importance des choix qui sont en cours de discussion. Un autre objectif consiste à récupérer des informations et des suggestions valables. Même si 10 % des contributions qui nous parviennent apportent des questions ou propositions intéressantes, ce sera possiblement très important.

Cette mission intervient aussi dans un contexte de très grande curiosité et de fort besoin d'explications. Il ne se passe pas une journée sans que notre mission ne reçoive des demandes d'intervention dans des colloques, de conférences, d'interviews. Il apparaît clairement que le monde entier s'est emparé de ce sujet, en quelques années.

Dans ce contexte surgissent, par ailleurs, de très fortes tendances à la rumeur, à l'anxiété, à la peur. En France, mais plus globalement en Europe, la dominante est davantage, dans l'opinion publique, à l'inquiétude qu'à l'enthousiasme. Un travail va donc devoir être mené également à titre culturel, pour mettre en lumière les aspects enthousiasmants, positifs, mystérieux et passionnants ainsi que les attentes vis-à-vis de ces nouvelles technologies.

Il va falloir aussi trouver un équilibre au plan économique, entre une volonté de coopération tous azimuts, très bienveillante, et le fait que nous sommes dans un contexte de compétition internationale considérable, dans lequel il faut avoir en tête la partition que jouent les uns et les autres. Il s'agira de voir comment trouver une voie responsable entre la grande peur et la béatitude.

Nous avons, en outre, mené un travail d'acculturation auprès de nos collègues parlementaires avec l'organisation d'ateliers à l'occasion de ce rapport de mi-parcours, auxquels ont participé un bon nombre de députés et sénateurs, et qui avaient pour but de nous renforcer collectivement sur le sujet, d'instruire la discussion avant que ne viennent en aval de possibles évolutions législatives.

Il s'agit d'un sujet pour lequel il convient d'être bien informé et de se tenir à l'écoute, parce que les révolutions surviennent rapidement, plus rapidement que ce dont nous avons généralement l'habitude en sciences. Pour faire écho à l'intervention de Rémi Quirion, vous avez vu la manière dont il a mis en avant Yoshua Bengio, l'un des plus grands spécialistes mondiaux des réseaux de neurones. Il faut savoir que le trio formé par Yoshua Bengio, Geoffrey Hinton et le français Yann Le Cun est devenu extrêmement médiatique dans le monde entier depuis qu'en 2012 un concours international en intelligence artificielle a été remporté par une équipe utilisant leur technique. Cela a marqué le grand retour sur la scène scientifique des réseaux de neurones, technique dont les meilleurs experts pensaient qu'il s'agissait d'une impasse. Cinq ans plus tard, les réseaux de neurones profonds sont partout et permettent d'attirer des capitaux en quantité considérable. Ils ont même modifié la donne par rapport à la demande en hardware, en structure, puisque les processeurs qu'ils utilisent ne sont pas les mêmes que ceux utilisés pour le calcul intensif classique. Cela a donc conduit à un rebattage complet des cartes, en l'échelle de quelques années seulement.

Le contexte requiert donc de trouver un équilibre, en agissant vite parce que le monde bouge très vite, mais sans pour autant prendre de décisions hâtives, trop définitives ou trop engageantes, car il se produira encore, à n'en pas douter, dans les années qui viennent, des évolutions importantes en la matière.

À titre personnel, en tant que scientifique, je dois dire que cette émergence de l'intelligence artificielle a été pour moi une grande surprise. Je me souviens qu'il y a une dizaine d'années, l'un de mes collaborateurs directs était passé dans ce domaine et je n'avais alors pas manqué de lui dire qu'il lui fallait bien réfléchir avant de s'engager dans un domaine où il ne se passait pas grand-chose et qui n'avait peut-être pas grand avenir. La suite de l'histoire m'a montré que j'étais complètement dans l'erreur. Le domaine a vraiment bougé au cours des dix dernières années et continuera de le faire d'année en année.

Parlons un peu des constats et du paysage tel qu'il se dessine. La première question à se poser est celle du périmètre et de la définition : qu'entend-on par « intelligence artificielle » ? La question revient régulièrement et il est impossible d'y apporter une réponse précise. L'intelligence artificielle n'est pas une technologie particulière, ni une innovation mise au point par une équipe donnée, ce n'est même pas une stratégie particulière de programmation algorithmique, mais un ensemble très disparate de techniques qui, toutes, visent à permettre à un algorithme, donc à sa version opérationnelle logicielle, de donner des réponses très fines, si fines que l'on aurait cru naïvement, a priori, que cela demandait de l'intelligence humaine. Cette définition est très floue et mouvante ; mais dès que l'on cherche à donner une définition précise, on se heurte à des impasses. Pour autant, certains, comme les juristes, souhaitent disposer d'une telle définition, pour savoir ce qui va tomber sous le coup de tel ou tel article de loi, en matière également de droit de la concurrence, etc. La puissance publique estime, par ailleurs, que si elle veut subventionner l'intelligence artificielle, elle doit savoir exactement ce que cela recouvre.

Il faut aller davantage dans le détail des techniques d'intelligence artificielle pour répondre à ces questions. Ce débat doit avoir lieu enjeu par enjeu et sujet par sujet. Si l'on s'intéresse par exemple à la propriété intellectuelle, il faut se demander quelles sont les méthodes utilisées pour la production de l'intelligence artificielle : c'est de là que viendra la solution par rapport aux règles à mettre en place.

Il existe beaucoup de méthodes pour faire de l'intelligence artificielle, mais trois familles sont plus populaires que les autres et reviennent de façon récurrente dans les discussions. La première famille, historiquement, pour laquelle on parle aussi de « systèmes experts », est une méthode dans laquelle on essaie de mimer les décisions intelligentes en travaillant sur la modélisation des causes, des conséquences, avec des modèles et des arbres de décision, et où l'on met finalement sur le papier un savoir-faire (scientifique, par exemple) obtenu par ailleurs. Il s'agit d'une méthode dans laquelle on raisonne par ontologie, où les causes, les conséquences, les buts sont bien assumés. Une autre grande famille de méthodes insiste sur l'intelligence comme un élément qui s'acquiert par l'expérience de la situation et se traduit le plus souvent par une méthode d'apprentissage statistique : une fois que le logiciel est programmé, on l'entraîne avec un très grand nombre d'exemples, de données, et il apprend spontanément à reconnaître, grâce aux exemples qui lui sont fournis, ce qu'il doit faire lorsqu'une nouvelle situation se présente, par analogie. Cette méthode est donc basée sur les corrélations, sur l'identification de similitudes entre des situations. Une troisième grande famille est celle de la méthode par exploration, qui considère que l'intelligence consiste aussi à aller vers de nouvelles situations, qui n'avaient pas été prévues, ne figurent pas dans la galerie d'exemples, mais que l'on va explorer par soi-même.

Vous avez, par exemple, toutes et tous entendu parler de AlphaGo, le logiciel qui a écrasé l'un des meilleurs joueurs humains de go au monde : ce logiciel fonctionne par une combinaison d'apprentissage par l'exemple et d'apprentissage par exploration. Dans un premier temps, on lui a fourni un très grand nombre de parties de go réalisées par les meilleurs experts du jeu, pour qu'il apprenne, par l'exemple, quel coup jouerait un très bon humain dans telle ou telle situation, avant, dans un deuxième temps, de lui faire mener une démarche d'exploration. L'ordinateur calculant extrêmement vite, cette exploration peut correspondre à des milliards d'années de temps humain. Cela lui a permis d'explorer une multitude de coups, de façon très naïve, et de trouver de temps en temps, par chance, un coup extraordinaire auquel aucun humain, si bon soit-il, n'aurait pensé. La deuxième version de AlphaGo, qui écrasait la première, a été obtenue uniquement par le biais de l'exploration, s'affranchissant ainsi du savoir-faire des humains, qu'elle est toutefois parvenue, en parcourant un très grand nombre de coups, à retrouver et à dépasser de très loin.

Il existe des sujets sur lesquels on peut appliquer une méthode plutôt qu'une autre. Certains sujets se prêtent ainsi davantage à la démarche par système expert, parce que l'on a réussi à les comprendre et à les modéliser suffisamment bien, mais ne correspondent pas aux autres approches. D'autres se prêtent à la méthode par l'exemple, d'autres encore à l'approche par exploration. On peut ainsi utiliser l'exploration pour trouver de nouveaux coups de jeu de go, car il est facile de modéliser en interne dans les circuits de silicium si une position en go est forte ou pas. En revanche, si l'on se situe dans le cadre d'une recherche de diagnostic automatique, la méthode par exploration n'est pas adaptée, car on ne peut deviner si le malade va mourir ou pas. Pour l'instant, l'apprentissage dans le domaine de la médecine s'effectue surtout par le biais de la statistique. Il est toutefois possible que cela évolue. On dispose par exemple de modèles de plus en plus perfectionnés en médecine sur le fonctionnement du coeur ou l'évolution de certains cancers. Il est donc probable qu'à l'avenir on utilise aussi des techniques d'exploration pour renforcer et améliorer nos logiciels dans le domaine médical.

Il existe bien évidemment de très nombreuses autres méthodes d'intelligence artificielle, jusqu'ici développées plutôt à titre expérimental.

Vous voyez que si l'on se situe dans un débat juridique où il est question de la responsabilité de l'algorithme, selon que le logiciel aura été programmé avec telle ou telle technique, le résultat sera différent. Ainsi, si l'on a utilisé un apprentissage statistique, il y aura une responsabilité par rapport aux données d'entraînement : qui les a réalisées, qui les a collectées, comment elles ont été exploitées, qui a vérifié qu'il n'y avait pas de biais, comment a été effectué le contrôle qualité de l'interface entre ces données et le logiciel, et ainsi de suite. Il en va de même dans l'analyse des risques. Jusqu'ici, on s'intéressait beaucoup, en termes de contrôle qualité dans les logiciels, à la vérification de l'absence de bug et au fait que l'identification des objectifs figurait bien dans les spécifications. Désormais, il faudra également vérifier que personne n'a introduit des données malveillantes, malhonnêtes, dans la base de données utilisée. De nouveaux problèmes émergent ainsi, en fonction de la stratégie employée.

Je souhaiterais revenir quelques instants sur la question de l'imaginaire, de l'image que véhicule l'intelligence artificielle. Toute révolution technologique s'accompagne d'un certain nombre de mythes, qui souvent même la précèdent. En termes d'intelligence artificielle, nous sommes en présence de mythes très forts, en nombre limité, qui se renouvellent très peu et pèsent sur le domaine. Ils sont incarnés par le robot de 2001 l'odyssée de l'espace, par l'intelligence artificielle de Matrix, qui a réduit l'humanité en esclavage, ou encore, plus récemment, par le film Her, dans lequel un humain tombe amoureux d'une intelligence artificielle. On sort très peu de ces clichés et il est important, pour l'avenir, d'enrichir notre imaginaire et notre discours et de calmer le contexte d'anxiété qui, en Europe, prévaut. L'anxiété et la peur peuvent présenter la vertu de réveiller lorsque l'on est endormi et confiant. Certains commentateurs extrêmement durs à l'égard de la position de la France ont ce rôle bénéfique pour certaines institutions de les réveiller, de les gifler en quelque sorte. Mais il faut prendre garde à ce que le discours ne soit pas anxiogène pour tous ceux qui ont besoin de s'équiper. Nous sommes ainsi déjà alertés sur le fait que dans nos PME, par exemple, se produisent des réactions de rejet par rapport à l'équipement en intelligence artificielle, motivées notamment par la peur de perdre le contrôle de son art ou de se faire dominer par les grandes puissances étrangères.

Cette révolution technologique arrive dans un contexte particulier, fondé sur une évolution vers le pragmatisme dans les dernières années. Alors que, historiquement, les évolutions informatiques étaient plutôt fondées sur l'exploration des concepts identifiés auparavant au niveau théorique, on se situe ici dans un mouvement contraire, dans lequel les experts ont le sentiment d'avoir mis le doigt sur des concepts profonds et puissants, non encore identifiés au plan théorique. J'aime citer un responsable de l'un des meilleurs centres de recherche européens en intelligence artificielle, me disant que le spécialiste en intelligence artificielle aujourd'hui était comme un alchimiste des temps anciens, se promenant avec son grand grimoire plein de formules magiques qu'il sait dans quelle situation appliquer, mais sans pouvoir expliquer pourquoi elles fonctionnent. Cela signifie qu'au plan scientifique, énormément de choses restent à faire. Il y a là des sujets passionnants à explorer.

J'ajouterai qu'au niveau scientifique, s'est produit un rebattage des cartes impressionnant sur l'interface entre mathématiques et informatique, d'une part, et toutes les autres disciplines, d'autre part. On parle aujourd'hui, beaucoup plus qu'auparavant, de mathématiques et santé, mais aussi de mathématiques et industrie, mathématiques et environnement. Cela tient à ce que l'intelligence artificielle permet. Au sein de la science mathématique, les équilibres ont été bouleversés. La statistique, qui faisait traditionnellement figure de parent pauvre au sein des mathématiques et n'était pas prise au sérieux autant qu'elle aurait dû l'être, y compris en dehors du monde mathématique, tient au contraire désormais le haut du pavé par certains aspects. Ce sont nos collègues statisticiens qui, parmi les mathématiciens, reçoivent les offres les plus alléchantes et c'est dans ces filières que l'on a le plus de difficultés à recruter des enseignants-chercheurs parce qu'ils sont très rapidement happés par le monde du privé. Il est intéressant de constater ce changement intervenu au sein des équilibres scientifiques internes à la discipline et fruit de l'évolution d'une technologie.

À quoi l'intelligence artificielle va-t-elle s'appliquer ? La réponse brève est que cela va s'appliquer à tout. Il existe dans tous les domaines, sans exception, de possibles cas d'usage impressionnants. L'intelligence artificielle se développe cependant avec des vitesses variées selon les domaines. Elle est par exemple très forte pour reconnaître une situation, analyser des jeux de données, reproduire des comportements automatiques ou acquis par l'expérience ; on a ainsi coutume de dire que toute décision prise par un humain en moins d'une seconde peut être remplacée par un algorithme d'intelligence artificielle. Elle est également très forte pour optimiser lorsqu'il y a de très nombreux paramètres à prendre en compte, mais aussi pour jouer. On a vu ainsi, au fur et à mesure du développement de l'intelligence artificielle, des humains être battus aux échecs, puis au poker, au jeopardy, au go et à nombre d'autres jeux. Chaque fois que le contexte est bien délimité, que l'on sait mesurer la performance et entraîner les intelligences artificielles, ces dernières parviennent à aller bien au-delà des humains. Elles sont, en revanche, très mauvaises pour prendre des décisions relevant du bon sens, du sens commun. Les gens, dans le grand public, demandent souvent à quel stade en est l'intelligence artificielle par rapport au développement humain : correspond-elle à l'intelligence d'un surdoué ? D'un enfant de six ans ? De deux ans ? Cela n'a pas de sens, car il s'agit de raisonnements et de représentations du monde différents. Pour l'instant, l'intelligence artificielle est, par exemple, très mauvaise pour comprendre réellement un texte.

D'un point de vue économique global, la situation est également particulière. Si l'expertise scientifique est assez bien répartie entre de nombreux acteurs, il existe, au niveau économique, une domination considérable des géants américains et désormais chinois. Au moment du rapport de Dominique Gillot et Claude de Ganay, il était question de l'émergence de « géants potentiels chinois ». Ils ont aujourd'hui émergé et ont des capitalisations financières considérables, de gigantesques stocks de données. Du côté de la Silicon Valley, on les regarde avec beaucoup d'inquiétude, en se demandant jusqu'où ils vont aller en la matière. De nouveaux acteurs émergent en outre avec un positionnement particulier. Nous parlions précédemment du Canada, qui a effectué une percée extrêmement forte dans le domaine au cours des dernières années, arrive déjà à mettre sur la table des financements annuels de plusieurs centaines de millions de dollars, en partie privés, en partie publics, et attire des chercheurs renommés, de nouvelles entreprises qui recrutent à tour de bras. Le Canada a réussi à imposer son style particulier, en affirmant une sensibilité aux questions éthiques beaucoup plus forte que son voisin américain, et une plus grande liberté pour aller de l'avant que l'Europe. Israël est également un pays qui s'est affirmé sur la carte internationale. Je me rends d'ailleurs là-bas la semaine prochaine, pour assister à un colloque sur le thème « intelligence artificielle et santé », sur lequel ils se sont déjà positionnés, avec une politique, des modèles économiques et une réflexion sur les entreprises. En Europe du nord, on note par ailleurs l'émergence d'une volonté politique très forte d'aller de l'avant, bien que l'expertise n'y soit pas plus développée qu'en Europe de l'ouest par exemple. Le débat public y a déjà été instruit et s'est montré favorable au fait d'aller de l'avant, quitte à prendre des risques.

Ce domaine représente en outre un défi écologique majeur. Dans un contexte de crise écologique mondiale, on attend tout d'abord de l'intelligence artificielle qu'elle apporte de nouveaux outils pour analyser, améliorer, perfectionner, mais il faut aussi avoir conscience du fait que ces techniques sont très coûteuses, en matériel, en puissance de calcul et en énergie. Ces méthodes qui utilisent et réutilisent les données sont très gourmandes et, si l'on n'y prend garde et que les tendances de calcul continuent à augmenter de façon exponentielle à travers le monde, on va se retrouver face à des domaines très consommateurs d'énergie et extrêmement polluants. Rappelons que l'industrie informatique, même si l'on y pense comme un élément dématérialisé, est très polluante et présente une très forte empreinte carbone. L'Europe a vocation à être le continent dans lequel on se préoccupe le plus de l'environnement et à tenir compte de cet aspect dans sa stratégie.

Parmi les défis à relever et les pistes sur lesquelles nous travaillons, dans le prolongement de nos collègues Dominique Gillot et Claude de Ganay, figure le fait de transformer notre industrie et de reconnaître que la France et l'Europe ont un retard notable, moins toutefois sur la partie recherche que sur d'autres aspects tels que les infrastructures (de calcul en particulier), la mise en valeur économique ou encore la communication à l'attention des citoyens. Parmi les chiffres cités lors des auditions, celui correspondant au retard, en termes d'investissements d'infrastructures, de l'Europe par rapport au continent nord-américain s'élève à plusieurs dizaines de milliards d'euros. Ce sont des investissements qu'il va falloir mettre sur la table si l'on veut être dans la course.

C'est un défi aussi que de faire intervenir tous les pans de la société : nous sommes bien armés en Europe, où nous disposons de sciences dures, mais aussi de sciences humaines et sociales, bien développées. Cela constitue, dans ce secteur, une nécessité : en effet, l'intelligence artificielle est un sujet transversal, dans lequel la stratégie doit être globale et s'appuyer sur tous les acteurs. Il s'agit également d'un sujet dans lequel s'expriment des spécialisations et des sectorialisations de la discussion : lorsque l'on mène des auditions, on a le sentiment que, dans un premier temps, tout le monde parle de la même chose (politique de données, politique d'infrastructures, régulation, etc.), mais que, dans un second temps, il est question, dès que l'on approfondit la discussion, d'éléments différents. Ainsi, la discussion sur l'intelligence artificielle et le droit ne ressemble pas à celle relative à l'intelligence artificielle et la santé ou la défense. Au sein même du droit, les problématiques peuvent varier, car l'intelligence artificielle vient s'articuler avec les usages, les pratiques des différents milieux. Cela constitue une différence majeure avec la première vague de révolution numérique : il s'agissait tout d'abord de doter tout le monde d'outils uniformes, adaptables, les mêmes pour tous. Ici, il va falloir que chaque communauté s'empare des outils et travaille avec les experts en logiciels, en ingénierie, pour adapter les outils à ses besoins et les développer le plus tôt possible. Cela va donc nécessiter un travail en interne. Lors de la table ronde consacrée par exemple à la problématique « intelligence artificielle et santé », quand les représentants de l'Assistance publique-Hôpitaux de Paris (AP-HP) nous ont parlé de leur plateforme de données, qu'il a fallu des années pour mettre en place, ils nous ont expliqué qu'ils ont dû surmonter des obstacles légaux, et notamment avoir une discussion très serrée, pendant plusieurs années, avec la CNIL, et des obstacles technologiques pour disposer des infrastructures nécessaires et développer les bons niveaux de sécurité. Cette plateforme n'est pas parfaite, mais représente toutefois un progrès considérable par rapport à l'existant. Des actions ont ensuite dû être entreprises en interne, pour comprendre qui avait le droit d'accès sur les données, qui allait donner le feu vert, etc. Ce travail culturel, psychologique, d'infrastructure humaine interne devra être effectué par chaque communauté.

Les pistes que nous dégageons et qui sont mentionnées dans la note de synthèse que vous avez reçue sont déclinées en six grands axes.

Le premier concerne la politique industrielle qu'il conviendrait d'initier. Ainsi que je l'ai indiqué, tous les secteurs seront impactés. Certaines problématiques seront communes, mais des secteurs devront être lancés en priorité, pour lesquels il existe des technologies matures et une attente très forte : il s'agit de la santé, des transports, de la défense et de l'environnement, la problématique de l'énergie étant incluse dans ce dernier item. Il faudra, à chaque fois, penser français et européen et beaucoup s'appuyer, au niveau européen, sur des réseaux, sur la mise en commun de compétences, la mise à niveau progressive des infrastructures matérielles et la construction de réseaux humains. Nous avons également distingué des secteurs dans lesquels il faut se lancer, mais de façon beaucoup plus expérimentale : cela concerne l'éducation et l'inclusion au sens large (éducation personnalisée, handicap, dépendance, information des citoyens), secteurs pour lesquels il existe de très fortes attentes mais où il faut travailler, car les expérimentations sont en cours. Tous les autres secteurs relèvent d'approches plus expérimentales encore, que ce soit le droit, le sport, etc. Chacun devra mettre en place son équipe de veille, ses expérimentations entre institutions et start-up, et ainsi de suite. À chaque fois, les données, les plateformes, le renforcement des compétences humaines seront des éléments clés. Le droit à l'expérimentation sera également un aspect majeur. On utilise souvent pour évoquer cela l'image du « bac à sable », pour désigner un environnement dans lequel on s'autorise à jouer, où la puissance publique desserre quelque peu le contrôle, pour voir ce qui se passe.

La politique des données demandera une instruction spécifique. La course mondiale pour les données concerne surtout pour l'instant les données structurées, étiquetées, bien rangées, susceptibles d'être mises dans de grandes « moulinettes » de calcul. La politique des données soulève des enjeux techniques, légaux, éthiques, de gouvernance, et requiert un droit des données qui doit de plus en plus s'intéresser aux usages et aux finalités plutôt qu'aux processus de collecte en soi. Il faut savoir que l'Europe est le continent dans lequel on protège le plus, et de loin, les citoyens. Le general data protection regulation (GDPR ou règlement général sur la protection des données - RGPD) mis en place au niveau européen est décrié par les uns comme un frein à la compétition, mais encensé par les autres comme un terreau de confiance. Notre mission se prononcera sans ambages sur le fait que le GDPR est une bonne chose parce que cela permettra, sur le long terme, d'améliorer la confiance que les citoyens ont à l'égard de la technologie. Il constituera aussi un levier d'innovation par rapport à de nouvelles utilisations, de nouvelles architectures pour l'usage de l'intelligence artificielle. Il faut, en revanche, ne pas alourdir les réglementations telles qu'elles se mettent en place au niveau européen. Cela faisait déjà partie des recommandations du rapport de Claude de Ganay et Dominique Gillot. Nous appuierons très fortement ces deux aspects. Il est très positif qu'en Europe l'on protège le citoyen, mais il ne faut pas « surjouer cette partition ». Nous avons en outre besoin de grandes plateformes de calcul : il faudra également agir en la matière au niveau européen.

Le troisième axe est relatif à l'emploi et à la formation. Ce sujet, qui est sur toutes les lèvres, est pourtant celui sur lequel on dispose du moins d'éléments. Honnêtement, personne ne peut dire s'il y aura, dans les années à venir en Europe, des tensions sociales et économiques exacerbées à cause du développement de l'intelligence artificielle, avec un chômage de masse, ou si au contraire cela va permettre une reprise, un redémarrage important. On peut analyser divers scénarios, catastrophiques ou positifs, mais il n'y a, pour l'instant, pas lieu d'être submergé par l'inquiétude. Il convient de mettre en place des outils de surveillance, d'expérimentation, de travailler dès maintenant sur la façon dont on peut monter en compétences, en formation, à partir d'un constat pour l'instant assez sévère, puisqu'il apparaît que nous sommes très faibles en termes de formation. Si tout le monde s'accorde à dire que la formation est un grand enjeu, personne ne connaît réellement les bonnes méthodes pour y parvenir, sauf à mettre en contact réellement les experts les uns avec les autres. Autre constat : il ne s'agit pas de remplacer toutes les formations sectorielles existantes par des formations intelligence artificielle, mais de les apparier et de faire monter chaque formation sectorielle en compétence en lui associant un volet de compétence en intelligence artificielle. Les profils les plus recherchés actuellement sont les profils bi-compétence, par exemple, des médecins connaissant suffisamment bien l'analyse de données massives pour intelligence artificielle pour pouvoir l'appliquer à leur domaine ou, a contrario, des experts en IA ayant fait l'effort, pendant des années, de se familiariser suffisamment avec un domaine particulier (médical, industriel, etc.) pour pouvoir parler directement avec des équipes travaillant sur ces sujets. L'intelligence artificielle est ainsi un sujet qui vient interpénétrer les domaines déjà existants au lieu de les balayer. Cela passe notamment par l'éducation et la manière dont on évoque cette thématique, dès l'école, pour attirer davantage de personnes vers des secteurs dans lesquels, globalement, nous ne formons pas assez de professionnels (ingénieurs, mathématiciens, théoriciens, etc.) pour répondre aux besoins.

Le quatrième axe concerne les questions d'écologie, d'environnement. Il convient, dans ce domaine, de réfléchir pour savoir quelles sont les stratégies les plus et les moins gourmandes en énergie au moment où l'on développera les industries hardware européennes. On ne peut, en effet, se contenter d'une situation dans laquelle la construction des composants informatiques se fait sur d'autres continents : il y a là des enjeux de souveraineté. Lorsque ces industries seront lancées, il faudra soutenir le plus possible les architectures économes, recycler la chaleur produite, aller vers des technologies qui consomment moins et mettre en place des labels pour l'information des citoyens.

Le cinquième axe s'articule autour du triptyque « éthique-confiance-responsabilité », qui passe par le développement des techniques d'explicabilité des algorithmes, le travail sur les interfaces homme-machine, le fait de porter les débats sur la place publique, y compris sur des sujets très sensibles (dans le domaine de la défense par exemple) et d'expliquer le partage des responsabilités.

Enfin, le dernier axe est celui de la recherche, avec la satisfaction de constater qu'il existe, en Europe, une très forte expertise en recherche en intelligence artificielle dans tous les secteurs. En revanche, il apparaît que notre système de recherche souffre de maux importants : difficultés à organiser le dialogue avec les acteurs économiques - la France fait des progrès considérables en matière de valorisation de la recherche mais il reste encore beaucoup à faire -, difficultés à organiser la souplesse et la liberté. Le constat le plus difficile que j'ai dû faire lors des auditions a consisté à réaliser que si nos chercheurs performants quittent souvent le secteur public, si beaucoup de nos jeunes se retrouvent dans les centres étrangers ou dans les centres français des grandes multinationales américaines, c'est parce qu'ils y trouvent plus de liberté et de facilités. C'est, pour moi, le monde à l'envers : on a en effet coutume de dire que le fait d'aller dans le secteur privé revient à perdre de la liberté pour gagner en salaire et en moyens. Or nos collègues qui partent dans les grands laboratoires de Facebook ou de Google nous expliquent qu'ils ont beaucoup plus de liberté en pratique, au quotidien, que ce qu'ils avaient pu connaître dans le milieu universitaire public. Ils nous racontent qu'ils n'ont pas besoin de demander l'autorisation à l'avance pour faire des achats importants de matériel ou lancer des expérimentations, qu'ils peuvent s'amuser à tester leurs bonnes idées en faisant des calculs gigantesques avec des procédures extrêmement simples, qu'ils utilisent pour leurs achats de petit matériel au quotidien une carte bleue toute simple de leur entreprise au lieu d'avoir à demander l'autorisation à leur supérieur, qu'ils n'ont pas à rendre des comptes aussi régulièrement que dans le public et que, pour se faire financer, ils n'ont pas besoin de passer un temps infini à compléter des dossiers de candidature ANR. Nous avons donc un gros travail à accomplir entre nous pour trouver comment, a minima sur des sujets comme celui-ci où l'enjeu est considérable, protéger nos chercheurs et les dégager de nos propres contraintes administratives.

M. Gérard Longuet, sénateur, président. - Merci, cher Cédric Villani. Nous avons été rejoints - et je les en remercie - par certains des experts et témoins qui avaient participé à la table ronde que nous avons consacrée, le 16 novembre dernier, aux algorithmes publics et vont pouvoir contribuer, je l'espère, à nos échanges.

Je vais céder provisoirement la présidence à Bruno Sido s'il l'accepte, pour une question d'emploi du temps et demander peut-être à Dominique Gillot de réagir la première, dans la mesure où elle est, en l'absence de Claude de Ganay, celle qui, parmi nous, s'est le plus impliquée dans la réflexion sur cette thématique.

Mme Dominique Gillot, ancienne sénatrice et co-rapporteure de l'Office sur l'intelligence artificielle. - Je suis très heureuse d'être parmi vous aujourd'hui et très émue de ce que je viens d'entendre. Chacun sait que Claude de Ganay et moi-même ne sommes pas des scientifiques, mais des parlementaires curieux, très investis dans la défense de l'intérêt commun. Il nous était apparu important d'éclairer nos concitoyens, nos collègues parlementaires, sur cette accélération des processus, notamment en matière de connaissance, sur les changements de paradigme à l'oeuvre dans certains domaines. Cédric Villani vient ainsi de nous expliquer qu'il fut un temps où la statistique n'était pas une science très valorisée, alors qu'elle devient presque aujourd'hui la reine des disciplines pour servir l'intelligence artificielle. Nous avions engagé ce travail avec beaucoup de sincérité, de curiosité et d'enthousiasme, en nous préservant des idées reçues en la matière, sur les grandes peurs, les inquiétudes, les « mythes » issus de la science-fiction, qui n'évoluent guère. Notre travail visait à rendre l'intelligence artificielle compréhensible pour l'ensemble de nos concitoyens. C'est d'ailleurs la raison pour laquelle nous avons intitulé notre rapport Pour une intelligence artificielle maîtrisée, utile et démystifiée. Je suis vraiment très touchée que l'éminent travail en cours, qui doit servir notre pays en contribuant à la définition d'une stratégie nationale de l'intelligence artificielle, s'inscrive dans la continuité de notre rapport, sorti concomitamment avec le rapport France IA, mais qui avait précédé la démarche, et que la diversité des réflexions ne soit pas vécue comme un obstacle mais, au contraire, comme une complémentarité.

J'ai écouté l'intervention de notre collègue député avec beaucoup d'intérêt : une telle conférence, faisant preuve d'une grande pédagogie, ne fait que renforcer la connaissance des uns et des autres. Il serait vraiment très important que le maximum de nos concitoyens puisse bénéficier de ce bain de culture pour développer une culture commune sur ce qu'est l'intelligence artificielle, en quoi elle peut nous servir et quel est son domaine possible.

J'ai peu de choses à ajouter à ce qui vient d'être dit. J'approuve totalement la démarche et le propos. Je souhaiterais simplement insister sur l'enjeu stratégique de l'intelligence artificielle pour le handicap. Il a été dit très clairement dans l'exposé que l'intelligence artificielle représentait un défi industriel, écologique et d'inclusion : ce dernier aspect mérite selon moi d'être mis en avant. Il est important de miser, au niveau européen, sur des réseaux de compétences, des réseaux humains, en matière d'éducation et d'inclusion. Cela doit constituer un axe prioritaire. En effet, nombre de nos concitoyens vivent dans des situations de handicap et souffrent d'un déficit de compréhension et de reconnaissance de ce qu'ils peuvent apporter au bien commun.

Je suis, aujourd'hui, présidente du Conseil national consultatif des personnes handicapées et me suis fait une vocation de défendre leur position, d'oeuvrer pour qu'elles soient reconnues et respectées, en pesant davantage sur la mise en valeur de leurs capacités que sur l'identification de leurs déficits. Or grâce à l'intelligence artificielle, à l'accumulation de données sur leurs besoins, leurs aspirations, mais aussi leurs capacités, et au travail que l'on peut mener pour élaborer des applications qui leur seraient utiles pour se repérer et dépasser certaines incapacités, ces personnes pourront vraiment donner la pleine mesure de leur utilité sociale et améliorer leurs conditions de vie. Les questions que se posent les personnes handicapées permettent, en outre, des réponses plus précises pour l'ensemble de la population. Le dépassement, la compensation technique du handicap, sont des moteurs de recherche et développement qu'il ne faut pas cantonner à un volet « handicap ».

Nous avons la chance d'avoir un Président de la République qui a défini le handicap comme une priorité du quinquennat, qui encourage l'ensemble de son gouvernement à se mobiliser pour construire une société inclusive. Il me semble que dans le tournant que nous vivons aujourd'hui, la reconnaissance des besoins, mais aussi des capacités, des compétences et de l'intelligence d'usage des personnes handicapées est essentielle. Ce sont les usagers « extrêmes » qui font progresser les usages. Il convient donc de ne pas négliger cette part de la société. Donner aux personnes handicapées une place visible dans le processus et dans la stratégie nationale serait vraiment faire oeuvre utile et rendre justice à ces milliers de gens. Peut-être avez-vous eu, comme moi, la curiosité de regarder récemment à la télévision le film retraçant la vie d'Alan Turing, qui n'avait pu être reconnu comme autiste Asperger puisque ce dernier n'avait alors pas encore publié ses travaux, mais était vraisemblablement un autiste de très haut potentiel. Il faut bien se rendre compte que des personnes en situation de handicap, mais n'en faisant pas état, travaillent dans de nombreux organismes et servent la recherche, et il faut leur rendre justice. En s'intéressant davantage au réseau associatif réunissant les amateurs éclairés, que ce soit dans le domaine écologique, climatique ou encore de la santé (avec les patients experts) ou du handicap, on pourrait enrichir considérablement le potentiel d'intelligence de la stratégie nationale d'intelligence artificielle.

J'ai particulièrement apprécié le moment où il a été dit qu'il fallait libérer les énergies et expliqué que dans le milieu économique privé, chez les GAFA, les chercheurs jouissaient de plus de liberté que dans le milieu académique. Claude de Ganay et moi avions eu l'occasion d'être reçus à San Francisco, par exemple chez Google, Facebook et Apple, et avions pu voir à quel point les conditions de vie, de travail et de recherche étaient facilitées pour les personnes travaillant dans cet univers. Des armoires, dans lesquelles les chercheurs et ingénieurs peuvent venir chercher le matériel qui leur manque ou remplacer un ordinateur défectueux, sont par exemple accessibles avec la carte professionnelle avec un simple contrôle aléatoire. Ce type de démarche facilitatrice existe très peu dans nos universités et nos organismes de recherche. Nous avons beaucoup à apprendre. Il ne faut pas craindre la mixité des milieux, les allées et venues. Yann Le Cun explique ainsi que l'on peut très bien continuer la recherche fondamentale en étant salarié chez Facebook. Nous avons de même rencontré aux États-Unis d'autres grands chercheurs qui ont un contrat avec une firme et continuent de publier et d'animer des laboratoires académiques. Ce rapprochement entre le secteur privé et la recherche académique constitue une évolution importante, qu'il faudrait impulser dans la stratégie nationale pour développer le plus grand potentiel possible, au service du rayonnement de la France et de l'Europe.

Je souhaite, en outre, apporter une précision à propos des entreprises chinoises, que Cédric Villani a évoquées : nous avions voulu pointer le fait que les géants chinois étaient en plein essor et nous interrogions sur le moment à partir duquel ils pouvaient potentiellement devenir dominants. Aujourd'hui, la question est plus imminente encore. Cela peut aussi être un motif de plus grand rapprochement avec les firmes anglo-saxonnes et américaines, afin de créer une force concurrente, capable de résister aux entreprises chinoises mais aussi indiennes.

M. Cédric Villani, député, premier président. - Merci beaucoup pour ces paroles. Tu as tout à fait raison quant au rôle du handicap, sous plusieurs aspects. Ainsi, travailler avec l'usage extrême peut bénéficier à tous les usages : l'un des exemples historiques fameux est celui de la télécommande, dont l'usage était prévu à l'origine pour les personnes paralysées et qui s'est ensuite largement répandu. Diverses expériences menées dans la perspective d'aider au handicap bénéficieront ainsi certainement à tout le monde. Je pense, notamment, à des expériences d'interactions personnalisées dans un contexte de handicap mental, à des interactions pour des personnes paralysées en termes par exemple de pilotage de drones ou d'appareils fonctionnant avec le mouvement des yeux, ou même à des expériences en cours sur le pilotage par la pensée. On peut parfaitement imaginer que ces travaux conduiront à des usages qui se répandront ensuite bien au-delà des personnes handicapées.

Ma deuxième remarque concerne la politique internationale. La question soulevée est très intéressante et sera posée : comment, dans la grande compétition entre continents américain et asiatique, l'Europe va-t-elle se placer ? Une possibilité serait de nouer une sorte de grande alliance ; une autre de jouer une partition indépendante qui se traduira par une politique étrangère vis-à-vis de l'Amérique et de la Chine, avec son lot de partenariats et de compétition. La question est à la fois scientifique et politique bien sûr.

M. Michel Amiel, sénateur. - Merci de la clarté de cet exposé, sur un sujet qui monte en puissance. Ma question, formation oblige, va porter sur les relations entre intelligence artificielle et médecine.

Au moment où l'on s'interroge beaucoup sur la question des « déserts médicaux » - terme couramment utilisé, mais que je n'aime pas trop car il ne correspond pas à une réalité -, force est d'admettre que probablement, dans les vingt années à venir, l'intelligence artificielle, sous forme de médecine algorithmique, d'aide au diagnostic, jouera un rôle important. J'ai participé en 2007 - 2008 à une réflexion sur la question des déserts médicaux au sein de l'Académie de médecine : le sujet n'avait même pas été abordé.

Le deuxième point de mon intervention s'appuie sur l'opposition entre deux citations fameuses que sont « science sans conscience n'est que ruine de l'âme » et « il ne sert à rien d'interdire ce que l'on ne peut empêcher ». Cela me conduit à poser la question des lois de bioéthique, qui doivent être révisées en 2018. Sauf erreur de ma part, ce sujet n'avait pas été abordé lors du précédent réexamen. Est-il prévu d'introduire ce sujet dans les débats préalables à la révision de la loi ? Si tel n'est pas le cas, n'est-il pas nécessaire de réfléchir à cette possibilité ? Ma grande crainte est que le débat soit confisqué par d'autres sujets tels que la procréation médicalement assistée (PMA), la gestion pour autrui (GPA), etc. Il ne faudrait pas que, pour des raisons de morale, d'éthique, on oublie ce sujet qui me paraît absolument fondamental.

Il a été question dans l'exposé de concurrence internationale. Je ne suis pas certain que les considérations éthiques encombrent beaucoup les recherches en Chine. N'y a-t-il pas là un risque de distorsion de concurrence entre des pays, des continents (la France, l'Europe) pour lesquels les valeurs éthiques sont essentielles et d'autres où elles passent davantage au second plan ?

M. Cédric Villani, député, premier vice-président. - Merci pour ces questions, qui sont toutes au coeur du sujet.

Sur les déserts médicaux, il est certain que, si l'on s'y prend bien, on peut envisager un avenir pas si lointain dans lequel l'intelligence artificielle pourra utilement contribuer à permettre, pour schématiser, de traiter le tout-venant tout en identifiant les cas les plus délicats nécessitant que le patient se déplace jusqu'au centre hospitalier pour consulter un médecin spécialiste du problème rencontré. La santé est le premier secteur pour lequel les grandes politiques internationales sont en train de se dessiner. Je parlais d'Israël précédemment ; c'est le cas également au Canada. Il est clair que la Chine vient également en tête à ce sujet. Des expérimentations sont par ailleurs menées en Inde, où la situation est extrêmement difficile en termes d'accès aux soins, avec par exemple des expériences de diagnostic automatique sur certaines affections de l'oeil et différents types de pathologies. Un peu partout, les algorithmes sont globalement aussi performants que les humains pour reconnaître une situation (en matière de diagnostic radiologique par exemple). Lorsque l'on associe les deux, on arrive à des pourcentages de succès extraordinaires. Il y a donc là un vrai enjeu.

Le dialogue entre les chercheurs de l'un et l'autre côté est très récent. Je participe à titre personnel, en tant que membre de l'Académie des sciences, à un groupe de travail mixte entre Académie des sciences et Académie nationale de médecine, mis en place voici environ 18 mois par moi-même et surtout par mon collègue médecin Bernard Nordlinger, qui suscite beaucoup d'enthousiasme. Nous nous réunissons régulièrement et examinons à chaque fois des cas d'usage, défrichons des sujets, évoquons les difficultés et les succès liés à l'exploitation des données et présentons certaines start-up. J'étais tout d'abord relativement sceptique lorsque Bernard Nordlinger m'a sollicité pour mettre en place ce groupe de travail. Je me demandais par exemple s'il ne vaudrait pas mieux que je laisse ce soin à des personnes plus expertes que moi dans ce domaine et si je disposerais de suffisamment de temps pour m'en occuper. Je reconnais aujourd'hui qu'il a eu raison de m'entraîner dans cette démarche, car c'était le bon moment pour le faire. Lors de la préparation de ce rapport, nous avons eu une longue séance de travail avec les collègues de l'Académie de médecine, dont nous avons pu voir qu'ils étaient très motivés sur ce sujet et que le secteur en attend beaucoup.

Il existe également des enjeux considérables dans le domaine de la formation médicale : comment former nos médecins, nos experts (en radiologie, etc.), pour qu'ils aient les bons réflexes, les bonnes techniques ? Il faut parvenir à mettre le bon expert d'IA avec les bons médecins, ouverts, et à les inciter à travailler ensemble sur un projet donné, pendant une durée donnée. Ce dialogue sera très important et devra s'organiser convenablement, y compris avec des rencontres physiques : les gens doivent vraiment se rencontrer.

Un autre point de votre question concernait la loi de bioéthique. Il est vrai que lors de la précédente révision, il y a cinq ans, ce sujet n'avait pas été abordé. Cette fois-ci, il le sera. Il ne faut pas que le débat soit confisqué par d'autres enjeux plus classiques, certes très importants, mais qui ne doivent pas faire oublier cette nouvelle gamme d'enjeux, qui ont évolué scientifiquement et techniquement depuis cinq ans et dont il faut désormais s'emparer, par rapport à l'expérimentation sur les embryons, aux nouvelles techniques qui naissent de la combinaison de l'essor de la génomique et du développement du Big Data, à la notion de consentement éclairé, etc. J'ai déjà été approché par des journalistes, qui souhaitaient, par exemple, connaître ma position sur la PMA, à propos de laquelle l'OPECST doit rendre un rapport. Ma communication est claire : je me refuse pour l'instant à évoquer ma position sur ces sujets. On y viendra en temps voulu. J'ai évidemment une opinion en tant que citoyen, mais refuse que le débat se concentre sur ce sujet. Il faut d'abord arriver à poser les questions, c'est-à-dire à expliquer en quoi le contexte scientifique et technologique a changé et est nouveau. Une fois les questions explicitées, on s'occupera de faire des choix.

Cela m'inspire, par ailleurs, l'interrogation suivante : comment gérer les questions relatives à l'éthique et à l'intelligence artificielle ? Plusieurs options sont envisageables. La première serait d'étendre le mandat du Comité consultatif national d'éthique (CCNE) pour qu'il prenne également en compte les questions de data, d'informatique, etc. Une autre possibilité serait de confier cela à un autre organisme. Ce pourrait être le Conseil national du numérique ou la Commission nationale de l'informatique et des libertés (CNIL), mais on voit immédiatement qu'ils seraient en conflit d'intérêts sur certains sujets : ce n'est donc sans doute pas la bonne solution. Ce pourrait également être un organisme indépendant, construit pour l'occasion, ce qui n'empêcherait pas qu'il puisse avoir quelques membres en commun avec le CCNE. Nous ne sommes pas encore sûrs de la position que nous adopterons, mais je pense que notre préconisation ira plutôt vers cette dernière option, qui est aussi celle que privilégiait le rapport de Claude de Ganay et Dominique Gillot. Chacune des possibilités que j'ai citées présente des avantages et des inconvénients. L'avantage important d'avoir un organisme en soi est que cela insiste sur l'importance du sujet et permet de regrouper des données et des problèmes qui sont loin de la bioéthique, mais vont avoir trait à des aspects économiques, environnementaux ou autres.

Concernant la possibilité de collaborations avec la Chine, je pense qu'il ne faut pas se l'interdire a priori. Il faut, en revanche, avoir les idées claires sur ce que l'on veut, les principes que l'on souhaite adopter, connaître très précisément les enjeux et les atouts des différents partenaires. On devine, dans le paysage que j'ai dessiné, les éléments que pourrait apporter un partenaire chinois en termes de coopérations économiques, d'expérimentations ou sur des enjeux de formation. Il existe des sujets scientifiques en péril dans notre pays, par manque d'étudiants. L'intelligence artificielle n'en est pas vraiment un. Les responsables de la formation phare en France, qui est le Master 2 mathématiques/vision/apprentissage (MVA) de l'ENS Paris-Saclay (ex ENS Cachan), sont débordés par les demandes de jeunes qui souhaitent suivre cet enseignement. Pour l'instant, le facteur limitant est plutôt le nombre d'enseignants. La Chine est souvent perçue comme un réservoir d'étudiants potentiels ; mais c'est une discussion plus subtile qu'il convient d'avoir dans le cadre de l'intelligence artificielle.

M. Stéphane Piednoir, sénateur. - Merci beaucoup pour cette présentation très complète de ce rapport d'étape, qui nous montre l'étendue immense de ce champ passionnant. À titre personnel, je découvre beaucoup de choses dans ces premières pistes avancées. Ce sujet présente des enjeux majeurs pour le pays, en termes de souveraineté, de concurrence internationale au niveau économique. Cette mission explore vraiment de façon approfondie, me semble-t-il, les débouchés ainsi que les risques éventuels associés à ces nouvelles techniques. Il se trouve que nous avons en commun, M. le premier vice-président, le domaine des mathématiques, bien qu'à un niveau plus modeste pour ce qui me concerne, en tant qu'enseignant de profession. Vous avez indiqué dans votre présentation que la France manquait d'ingénieurs dans le secteur de l'intelligence artificielle. J'irais même jusqu'à dire que l'on manque d'ingénieurs de qualité : on a su former des mathématiciens de qualité, vous en êtes la preuve, mais je ne suis pas sûr que les générations qui arrivent se situent à un tel niveau d'excellence. Une réforme du baccalauréat est en projet. Ne serait-il pas intéressant et opportun de suggérer au plus haut niveau qu'une réforme du bac ambitieuse aurait aussi pour objectif de former de vrais scientifiques, c'est-à-dire des jeunes qui n'iraient pas vers le bac S uniquement parce qu'ils ont de bons résultats en classe de seconde, mais parce qu'ils ont envie de faire des sciences ? Il est extrêmement facile aujourd'hui d'obtenir son bac S en ayant des notes faibles, voire médiocres, dans les matières scientifiques, par le jeu des options et des coefficients des autres disciplines. En tant que professeur de mathématiques, cela me choque profondément. In fine, les étudiants qui arrivent dans l'enseignement supérieur ne sont pas formés à faire des sciences.

M. Cédric Villani, député, premier vice-président. - Je partage complètement vos inquiétudes, mon cher collègue. Nous avons des soucis dans notre système de formation un peu à tous les niveaux. Concernant la question précise de la formation d'ingénieurs de qualité, surtout dans les domaines liés à l'informatique, nous ne sommes pas les seuls. Les experts en la matière s'accordent globalement pour dresser ce constat : un peu partout, les ingénieurs informaticiens sont trop rompus à l'art de la « bidouille », de la débrouille, des pansements sur un code compliqué et perdent ainsi l'habitude de raisonner en termes systémiques, logiques, sur la résolution de problèmes. Cela m'est apparu lors de nombreux débats auxquels j'ai pu assister ou que j'ai modérés, sur des sujets très variés : en cybersécurité par exemple, il s'agit d'un problème classique que de chercher à répondre aux difficultés rencontrées non pas seulement en colmatant les brèches ici et là, mais en pensant systémique. Cela rejoint la question des attentes vis-à-vis d'un enseignement théorique, mathématique, dans nos formations d'ingénieurs. Très souvent, les ingénieurs en formation voient cela comme un élément déconnecté de la pratique. La capacité à mettre une pensée théorique en pratique, qui était une marque de fabrique des ingénieurs français, est plutôt en danger aujourd'hui.

En France, le danger actuel est toutefois bien plus grand encore du côté du système éducatif en amont. Le bac S est aujourd'hui un faux baccalauréat scientifique : il s'agit plutôt d'un diplôme généraliste de qualité, qui se cache sous une appellation scientifique. La situation serait bien plus saine si l'on avait une filière d'excellence scientifique, une filière d'excellence littéraire, une encore d'excellence professionnelle et technologique. On n'est malheureusement jamais parvenu à aboutir à de tels changements. J'ai espoir que, dans le cadre de la réforme annoncée du baccalauréat, qui va être une véritable réforme « coup de poing » dans le bon sens du terme je l'espère, on arrive à briser le carcan dans lequel nous sommes enfermés et à faire émerger, par le jeu des options, des profils qui s'engagent dans une filière vraiment scientifique par choix.

Nous avons en outre des soucis bien en amont du baccalauréat, dès la petite enfance. Je suis actuellement chargé d'une autre mission sur l'enseignement des mathématiques, en binôme avec Charles Torossian, de l'Inspection générale de l'Éducation nationale (IGEN). Les constats qui s'offrent à nous sont également très durs pour nos institutions. Dans les évaluations internationales sur les acquis scolaires (TIMSS pour Trends in international mathematics and science study), figure notamment un volet sur la maîtrise des fractions : or dans la dernière édition, la France est classée dernière de l'OCDE. Les auditions auxquelles nous avons procédé ont mis en lumière le fait qu'il s'agissait d'un problème relativement récent : la situation est très dégradée aujourd'hui. Dans les comparaisons internationales sur le niveau des enfants, nos résultats sont très inférieurs à ce qu'ils étaient voici deux décennies. Il apparaît, en outre, que ce problème survient tôt, dès l'école primaire, et est multifactoriel : entrent pêle-mêle en jeu le problème de la formation des instituteurs et institutrices, en grande majorité littéraire. Ces derniers cherchent très souvent à éviter l'enseignement des sciences, et il existe aussi un problème d'organisation des programmes et des attendus par la société, dans un contexte où les mathématiques sont l'objet de plus en plus d'attentes. On veut, en effet, former à savoir faire ses comptes en autonomie, apporter des connaissances de culture générale sur les grandes avancées des sciences mathématiques dans le monde, entraîner au raisonnement, à la concentration et au calcul mental, qui sont bons pour les activités neurocognitives, préparer à des métiers dans lesquels on utilisera les sciences mathématiques et faire éclore des mathématiciens, des statisticiens et des informaticiens de haut niveau. Or ce sont des rôles assez différents, si bien que les enseignants se retrouvent déboussolés et ne savent pas réellement ce que l'on attend d'eux ni comment le faire. En outre, cette discipline est sous le feu de la société et des critiques : tout le monde a son mot à dire et l'on débat, dans les journaux télévisés, sur la question de savoir à quel âge il faut apprendre les opérations, sans en arriver à la conclusion qu'il convient juste d'expérimenter et d'évaluer. Il est très difficile d'avoir des échanges sereins sur le sujet. S'ajoutent à cela des problèmes d'organisation générale de l'Éducation nationale : gestion des enseignants, évaluation, inspection, dynamique d'équipe, gouvernance, sécurité, discipline, rôle du chef d'établissement (souvent sous tutelle en pratique car il a besoin des crédits de la mairie pour mettre en oeuvre son équipement, acheter ses manuels). Nous sommes face à un système rempli de complications, dans lequel la réforme n'a que trop attendu. La mathématique est en quelque sorte le révélateur très sensible d'un système qui rencontre globalement toutes sortes de difficultés.

M. Gérard Roucairol, président honoraire de l'Académie des technologies. - L'Académie des technologies est actuellement en train d'élaborer un rapport et de formuler des recommandations sur ces sujets. Je suis heureux qu'il existe des éléments de convergence entre nos réflexions et les vôtres. Cela concerne notamment le fait que l'intelligence artificielle est véritablement une boîte à outils, plus qu'une discipline ou un corps de pensée unique pour aborder un certain nombre de problèmes.

Nous souhaitons également mettre en avant le fait que la spécialisation est fondamentale, notamment dans l'usage industriel de l'intelligence artificielle, pour faire naître des marchés correspondants et faire évoluer des industriels dans leurs métiers même, puisque l'utilisation de l'intelligence artificielle représente une façon de se moderniser et d'acquérir plus de compétitivité, voire de productivité. Peut-être faudrait-il insister davantage sur la nécessité d'intégrer, dans les méthodes d'intelligence artificielle, les connaissances existantes, dont on ne peut se passer. On ne pourra, par exemple, pas observer un système électrique sans connaître les lois de Kirchhoff ou les lois des mailles et des noeuds, que la machine ne trouvera pas nécessairement seule. Ce n'est que dans ces conditions que l'on bénéficiera vraiment des apports de l'intelligence artificielle. Cela mérite d'être souligné, d'autant que le message diffus dans l'esprit de la population est qu'il existe une sorte d'immanence des techniques hors sol. Les réactions, fondées ou non, de la population face aux algorithmes sont très similaires à celles que l'on rencontre vis-à-vis d'autres techniques comme les OGM par exemple. Un journaliste expliquait ainsi récemment sur une grande chaîne de télévision que les problèmes de sélection des jeunes bacheliers pour s'inscrire à l'université étaient dus à l'intelligence artificielle. Il faut donc faire preuve d'une grande vigilance.

Vous avez par ailleurs souligné le point, essentiel également, de la gestion, de la propriété et du règlement relatifs aux données. Ce n'est actuellement pas tant la collecte, aujourd'hui régulée, qui est importante et peut poser problème, que l'usage. Il convient donc, selon nous, de faire évoluer fondamentalement la loi « Informatique et libertés », tout en conservant ce que l'Europe a défini en termes de régulation des droits individuels.

Je souhaiterais revenir brièvement sur la question des très grosses infrastructures de calcul. Je rappelle que l'Europe, et la France en particulier, ont rattrapé leur retard dans ce domaine. Nous sommes, en termes de puissance de calcul, dans la compétition mondiale, aux côtés des Américains, des Japonais et des Chinois. Nous avons su démontrer que nous avions cette compétence. Les problématiques qui se posent en matière de puissance de calcul pour l'intelligence artificielle résident d'abord dans le fait d'utiliser des processeurs très spécifiques, qui vont accélérer un certain nombre de fonctions, mais au sein d'architectures générales, dont nous avons la maîtrise et au sein desquelles on peut loger des processeurs ou des dispositifs spécialisés visant à accélérer, à moindre coût énergétique, des fonctions utiles dans le calcul d'intelligence artificielle. Certes la coopération avec les Américains et les Chinois est possible. J'ai moi-même travaillé sur des processeurs en collaboration avec des équipes chinoises à Shanghai à une certaine époque de ma vie. Mais il faut savoir ce que l'on veut : on ne pourra pas faire de l'intelligence artificielle et maîtriser la transition numérique si l'on ne maîtrise pas les soubassements et les infrastructures pleinement par nous-mêmes. L'histoire nous a malheureusement montré que des embargos pouvaient parfois survenir.

M. Cédric Villani, député, premier vice-président. - Il faut en effet maîtriser toute la chaîne, sans quoi nous resterons dépendants.

M. Gérard Roucairol. - La question de la formation me paraît aussi essentielle. Je suis tout à fait satisfait que vous ayez évoqué cette vision de l'informaticien hacker par rapport à la problématique posée. Il s'agit véritablement d'une problématique importante. Imaginons que quelqu'un télécharge un système de réseau de neurones sur Google, applique cela sur des données qu'il a capturées n'importe où et vous indique que vous avez 25 % de chances de développer un cancer dans quatre ans : cela pose des problèmes de responsabilité. Or tout un chacun peut bricoler l'informatique de la sorte à l'heure actuelle. Le problème est donc de veiller à éviter ce genre de situation. La formation, et notamment la formation à la statistique, est l'un des éléments clés de ce dispositif. Dans l'histoire du calcul, on atteint maintenant une difficulté que l'on a connue dans l'histoire des sciences, consistant à savoir comment traiter de la très grande multitude. Les physiciens ont inventé la physique statistique pour traiter des problèmes de cette nature. En ce moment avec l'informatique, on est en train, pour traiter de très grands espaces à parcourir, d'inventer une vision un peu statistique des choses. Cela signifie que la statistique doit occuper une place importante dans la formation. C'est en effet là que se situe la rupture majeure : on introduit désormais de la probabilité dans une habitude de l'informatique, qui était de faire des choses exactes.

M. Cédric Villani, député, premier vice-président. - Je suis d'accord en tout point avec ces remarques. Nous attendons avec grand intérêt le rapport de l'Académie des technologies, qui contribuera à consolider et nourrir le nôtre.

Sur ces questions de statistiques, l'un des écueils à éviter est la tentation du bricolage pour obtenir un résultat. Ce piège est d'autant plus présent dans le cas des réseaux de neurones, qui apportent beaucoup de souplesse. Certaines personnes se sont ainsi fait une spécialité d'agglomération de données non structurées, qu'elles vont chercher absolument n'importe où, en connectant tout à tout. Ces techniques sont certes passionnantes, mais doivent être manipulées avec prudence. L'exemple que vous donnez de l'annonce de la probabilité de développer un cancer à partir de données très peu robustes rejoint un exemple de vulgarisation scientifique que je cite régulièrement et que j'avais rencontré enfant lorsque je lisais Stephen Jay Gould. Dans l'une de ses chroniques, il raconte son rapport avec la statistique et le moment où il avait lui-même consulté les statistiques correspondant à son propre cancer, au sortir de l'opération. Il avait alors constaté, en consultant la littérature, que la situation était plutôt inquiétante : la médiane était basse, les risques de récidive très forts. Mais, en y réfléchissant mieux et en tenant compte de toute la distribution statistique, il s'était rendu compte qu'il existait une queue de distribution très étalée dans les survies et en avait déduit que l'important n'était pas la médiane mais de savoir s'il était dans la petite frange regroupant tous les facteurs positifs. Il a finalement pu se rassurer comme ça et n'est effectivement pas mort de ce cancer. Cette anecdote montre combien l'interprétation de la statistique est dangereuse si l'on n'est pas expert et si l'on ne se plonge pas vraiment dans le domaine. On a coutume de dire que, de toutes les branches mathématiques, c'est la plus traître parce que si l'on ne connaît pas la discipline à laquelle elle s'applique, alors on va « droit dans le mur » en termes d'interprétation. Avec l'intelligence artificielle, les risques sont décuplés. Appliquer la même méthode de raisonnement statistique d'un domaine à l'autre peut conduire à des erreurs. C'est la raison pour laquelle les secteurs ont de l'avenir devant eux, l'important étant que chacun parvienne à augmenter son expertise. Des grands acteurs qui s'occupent de passer des contrats avec des institutions pour y installer un logiciel d'intelligence artificielle le disent clairement : en fonction du domaine et de la façon dont est organisée la structure, il faut à chaque fois reprendre la discussion presque à zéro.

M. Jean-Michel Besnier, professeur de philosophie à l'université Paris 4. - J'ai été, moi aussi, très satisfait d'entendre cet exposé éloquent. Il a commencé par faire état du sentiment que l'inquiétude prévalait sur l'enthousiasme. Je me suis demandé si cela avait surpris notre orateur. Il m'a, en tout cas, semblé intéressant d'en tirer comme conclusion qu'il est sans doute nécessaire d'agir sur l'imaginaire. A ainsi été posé la question de savoir comment enrichir l'imaginaire pour atténuer le contexte d'anxiété. Cette question peut sembler surprenante, et on ne se la serait peut-être pas posée naturellement dans les milieux scientifiques il y a encore cinq ans, mais elle me semble très importante. Il s'agit là d'un phénomène nouveau : on est désormais obligé de tenir compte des représentations mentales qu'engendre l'intelligence artificielle.

Je crois que l'on ne prendra jamais suffisamment la mesure de la confiscation que l'intelligence artificielle a faite du concept d'intelligence. Moi, en tant que philosophe, j'ai enseigné longtemps qu'être intelligent, pour un humain, consistait à résister aux automatismes, à commencer par les automatismes de l'instinct. Puis les sciences cognitives et l'intelligence artificielle nous ont imposé l'idée que l'intelligence était toujours associée à des algorithmes.

Il y a là un vrai travail à effectuer, dont j'ignore a priori comment le mener. Je sais, au moins, qu'une certaine conception positiviste de la science trouve ses limites et qu'il faut, d'une manière ou d'une autre, que la formation prenne en compte cette défaite d'une conception positiviste de la science qui séparait l'imaginaire du rationnel, la technique et la science de la littérature, pour le dire rapidement. Peut-être y a-t-il quelque chose à imaginer pour tâcher d'orchestrer la collaboration entre les scientifiques et les artistes notamment. Il faut mobiliser de la culture si l'on veut affronter les problèmes que pose à nos contemporains le développement de l'intelligence artificielle. Il est vrai que l'imaginaire sollicité est peuplé de clichés. Comment les scientifiques vont-ils faire pour influer sur la production d'imaginaire ? Il existe de très bons films : Interstellar a, par exemple, été conseillé par le physicien Dyson. Mais je crois qu'il reste sans doute, structurellement, à imaginer cette collaboration entre culture et science, autour de cette question d'un grand enjeu, avec le risque, déjà perceptible, que l'idéal de vérité associé à la science positiviste soit quelque peu mis à mal. On parle aujourd'hui de l'avènement d'une post-vérité. C'est, là aussi, un élément qu'il convient de prendre très au sérieux. Je suis certain que, dans cinq ans, on se posera la question de la post-vérité, de la perte de crédibilité de la vérité. Or qu'est-ce qu'une formation qui perdrait cet atout qu'est le concept de vérité ? Je vois là un vrai problème.

Par ailleurs, je crois que vous avez bien fait, Madame Gillot, de souligner la nécessité d'associer intelligence artificielle et handicap. Il faut se souvenir que le handicap est le terreau sur lequel se développe l'augmentation, à telle enseigne que certains handicapés se trouvent gratifiés d'une certaine évolution. Dimanche dernier, se déroulaient des manifestations autour du handicap, intitulées « Handicapable », auxquelles j'ai participé dans le cadre d'un événement organisé à l'Institut du cerveau et de la moelle épinière (ICM). J'ai eu, après l'intervention que j'y ai faite, des réactions d'autistes Asperger qui récusent complètement le concept de handicap et se désignent comme des « variants humains », qui anticiperaient en quelque sorte une attitude favorisée précisément par l'intelligence artificielle et par le numérique. Plus on va développer de l'intelligence artificielle, plus se trouveront valorisés des comportements relevant de l'autisme d'Asperger, ce qui peut sembler paradoxal et pose peut être des problèmes. On voit, ce faisant, que les imaginaires, les représentations mentales sont en train de changer de manière considérable.

M. Max Dauchet, président de la Commission de réflexion sur l'éthique de la recherche en sciences et technologies du numérique de l'Alliance des sciences et technologies du numérique (Allistène). - Vous avez, M. Villani, souligné à juste titre le point « éthique-confiance-responsabilité ». Il est effectivement important d'avoir un espace public lisible sur ces questions, pour instruire l'idée que l'on développe l'intelligence artificielle au service de l'humain et non que l'on va adapter l'humain à l'intelligence artificielle. Je souhaiterais toutefois intervenir sur un point : vos annonces louables vont être faites dans le cadre de l'intelligence artificielle, mais les questions, même si elles sont exacerbées dans ce domaine, se posent pour le développement du numérique en général. Je reviendrai brièvement sur le cas de l'algorithme APB (Admission Post Bac), qui a récemment fait l'objet d'une audition publique de l'OPECST. On peut penser que l'algorithme APB va être au service de l'étudiant dans ce moment décisif de sa vie. Mais un débat a eu lieu car des scientifiques ont estimé qu'il serait bien de cadrer autrement l'expression des voeux des candidats, afin d'être en mesure d'appliquer un algorithme d'optimisation qui existe et est le meilleur connu. Sans prendre parti, il apparaît ainsi que, sur un algorithme de ce genre, donc extrêmement simple, se pose déjà la question de savoir si l'on façonne l'humain pour pouvoir appliquer un algorithme optimal - qu'en tant que scientifique, j'applaudis, par ailleurs, des deux mains - ou si l'on décide plutôt de mettre l'algorithmique au service de l'humain avant de chercher l'exploit.

M. Cédric Villani, député, premier vice-président. - Nous sommes, nous aussi, persuadés qu'il s'agit d'un sujet sur lequel les acteurs des sciences humaines, de la littérature, des arts vont avoir leur mot à dire et leur rôle à jouer, en lien avec les scientifiques.

Rémi Quirion a évoqué, précédemment, le développement du sujet au Québec et a cité Yoshua Bengio comme figure tutélaire du domaine. Il m'expliquait hier, en privé, que Yoshua Bengio représentait, pour les sciences au Québec, un peu Céline Dion dans la chanson, c'est-à-dire une figure omniprésente, respectée, reconnue, très populaire. Cela a joué un rôle important dans l'acceptation sociale et la confiance des uns et des autres dans le développement et l'attractivité du sujet au Québec. Il va falloir, dans une stratégie de communication, penser aussi à ce débat de type soft power au service du bien public.

Concernant la question de la confiscation de l'intelligence par l'intelligence artificielle, il apparaît que les rôles ont, historiquement, été renversés. Dans les années 1950, quand l'informatique s'est développée, les scientifiques ont pensé pouvoir réussir à traduire l'intelligence humaine en un algorithme. C'est d'ailleurs de là qu'est venu le terme « intelligence artificielle », avec McCarthy et Minsky. Il s'agissait d'une sorte de vision avec un prisme d'informaticien et l'idée de créer de nouveaux outils pour avancer dans le débat visant à comprendre ce qu'était la cognition. Aujourd'hui, les sciences cognitives ont largement dépassé ce sujet. Certains, comme notre collègue Olivier Houdé, affirment même que l'intelligence commence quand on va contre ses réflexes, que l'on inhibe ses automatismes. Mais dans l'imaginaire collectif, l'idée que l'intelligence est un algorithme et la comparaison populaire entre un cerveau et un ordinateur sont bien ancrées, alors même que les sciences cognitives nous disent que le cerveau ne ressemble absolument pas à un ordinateur. Nous avons donc ici besoin de dépasser cette conception et de traduire cela en récits, en romans, en films, etc.

Sur la question du handicap et des variants, il m'est arrivé, dans le cadre de mes activités associatives, d'être très régulièrement en contact avec le handicap polyhandicap ou autisme. Il existe effectivement des cas d'autisme dans lesquels le mot « handicap » semble vraiment inadapté. Mais souvent, tirer parti de cela procède d'un intérêt soit pour l'individu, soit pour la société.

Je vous recommande un très bel ouvrage sur la lecture et l'écriture de l'universitaire américaine Maryanne Wolf, intitulé Proust et le calamar : une section entière y est consacrée à la dyslexie et je dois avouer que la lecture de ce chapitre parvient presque à faire regretter de ne pas être dyslexique tellement elle montre que cela est associé à des capacités originales et correspond à un « câblage » neuronal différent. Il convient donc de manier le terme de « handicap » avec précaution.

Je pense également à un livre récent qui a eu beaucoup de succès et au film qui s'en est inspiré : il s'agit de Millenium, de Stieg Larsson, dont l'héroïne est une jeune femme surdouée, ayant clairement une pathologie de type Asperger.

Pour répondre à Max Dauchet, il faut savoir que l'algorithme de Gale et Shapley utilisé historiquement dans APB a été mis au point aux États-Unis voici quelques décennies selon la logique suivante : sachant les contraintes que l'on souhaitait pour réaliser les affectations dans les universités, quel serait le bon algorithme ? Ensuite, il faut effectivement prendre garde de ne pas plier les conditions à l'algorithme et d'adapter l'algorithme aux besoins de l'humain. Il faut tout de même garder en tête ce qui est possible et ce qui ne l'est pas. Notre Office a pour but de pouvoir instruire les dossiers en indiquant très clairement les principes de réalité. Si nous effectuions, par exemple, le bilan de toutes les contraintes s'exerçant sur le système et que nous découvrions qu'il existe un algorithme formidable permettant de toutes les résoudre, mais nécessitant un an pour être mis en oeuvre, alors, nous le mettrions de côté. Il s'établit donc nécessairement un aller-retour entre la faisabilité et les spécifications. Dans le cas d'APB, l'audition que nous avons organisée a montré aussi qu'au-delà du choix algorithmique, la gouvernance humaine de l'algorithme avait été très mal gérée. C'était d'ailleurs le sens principal d'une tribune que j'ai publiée avant-hier sur le sujet. Il faut avoir en tête que le politique doit garder la responsabilité, faire en sorte de savoir précisément qui décide quoi et surtout ne pas défausser sa responsabilité sur l'algorithme. C'est là, à coup sûr, la bonne interprétation de ce qui a été inscrit dans la loi « Informatique et libertés » il y a quelques décennies déjà, sur le fait que l'on ne peut pas donner un résultat sur la seule base d'un algorithme : l'idée principale est qu'il faut qu'à chaque fois un humain puisse endosser la responsabilité. Si un algorithme est utilisé, cette personne doit être en mesure d'indiquer les raisons et les modalités du choix effectué. Dans tous les cas, la responsabilité doit rester à l'humain. J'ai eu l'occasion d'avoir de longues discussions avec l'équipe qui, au ministère de l'enseignement supérieur, se charge de la mise en place du nouveau Parcours Sup : je puis vous dire qu'elle est très attentive à tous ces aspects et ne s'est absolument pas placée dans une démarche la conduisant à être prisonnière de l'algorithme existant.

Je conclurai en disant que c'est là le sens de toute cette discussion sur l'intelligence artificielle : définir quels sont les bonnes pratiques, les bons services, les bonnes prises d'indépendance pour que l'intelligence artificielle soit au service de notre société, collectivement, et que l'on n'en devienne pas les esclaves, non pas au sens où cela viendrait imposer sa loi mais au sens où l'on prendrait des décisions dictées par la technologie.

M. Bruno Sido, sénateur. - Merci à toutes et à tous, et surtout à Cédric Villani pour cet exposé que je considère tout à fait magistral. Bien que nous repartions sans disposer d'une définition précise de l'intelligence artificielle, cela ne nous a pas empêchés d'en débattre toute la matinée, au cours d'échanges tout à fait passionnants.

La réunion est close à 11 h 45.