Allez au contenu, Allez à la navigation

Compte rendu analytique officiel du 25 octobre 2017

Intelligence artificielle, enjeux économiques et cadres légaux

M. le président. - L'ordre du jour appelle le débat : « Intelligence artificielle, enjeux économiques et cadres légaux » (demande du groupe Les Indépendants - République et Territoires).

M. Claude Malhuret, président du groupe Les Indépendants - République et Territoires, auteur de la demande . - La troisième révolution industrielle, celle des technologies NBIC (nano, bio, informatique et cognition), a commencé avec ce siècle. Elle ne ressemblera pas aux deux précédentes. Son objet n'est plus la maîtrise de la matière inanimée, mais la transformation de l'homme ; elle dote les machines d'une intelligence propre et d'une véritable autonomie.

Premier constat, alarmant : la France et l'Europe sont distancées, pour la première fois depuis deux siècles, peut-être irrémédiablement, par le duopole de niveau mondial Chine-États-Unis, les BATX (Baidu, Alibaba, Tencent et Xiaomi) et les GAFAM (Google, Amazon, Facebook, Apple, Microsoft).

Le Gouvernement a annoncé son intention de mettre en place une République numérique, avec une feuille de route en dix points, comportant notamment la couverture numérique complète du territoire et la création d'un fonds de soutien de 10 milliards d'euros. Au salon Viva Tech le président de la République a précisé ses intentions en insistant notamment sur le développement des clean techs et des green techs, puissants gisements d'emplois et de richesses pour notre pays.

À Angers se tient en ce moment la vingt-deuxième édition du World Electronics Forum, le rendez-vous mondial des leaders de l'électronique, de retour en Europe pour la première fois depuis 2005. Allons-nous rattraper notre retard ? Pensons cette révolution numérique, avant que le vide juridique entourant ces nouvelles technologies ne nous dépasse !

Le deuxième défi est social : contrairement aux prédictions pessimistes, les deux premières révolutions industrielles ont créé des millions d'emplois. Or la troisième, avec l'automatisation, risque de détruire plus d'emplois qu'elle en crée et de mettre en place un marché du travail à deux vitesses, comportant une minorité d'emplois surqualifiés et une majorité de travailleurs précaires, sans compter les chômeurs. Les médecins, chirurgiens et radiologues notamment, sont, à 30 ou 40 ans, les plus menacés par l'intelligence artificielle - pas seulement les chauffeurs ou les métiers les moins qualifiés.

Troisième défi, sans doute le plus redoutable : l'éducation. La France est à la traîne dans tous les classements internationaux, pour l'école primaire, comme pour l'enseignement secondaire ou l'université, pour l'enseignement des mathématiques, de la langue maternelle ou des langues étrangères, comme pour les inégalités dans l'accès à la connaissance, ce qui nous place en situation d'extrême faiblesse face à la révolution des nouvelles technologies. Le nouveau ministre de l'éducation nationale semble bien conscient du problème.

En 2017, 17 % des jeunes de 15 à 29 ans sont des NEETs (young people not in education, employment or training). Il faudra pourtant les former à un monde ou cohabiteront intelligences biologique et artificielle.

Le quatrième défi est juridique : quel statut pour les machines, à qui les droits d'auteur, la propriété des données, la responsabilité en cas d'accident ?

Dernier enjeu, celui de l'éthique et de la morale. Les données de santé, collectées massivement par des entreprises privées, menacent le respect de la vie privée. Comment s'assurer qu'elles ne seront pas vendues à une compagnie privée ou à un futur employeur ?

Qu'en est-il du transhumanisme, de cette idée de l'homme « augmenté » ou « amélioré », qui pourrait être réservée à ceux qui pourront se le permettre ? L'hybridation entre l'intelligence artificielle et l'homme doit être encadrée juridiquement et faire l'objet d'un débat public.

Michel Foucault écrivait à la fin de Les Mots et les choses que : « à la figure de l'homme s'efface peu à peu, comme à la surface de la mer un visage de sable ».

Reste la dimension européenne. Prenons garde au duopole américano-chinois sur l'intelligence artificielle et trouvons une juste mesure prenant en compte la protection des droits. Le Parlement européen a pris en janvier une résolution en ce sens.

L'intelligence artificielle entraîne de formidables opportunités tout en posant de nombreuses questions. Anticipons et n'agissons pas en réaction au quotidien !

Qu'envisage le Gouvernement pour mettre en place un cadre juridique et légal, national et européen, qui permettra à la France et à notre continent de garder son rang dans un monde où le changement ne cesse de s'accélérer ? (Applaudissements sur les bancs du groupe Les Indépendants ainsi que sur plusieurs bancs des groupes UC et LaREM)

M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique . - Votre Assemblée est la première à m'inviter à m'exprimer sur ce sujet, qui est encore émergent, notamment sur les plans scientifique et économique. Il est pourtant essentiel que tous en comprennent les enjeux, et que les politiques, en particulier, prennent des décisions.

Nous Français, Européens, n'avons rien à subir de ces transformations, économiques, technologiques, scientifiques, mais au contraire tout à apporter. La voix de la France est entendue et attendue sur ce sujet.

Pour la première fois, l'intelligence artificielle a été mentionnée dans le discours de politique générale du Premier ministre, qui m'a confié l'élaboration d'une véritable stratégie nationale dans ce domaine.

C'est dans cet esprit que Cédric Villani a été chargé de travailler sur un ensemble de propositions destinées à servir de base à cette stratégie.

Ces deux dernières années ont vu une hyper-accélération des capacités de calcul. Longtemps, les ordinateurs se sont cantonnés au traitement des données ; désormais, ils s'attaquent à la compréhension des contextes, de l'espace, de l'utilisation de ces données multiples, qui peuvent être sensibles.

L'intelligence artificielle repose aussi sur l'intelligence des algorithmes. Bonne nouvelle, les Français sont en pointe dans ce domaine. Ces voies de recherche convergent pour produire des avancées majeures, en particulier, pour ne citer que cet exemple, dans le secteur de la santé.

Encore faut-il savoir où nous voulons aller. Un premier rapport rendu cet été, France intelligence artificielle, a servi de point de départ à la réflexion en identifiant nos points forts et nos manques. Cédric Villani, sur certaines questions, se tournent vers les Français plutôt que d'élaborer lui-même les réponses, en particulier dans le champ de l'éthique. Ainsi en ira-t-il de la décision administrative autonome, voire des robots capables de tuer. Ce code des algorithmes de décisions administratives, a-t-on arrêté, doit être ouvert, mais cela suffit-il ? Nous y réfléchissons.

Muriel Pénicaud et moi-même avons saisi France Stratégie pour l'élaboration de scénarios sur les effets de l'intelligence artificielle sur l'emploi. Nous avons pour responsabilité de renforcer la résilience des Français face à ces phénomènes.

Je vous donne rendez-vous en janvier ou février pour la remise du rapport de Cédric Villani ; en attendant, débattons. (Applaudissements sur les bancs du groupe LaREM et sur quelques bancs des groupes Les Indépendants et SOCR)

M. le président. - Je précise que si le premier orateur a jugé bon de s'exprimer de la tribune, les suivants pourront s'exprimer depuis l'hémicycle.

M. Joël Labbé . - L'intelligence artificielle me donne le vertige. C'est à la fois le plus fantastique progrès humain et, potentiellement, le plus abominable. Rien ne doit être tabou dans un tel débat et je vous remercie, monsieur le ministre, d'avoir cité les robots tueurs.

Le premier véhicule autonome sera mis sur le marché début 2020, avec une généralisation en 2030. C'est une opportunité extraordinaire en matière de sécurité et d'environnement. Elle entraîne aussi de profondes inquiétudes, puisque plusieurs millions d'emplois risquent d'être remplacés par quelques centaines de milliers, hautement qualifiés.

Quel avenir pour l'aide aux personnes ? Allons-nous impulser les dynamiques nécessaires au niveau international, notamment sur l'éthique ? (Applaudissements sur plusieurs bancs du groupe RDSE)

M. Mounir Mahjoubi, secrétaire d'État. - C'est à l'homme de décider où va l'intelligence artificielle. Il y a plusieurs chemins possibles. Plus je voyage, plus je distingue une manière bien française de penser le numérique, associant performance et humanité, c'est-à-dire la capacité à prendre en compte les conséquences humaines des évolutions à l'oeuvre.

Il existe néanmoins d'autres conceptions qui privilégient l'innovation coûte que coûte. Il appartient à la France d'orienter la réflexion au niveau européen, en rappelant ses valeurs. (Applaudissements sur quelques bancs du groupe LaREM)

M. Gérard Longuet . - Ce débat est important. Je remercie Claude Malhuret, président du nouveau groupe Les Indépendants, de l'avoir proposé, la conférence des présidents de l'avoir inscrit à l'ordre du jour et le ministre d'y participer. Je tiens aussi à remercier tout particulièrement l'office parlementaire des choix scientifiques et technologiques pour sa contribution à notre réflexion.

Avez-vous défini un calendrier pour coordonner la sortie du véhicule autonome et la mise en place du cadre juridique qui encadrera son usage ?

M. Mounir Mahjoubi, secrétaire d'État. - Le véhicule autonome pourra être généralisé en 2020 ou en 2030. De nombreux choix restent à imaginer et à définir : le véhicule autonome sera-t-il une voiture que je possèderai et qui me transportera où et quand je le souhaiterai sans que je la conduise ? Sera-t-il un véhicule que je louerai ? A qui appartiendra-t-il ? Aux villes ? Les modalités sont, à l'évidence, multiples et nous devons prendre la mesure de leurs conséquences.

Que deviendra le transport en commun en 2030 ? Les taxis, les VTC ? Ainsi, si l'on arrêtait la circulation de tous les véhicules personnels à Paris, on gagnerait collectivement 2,5 milliards d'euros. Nous devons réfléchir à toutes ces possibilités et nous poser les bonnes questions sur ce que nous souhaitons. C'est l'enjeu de notre travail.

M. Gérard Longuet. - Pour avoir vécu de près la coexistence du minitel et de l'Internet, je souhaiterais que le pouvoir politique reste modeste à l'égard de ces évolutions plus ou moins prévisibles et laisse l'initiative au secteur privé, aux experts et aux citoyens. Place à la liberté plutôt qu'à une réglementation de nos modes de vie. (Applaudissements sur les bancs du groupe Les Républicains, ainsi que sur de nombreux bancs des groupes Les Indépendants, UC et RDSE)

M. André Gattolin . - L'intelligence artificielle est un sujet à la mode. Les grands groupes ne cessent de faire des annonces spectaculaires dans ce domaine. Notre rôle à nous, politiques, est d'encadrer le débat.

Le secteur privé peut-il, à lui seul, organiser le développement de l'intelligence artificielle ? La France et l'Europe sont-elles en mesure de tenir une place dans le développement de l'intelligence artificielle ? Comment réguler ce développement ?

Dans son discours à la Sorbonne, le président de la République a annoncé la création d'une agence européenne de l'innovation dans deux ans. Où en est-on ? Avancerons-nous rapidement à l'échelon européen ou faudra-t-il passer par une étape franco-allemande ? Quel sera le rôle de l'Inria, organisme très actif pour l'innovation et les réseaux ?

M. Mounir Mahjoubi, secrétaire d'État. - L'intelligence artificielle établit de nouveaux usages. Nous disposons d'outils pour maîtriser le développement du véhicule autonome : standardisation des protocoles, délégations de service public sur la partie infrastructure du réseau. La question posée est celle du rôle respectif du public et du privé. Est-ce le rôle des collectivités territoriales de porter les plateformes de ces réseaux ? Il serait dangereux de ne pas accompagner les acteurs privés dans la gestion de ces réseaux. Les données sont un enjeu de poids à l'aune de ces transformations numériques. En dépit des ressources existantes, prometteuses, la France manque encore de chercheurs sur ce sujet.

M. Fabien Gay . - Les enjeux notamment économiques du développement de l'intelligence artificielle sont proportionnels aux progrès spectaculaires en la matière. Même si la destruction d'emplois pourrait être moins étendue que ce que nous avions envisagé, la transformation du travail sera radicale. Il faudra placer l'information au coeur du travail. Chaque travailleur devra alterner formation évolutive et période de travail. Êtes-vous d'accord pour utiliser l'intelligence artificielle pour libérer le travailleur de tâches fastidieuses et répétitives ?

M. Mounir Mahjoubi, secrétaire d'État. - Davantage que les chiffres, c'est la capacité de résilience de notre société qui compte et la préservation de notre modèle social. Être français, c'est ne laisser personne sur le bas-côté. Cela nous rassemble tous, même si nous pouvons diverger, de part et d'autre de l'hémicycle, sur la répartition et la proportion des moyens, des mesures à prendre pour y parvenir. Comment concilier une telle exigence avec la menace de la suppression d'un grand nombre d'emplois ?

La question du revenu universel est trop précoce ; en revanche, celle d'une allocation de chômage ouverte à tous est urgente. Dans les quinze ans à venir, chaque citoyen devra se former pour évoluer dans son travail. À nous de développer un outil de solidarité pour rendre cette transformation possible.

Mme Catherine Morin-Desailly . - Lors de son audition par notre commission, le président de l'Inria a déclaré : « pendant que la France fait des rapports, les autres pays investissent ». C'est significatif.

Au-delà tous les experts s'accordent à le dire : au niveau français comme européen nous n'avons ni l'ambition ni la stratégie appropriées au développement des nouvelles technologies. Les cerveaux fuient aux États-Unis qui ont fait depuis longtemps preuve de volontarisme dans ce domaine, permettant ainsi le développement de géants technologiques tels que Tesla, l'entreprise d'Elon Musk. Pas une technologie de l'iPhone n'a été développée sans aide active de l'État américain, y compris par des exemptions fiscales.

L'État doit absolument innover et faire évoluer la règlementation européenne de la concurrence, contre-productive. Tel est l'enjeu à un moment clef où nous mesurons le potentiel et les risques liés à l'intelligence artificielle.

Comment comptez-vous nous faire demeurer dans la compétition mondiale ? (Applaudissements nourris sur les bancs du groupe UC, ainsi que sur de nombreux bancs des groupes Les Républicains et Les Indépendants)

M. Mounir Mahjoubi, secrétaire d'État. - M. Villani a bien conscience qu'il ne doit pas nous faire un énième rapport mais nous proposer des orientations concrètes. Jusqu'à présent, nous nous sommes contentés de photographier la réalité dans des rapports. Il est temps de développer une véritable stratégie d'action. Relations avec les grands groupes compétitifs à l'export, financement : tels sont notamment les principaux enjeux.

En matière d'intelligence artificielle ou de cybersécurité, nous n'avons pas de pilotage national et nous manquons d'un regard stratégique. Je sais pouvoir compter sur le Sénat pour y travailler ; vous pouvez aussi compter sur moi.

M. Franck Montaugé . - Le rapport qui vient d'être remis au Gouvernement sur l'intelligence artificielle préconise un financement de la recherche pour soutenir des projets collaboratifs à cinq ans. Il propose aussi la mise en place de fonds d'investissement en capital.

Comment le Gouvernement financera-t-il concrètement le développement de l'intelligence artificielle dans le projet de loi de finances 2018 ? Je note que l'agriculture n'est guère prise en compte alors que l'intelligence artificielle pourrait parfaitement s'y appliquer.

M. Mounir Mahjoubi, secrétaire d'État. - La French Tech s'est transformée ces derniers mois. Elle a massivement mobilisé ses moyens au service des métropoles.

La création des réseaux French Tech a ensuite touché les territoires en y introduisant des innovations majeures, comme par exemple celle des drones. Je serai à Angers vendredi et samedi. En trente ans, cette ville a développé un écosystème de l'électronique compétitif au niveau international. Elle est la première de la classe dans ce domaine.

Angers se distingue aussi en matière de FoodTechs, de GreenTechs et d'AgriTechs, c'est-à-dire d'alimentation. Nous souhaitons favoriser la diversité des entreprises, mais aussi la diversité spatiale avec des start-up déployées sur tout le territoire.

C'est ainsi que l'on pourra raconter et vivre de belles histoires françaises.

M. Franck Montaugé. - Merci pour cette réponse. J'aurais aimé avoir des précisions sur l'aspect financier, notamment dans le projet de loi de finances 2018. Nous y reviendrons bientôt.

M. Emmanuel Capus . - Enjeux économique, juridique, éthique : l'intelligence artificielle touche beaucoup de domaines. Le World Electronics Forum, le forum mondial de l'électronique, à Angers, est une occasion extraordinaire de mettre en avant le savoir-faire français : industrie, écosystème, numérique français, vie digitale. Faire venir les décideurs du monde entier à Angers est le résultat d'une volonté politique forte.

Face aux géants américains et chinois, nous devons développer une stratégie de souveraineté numérique. Quels moyens le Gouvernement donnera-t-il au développement d'une filière française de l'intelligence artificielle ? (Applaudissements sur les bancs du groupe Les Indépendants)

M. Mounir Mahjoubi, secrétaire d'État. - Il faudrait aussi souligner le dynamisme de Dijon dans la FoodTech.

Nous avons la volonté d'identifier les secteurs où il faut de l'investissement privé ou public, et à quelle hauteur.

M. le Maire a annoncé 10 milliards d'euros pour le fonds pour l'innovation, par la valorisation des titres déjà détenus ; ce seront des centaines de millions d'euros pour les technologies de rupture. L'urgence est-elle plutôt à investir dans la santé, l'agriculture ? Nous n'avons pas les mêmes retards, ni les mêmes opportunités, selon les technologies...

Le PIA 3 est aussi important, avec des programmes de recherche labellisés sur des sujets de rupture. Le dernier appel à projets illustre bien la complexité des sujets ! La France est dans une dynamique, nous investissons, nous finançons. Le choix des priorités est stratégique.

J'aborderai tout à l'heure le co-financement européen. (Applaudissements sur les bancs du groupe LaREM)

M. Jean-Noël Guérini . - Merci à M. Malhuret d'avoir initié ce débat. Les technologies fondées sur l'intelligence artificielle ont, depuis le milieu du XXe siècle déjà, des effets sur l'individu, l'économie et la société et suscitent des inquiétudes sur le plan éthique comme sur le plan de l'emploi.

En Suède, 6 % des salariés exercent dans le secteur de la communication électronique, contre 1,2 % en Grèce. La France, avec 3,6 %, est dans la moyenne européenne.

Le rapport de l'Opecst a émis une cinquantaine de recommandations pour réguler les bouleversements sociaux qu'entraîne l'intelligence artificielle, comme le risque de destruction et de dénaturation des emplois. Les politiques publiques envisagées en matière de formation professionnelle seront-elles suffisantes pour former et reconvertir ceux qui en ont besoin ?

M. Mounir Mahjoubi, secrétaire d'État. - Notre vision est très pragmatique. La formation, c'est d'abord l'acquisition de la literacy numérique. Ce sont 30 à 40 heures indispensables pour maîtriser les compétences de base qui manquent encore à environ 20 % de la population.

Viennent ensuite les compétences professionnelles, les emplois nouveaux à créer et à conquérir. Pour ceux qui savent déjà utiliser un ordinateur, un accompagnement de quelques mois suffira pour s'adapter à la transformation de leur emploi. D'autres, hors de l'emploi, iront vers de nouveaux métiers. Pour la très haute compétence, les universités proposent de nouvelles formations, en LMD, pour former les ingénieurs de demain. Entre les deux, il y a des centaines de milliers de techniciens à former, et là, nous ne sommes pas prêts.

Il faut des outils flexibles, d'un type nouveau. Nous y travaillons avec la ministre de l'enseignement supérieur, avec notamment la Grande école du numérique qui propose une centaine de formations, de six mois à deux ans, sur tout le territoire.

Nous avons besoin de former des techniciens de réseaux, de e-commerce. C'est une opportunité ! J'ai été pendant neuf ans technicien réseau dans une hotline, et c'est une fierté d'accompagner les Français dans cette voie. (Applaudissements sur les bancs des groupes Les Indépendants et LaREM)

M. Cédric Perrin . - Avec Gilbert Roger, je suis l'auteur d'un rapport intitulé « Drones d'observation et drones armés : un enjeu de souveraineté ». L'enjeu est le même pour l'intelligence artificielle, qui a des applications dans des domaines tels que l'aéronautique, la sécurité et la défense. Le rapport Gillot-de Ganay prône l'émergence de champions européens en matière d'intelligence artificielle et de robotique pour faire face aux géants américains et chinois. Quelle place pour l'Europe et la France dans ce domaine ? Comment le Gouvernement conçoit-il le rôle de l'intelligence artificielle dans le secteur de la défense ?

M. Mounir Mahjoubi, secrétaire d'État. - En matière d'infrastructures de télécommunications, nous avons un déficit de fournisseurs européens d'éléments matériels centraux qui nous rend dépendants. La France doit identifier les technologies dans lesquelles investir.

La ministre de la défense a annoncé la création d'un fonds d'investissement pour les entreprises stratégiques de défense doté de 50 millions d'euros, à destination des PME. Il faut savoir identifier nos forces et nos lacunes, par exemple en matière de cybersécurité, à l'image d'Israël qui suit constamment le nombre de chercheurs et de programmes industriels, pour savoir où orienter les investissements...

M. le président. - Il faut conclure, monsieur le ministre.

M. François Patriat. - Il est trop bon !

M. Arnaud de Belenet . - J'apprécie votre fougue, monsieur le ministre.

J'ai entendu nos collègues qui soulignent les interrogations, les défis à relever. J'entends que le Gouvernement s'est saisi pleinement du sujet et que de nombreux dispositifs répondent aux enjeux.

La première des libertés, c'est celle de s'aliéner. Encore faut-il décider à qui nous voulons nous aliéner ! La question du contrat social doit être posée.

J'aurai pu aussi soulever des questions plus juridiques : la propriété intellectuelle, par exemple, avec des créations rendues possibles sans participation humaine, la transparence ou le droit de la responsabilité... (Applaudissements sur les bancs des groupe LaREM et Les Indépendants)

M. Mounir Mahjoubi, secrétaire d'État. - Ce sujet interroge en effet notre façon d'être citoyens ensemble.

Nous ne devons rien subir. C'est au politique de décider vers où doivent aller ces technologies, et de traiter des conséquences. Le financement de la solidarité est un élément central du contrat social en France et en Europe.

Vous posez aussi la question de notre rapport à la politique, à la décision, à l'autorité. Dubaï annonce la mise en oeuvre de robots policiers. Si j'insulte un robot policier, est-ce la même chose que si j'insulte un policier humain ? Le programmateur du robot est-il responsable de ses actes ? Vous souriez mais il faut y réfléchir selon la méthode des scénarios, en envisageant aussi les plus extrêmes.

M. Pierre Ouzoulias . - Le Gouvernement a demandé à Cédric Villani un rapport, moins de six mois après la publication du rapport Gillot-de Ganay. D'ailleurs, n'est-il pas étrange, déontologiquement, de commander un tel rapport à un parlementaire qui est par ailleurs président de l'Opecst ?

M. Villani défend dans la presse une approche globale de l'intelligence artificielle. De ce point de vue, nous ne pouvons qu'être d'accord.

Le sujet ne peut être dissocié de celui de la diffusion de la culture mathématique et de la scolarité. Or les disciplines scientifiques sont à la peine : 375 postes non pourvus au Capes de mathématiques, absences non remplacées... Un quart des collégiens a des difficultés en mathématiques.

En outre, les femmes sont très largement exclues : 90 % des programmeurs et développeurs sont des hommes. Pourquoi l'intelligence féminine serait-elle incompatible avec l'intelligence artificielle ? (Mme Marie-Pierre Monier et M. Marc Daunis applaudissent.)

M. Mounir Mahjoubi, secrétaire d'État. - La diversité des profils est liée à la culture et à la pédagogie des sciences. En dix ans, on a vu disparaître de l'audiovisuel public tous les programmes de sensibilisation aux sciences, qui trouvaient un écho dans les classes. On a perdu le goût heureux de la pratique des sciences. On a peu à peu réservé ces matières aux experts. En maths, le problème n'est pas celui de la formation mais du manque de candidats ! Sur tout notre territoire, nous avons des musées des sciences, dont la fréquentation est en berne.

Pour ce qui est de la place des femmes, les pays qui font mieux que nous s'adressent aux filles dès le collège. Je vous invite au prochain évènement StartHer : c'est l'occasion de parler avec des femmes de leurs technologies, et de comment elles vont transformer le monde ! (Applaudissements sur les bancs du groupe LaRem et sur certains bancs du groupe UC)

M. Olivier Cadic . - Quelle sera la place de l'intelligence artificielle dans le marché du travail ? Visions malthusienne et schumpetérienne s'affrontent. Selon la première, il n'y aura plus de destruction créatrice : la moitié des emplois aux États-Unis seront remplacés à terme par des machines, ce qui justifie la théorie du revenu universel. Ce n'est pas la mienne. Certes les métiers changeront. Les cols blancs seront remplacés - comme jadis les cols bleus - par la creative class, comme on dit à l'université de Columbia.

Ils seront remplacés par les cols d'or. Selon Laurent Alexandre, les métiers de demain devront être complémentaires de l'intelligence artificielle. Il y a là un fantastique gisement pour l'avenir. Le défi, pour la puissance publique, est de les identifier, pour informer et pour former. Comment notre pays s'y prépare-t-il ? (Applaudissements sur les bancs du groupe UC)

M. Mounir Mahjoubi, secrétaire d'État. - Vous opposez deux visions. Nous voulons que chacun adapte ses compétences, sa formation pour créer des entreprises compétitives sur tout le territoire, dans des conditions de juste concurrence.

Comment éviter la création de méga-monopoles, monstres économiques et démocratiques, dirigés par des « cols de diamant » qui évoluent dans un ordre nouveau ? Serons-nous légitimes aux yeux de leurs salariés-citoyens, quand certaines entreprises emploieront un million de salariés sur des îles flottantes dans les eaux internationales ? À nous de préciser l'avenir, d'investir dans nos valeurs, pour éviter un tel monde qui oublie la moitié de l'humanité. (Applaudissements sur les bancs du groupe LaREM)

M. Olivier Cadic. - En 1995, le ministère de l'industrie avait publié un livre sur les cent technologies clés pour l'an 2000. Il ne citait nulle part Internet... Il s'agit donc bien d'identifier correctement les nouveaux métiers.

M. Marc Daunis . - Nos échanges témoignent de la richesse des questionnements du législateur et du Gouvernement. On touche à l'essence même de l'humanité ! Vous souhaitez « ne jamais subir », soit. Mais comment pouvez-vous affirmer que l'intelligence artificielle ne sera jamais supérieure à l'intelligence humaine, à l'inverse de ce que prédisent la plupart des scientifiques, qui assurent que d'ici vingt-cinq à trente ans, les capacités de la machine dépasseront celles de l'homme ?

À Sophia Antipolis, des questions se posent à partir des expériences de terrain en matière d'éducation : devenir des données d'apprentissage, notion de propriété intellectuelle, plateformes coopératives et collaboratives, notion même d'open source... Comment éviter que des acteurs privés ne captent les cerveaux des enfants ? Comment voyez-vous la complémentarité entre la machine et l'humain en termes d'éducation et de formation ?

M. Mounir Mahjoubi, secrétaire d'État. - Cela fait longtemps que la machine calcule plus vite que les hommes, qu'elle sait traiter un plus grand nombre de données ; mais l'intelligence artificielle qui pourra décider ce qui est juste n'est pas encore née ! Ce qui fait l'intelligence ne peut naître que du débat, la capacité à décider ce qui est souhaitable pour l'homme restera le monopole des hommes et des femmes.

Vous posez la question des rapports entre numérique et éducation : quel enseignement à l'heure de la transformation numérique de la société et des emplois, quels outils pour penser le moment éducatif ? Et, au-delà des moocs et des tablettes, comment former nos enfants à l'appréhension d'un monde nouveau ? (Applaudissements sur les bancs du groupe LaREM)

M. Michel Raison . - L'intelligence artificielle est là - comme l'intelligence humaine aussi, dans l'hémicycle... (On apprécie sur divers bancs.)

M. André Gattolin. - Bravo !

M. Michel Raison. - Les programmes peuvent dépasser les hommes aux échecs, au jeu de go, au poker. Il faut accompagner l'essor de ces technologies car le progrès, incontestable, est aussi source de risque. Comment assurer la bonne gouvernance de l'intelligence artificielle, quels principes éthiques imposer sans que des contraintes juridiques trop fortes ne viennent paralyser l'innovation ?

Le rapport Gillot-de Ganay propose d'élaborer une charte et de créer un institut national de l'éthique de l'intelligence artificielle et de la robotique chargé d'animer le débat public. Quelles suites comptez-vous donner à ces recommandations ?

M. Mounir Mahjoubi, secrétaire d'État. - J'ai lu ce rapport et en ai parlé avec Mme Gillot ; il problématise bien les choses. Les quinze recommandations finales font partie des questions qui seront posées à l'issue de la mission de Cédric Villani.

La loi pour une République numérique a chargé la CNIL d'une réflexion sur l'éthique dans la technologie ; le rapport sera rendu prochainement. Comme en matière de bioéthique, la science va plus vite que la capacité d'analyser ses conséquences : il faut des outils pour maîtriser les inquiétudes. Nous savons l'océan d'opportunités que le numérique apporte au vivre ensemble.

Avant de créer une telle instance, il faut que collectivement, le Parlement vérifie que les Français se posent les questions au bon niveau. Je souhaite que le rapport Villani déclenche un débat politique long, qui débouchera sur la France numérique de demain.

Mme Michèle Vullien . - L'intelligence artificielle est une chance pour l'organisation du territoire, mais il faut remettre l'homme au centre du débat. De quoi nos concitoyens ont-ils besoin ? Quelle qualité d'usage ?

En matière de transport publics, les navettes autonomes peuvent être une formidable opportunité pour mailler le territoire, en centre-ville ou dans la ruralité, où les transports à la demande fonctionnent mal. Elles permettraient une continuité du service public dans l'espace mais aussi dans le temps, en horaires atypiques, en apportant des réponses aux 20 % qui ont besoin d'autres solutions.

Il existe déjà de telles navettes, comme les Navly dans le quartier de la Confluence, à Lyon. Mais la réglementation actuelle ne permet pas aux collectivités locales d'expérimenter librement. Comment les Assises de la mobilité et le projet de loi d'orientation qui en découlera prendront-ils en compte ces évolutions technologiques ? Les collectivités ont besoin d'un droit à l'expérimentation, voire d'un droit à l'erreur. Tout ne sera pas facile. Mais, comme on dit à la métropole de Lyon : aimons l'avenir ! (Applaudissements sur plusieurs bancs du groupe UC)

M. Mounir Mahjoubi, secrétaire d'État. - On ne peut qu'aimer cette devise. Chaque territoire, chaque usage aura besoin de solutions différentes, personnalisées, ce qui nécessite la multi-modalité du transport, intelligente, adaptative et personnalisée. Le transport des personnes en situation de handicap, des malades, des collégiens et lycéens est imparfait, coûteux et incomplet. L'innovation sera un facteur de mieux-être pour ces publics. Ainsi le taxi médical en zone rurale pourrait être remplacé par des solutions plus adaptées.

Aujourd'hui, les véhicules autonomes ne sont autorisés que sur des espaces d'expérimentation restreints ; demain, avec la maturité de la technologie, ce sera des espaces sécurisés ouverts au public, puis des territoires entiers d'expérimentation - en zone rurale je l'espère.

Les technologies ne valent que si elles sont utiles ; c'est ainsi que l'on crée la confiance.

M. Ronan Le Gleut . - Ces technologies vont révolutionner nos vies et celles de nos enfants. Or elles sont aux mains des Américains, avec les Gafa, et des Chinois, avec Alibaba ou Xiaomi : aucun leader européen dans le domaine de l'intelligence artificielle. Il est urgent de rattraper notre retard.

Nous pouvons mettre de l'intelligence artificielle dans tous les domaines, y compris dans les politiques publiques, pour prendre des décisions plus affutées. Ce n'est pas l'intelligence artificielle qui apporte des solutions mais son association avec l'intelligence humaine. L'État en a-t-il pris conscience ? Comment faire émerger une vraie industrie de l'intelligence artificielle en France où les acteurs privés et publics auraient leur part ? (Applaudissements sur les bancs du groupe Les Républicains)

M. Mounir Mahjoubi, secrétaire d'État. - Mon secrétariat d'État est aussi en charge de la transformation numérique de l'État. Cela recouvre les outils, les modes de fonctionnement, la recherche de la performance mais aussi l'innovation et l'hyper-innovation.

Dans les enquêtes pénales, l'intelligence artificielle pourra aider le policier ou le juge à traiter des dossiers comprenant des milliers de pièces. Même chose pour la médecine, les transports, notamment dans la distribution optimisée au dernier kilomètre. Faudra-t-il travailler avec des prestataires ? Nationaliser ? Tous les scénarios sont sur la table, il s'agira d'un choix politique.

Une équipe technologique spécifique que j'ai renforcée et qui continuera à recruter au plus haut niveau travaillera sur le sujet avec toutes les composantes de l'État.

M. Ronan Le Gleut. - N'oublions pas les collectivités territoriales ! (Applaudissements sur les bancs du groupe Les Républicains ; M. Daniel Chasseing applaudit également.)

M. Jean-Michel Houllegatte . - Le rapport Gillot-de Ganay démystifie l'intelligence artificielle face à laquelle nous nous sentons parfois comme l'homme de Neandertal face à homo sapiens. Mais il en évoque aussi les risques : sûreté, sécurité, robustesse des systèmes, boîtes noires du deep learning. La Chine investit massivement dans le secteur mais ne se soucie guère des questions éthiques. Vous promettez un débat public à l'issue de la mission de Cédric Villani, mais n'annoncez rien de bien coercitif.

Pourquoi ne pas, dès maintenant et comme dans d'autres domaines - alimentation, pharmacie, sûreté nucléaire - instaurer un institut national d'éthique, doté de pouvoirs étendus comme l'autorisation de mise sur le marché ?

M. Mounir Mahjoubi, secrétaire d'État. - Nous n'avons pas encore de réponses sur les technologies dont vous parlez. Mais sur les applications sensibles, nos régulateurs sont très actifs.

S'agissant des réseaux ou des infrastructures stratégiques, comme la santé, il y a des procédures de certification ou de protection. Idem pour les transports.

Personnellement, je ne crois pas qu'il faille une autorité unique, mais chacun des régulateurs qui certifie et garantie la sécurité doit prendre en compte l'intelligence artificielle dans son domaine de compétence : santé, transport, télécommunications, renseignement, etc. Cela pose la question de l'expertise de nos agents : saura-t-on les former, les garder sur le territoire...

M. Jérôme Durain . - S'il faut se garder des visions prophétiques d'un Philip K. Dick, dans Minority Report, le développement du champ de la justice prédictive interpelle. Au Royaume-Uni, un outil de définition de modèles de jugement a rendu des décisions qui étaient à 79 % similaires à celles de la Cour européenne des droits de l'homme. Les juges et les avocats ne vont pas pour autant être remplacés par des robots, mais cette justice prédictive pourrait favoriser les accords à l'amiable et désengorger les tribunaux.

Les cours d'appel de Douai et de Rennes ont commencé une expérimentation de solutions numériques en ce sens. La presse s'est fait l'écho de retour d'expériences très différentes. Qu'en est-il ? Le Gouvernement va-t-il poursuivre l'ouverture des données publiques, actée dans la loi pour une République numérique ?

M. Mounir Mahjoubi, secrétaire d'État. - Minority Report, c'est la police prédictive et la condamnation immédiate. Dans ce dont nous parlons, le juge compare son raisonnement avec ce que propose la machine. Aujourd'hui, l'enjeu est d'assister les citoyens, les greffiers, les juges dans le traitement de la masse d'informations plutôt que dans la prise de décisions.

La justice, c'est la capacité à interpréter ; la jurisprudence s'adapte à un contexte. Les juges n'appliquent pas le droit de manière automatique. Des hommes qui jugent des hommes, voilà ce qui est au coeur de notre société. Mais dans les enquêtes financières ou de l'Autorité de la concurrence, il faut analyser des téraoctets de données...

Une équipe du ministère de la justice travaille sur l'innovation. Parmi les projets, le portail Justice.fr, qui permettra au justiciable de suivre son affaire, au juge d'interagir... Il faut avoir confiance dans les outils.

M. Jacques Grosperrin . - Les jeunes générations vont grandir avec ces avancées technologiques qui suscitent de nouveaux comportements et de nouveaux besoins. Il faut l'anticiper dans l'enseignement, la recherche en favorisant notamment les exercices de curiosité, de stratégie.

À Besançon, un professeur de mathématique a utilisé le jeu Mathador pour entraîner ses élèves au calcul, avec de bons résultats. Edgar Morin nous en a prévenu : ce que l'on vise, ce n'est pas un humain augmenté mais amélioré. Je crois et j'espère que le plus puissant des algorithmes restera le cerveau humain. Il manquera toujours à la machine le chaînon de la pensée complexe.

Quelle place, donc, de l'intelligence artificielle dans la formation et l'enseignement ? Quel est votre sentiment sur le devenir des métiers manuels les plus répétitifs ? (Applaudissements sur les bancs du groupe Les Républicains)

M. Mounir Mahjoubi, secrétaire d'État. - Oui, l'intelligence artificielle peut adapter et personnaliser le contenu pédagogique pour l'élève, ce qui est le rôle traditionnellement dévolu au professeur. L'enseignant doit faire face à une complexité croissante ; certains dispositifs d'accompagnement l'y aident. N'opposons pas l'enseignement purement humain, à l'enfant placé dans une bulle numérique.

Quel avenir pour les métiers dont les tâches sont répétitives et qui n'impliquent aucun geste créatif ? Je crois qu'ils vont disparaître avec les progrès de la robotisation - et que la seule question est de savoir quand. Comment préparer nos concitoyens aux nouvelles compétences ? Ne forme-t-on pas trop de personnes dans des métiers dont on peut se dire qu'ils vont disparaître ?

M. Cédric Perrin . - Le rapport de M. Claude de Ganay et Mme Dominique Gillot distingue deux approches de l'intelligence artificielle : l'approche symbolique et l'approche collectionniste. La transparence des algorithmes de deep learning pose problème.

Quelles mesures le Gouvernement prendra-t-il face à ces difficultés ? Quelle gouvernance pour l'intelligence artificielle ? Le gouvernement précédent a annoncé en mars la création d'une mission de stratégie France Intelligence artificielle, confiée à notre collègue député Cédric Villani. Quelles suites y donnerez-vous ?

M. Mounir Mahjoubi, secrétaire d'État. - Les algorithmes de deep learning sont une méthode mathématique à travers laquelle l'ordinateur se comporte comme le cerveau d'un enfant, créant des capacités de compréhension autonomes, plutôt que de reproduire, comme dans les algorithmes, des séquences dont on connaît par avance le résultat et qui sont transparents. Le problème est que ces algorithmes reproduisent les biais des données elles-mêmes, ils intègrent dans leur propre réalité, comme normales, toutes les données sans hiérarchie autre que leur récurrence, leurs liens entre elles - et si, par exemple, les propos sont violents ou injurieux, ces algorithmes les intègrent comme tout à fait ordinaires.

Comme président du Conseil national du numérique, j'avais eu à travailler sur le sujet. Des outils existent, je pense en particulier à TransAlgo, qui permet de tester la loyauté des algorithmes, en vérifiant s'ils introduisent eux-mêmes des biais et la façon dont ils reproduisent les biais des données. L'enjeu est donc celui des technologies pour surveiller les moteurs de recherche et les algorithmes, nous devons être compétents : pour être un bon régulateur à l'avenir, il faudra être un très bon technicien, un très bon chercheur. Mobilisons-nous massivement sur les compétences - car nous n'avons pas à subir les nouvelles technologies.

À nouveau, je vous donne rendez-vous en janvier ou février pour le lancement de notre stratégie nationale sur l'intelligence artificielle. (Applaudissements sur tous les bancs sauf sur les bancs du groupe CRCE)