Intelligence artificielle : enjeux politiques, stratégiques et économiques
M. le président. - L'ordre du jour appelle le débat sur « L'intelligence artificielle : enjeux politiques, stratégiques et économiques », à la demande du groupe RDSE.
M. Yvon Collin, pour le groupe RDSE . - (Applaudissements sur les travées du groupe RDSE) Parce qu'elle concentre de forts enjeux stratégiques, économiques et éthiques, l'émergence de l'intelligence artificielle est qualifiée de quatrième révolution industrielle.
Je salue les travaux du groupe de suivi de notre assemblée qui s'est emparée du sujet dès 2017. Étudiée dès 1956 aux États-Unis, l'intelligence artificielle a surtout évolué grâce aux recherches récentes.
Je ne m'attarderais pas sur sa définition qui interroge souvent tant cet outil est disruptif : il seconde l'intelligence humaine pour augmenter celle-ci...
La compilation de données du big data, combinée à la puissance de calcul, ouvre des horizons incroyables pour effectuer des fonctions - pas forcément mieux qu'un homme - mais beaucoup plus rapidement.
Des fantasmes fleurissent, véhiculés par les oeuvres littéraires ou cinématographiques. En 2015, 700 chercheurs de renom ont signé une lettre ouverte alertant la société sur les méfaits à redouter d'une intelligence artificielle trop autonome. Relativisons ces craintes, tout comme la vision d'une intelligence artificielle triomphante, car il lui manquera toujours l'intuition et l'imagination qui font la supériorité humaine.
La France et l'Union européenne sont particulièrement soucieuses de la protection des données. En témoignent le règlement sur la libre circulation des données à caractère non personnel, la directive sur la réutilisation des données du secteur public ou encore les règles sur la cybersécurité. L'Europe s'est dotée d'un cadre juridique qu'on ne peut qu'applaudir.
Il est aussi question de responsabilité et de transparence des algorithmes.
L'intelligence artificielle doit être inclusive, n'oublier personne et protéger tout le monde des bouleversements sociétaux qu'elle porte en elle, par exemple en matière d'organisation du travail. Le rapport au Gouvernement de Cédric Villani, remis l'année dernière, est éclairant à cet égard.
Doit-on autoriser l'accès aux données européennes à des entreprises qui ne seraient pas implantées en Europe et qui ne se plieraient donc pas à nos principes éthiques ?
Cette réserve s'impose en raison de la domination des GAFAM sur la récupération de données, et plus globalement en raison de la compétition entre la Chine et les États-Unis qui prend en étau l'Union européenne.
Les investissements que les GAFAM consacrent à l'intelligence artificielle combinés à ceux des États-Unis leur donnent un leadership incontestable, tout comme à la Chine, qui investit dans ce domaine plusieurs dizaines de milliards par an.
Quid de l'Union européenne ? En avril, la Commission européenne a souhaité augmenter les investissements alloués aux recherches sur l'intelligence artificielle pour qu'ils atteignent 20 milliards d'euros par an au cours des dix prochaines années. Où en sommes-nous ?
II y a urgence ! Le manque de capitaux dans les entreprises innovantes aboutit parfois à la perte de fleurons européens comme ce fut le cas en 2016 avec le rachat de l'entreprise anglaise Deepmind par Google et de l'allemande Kuka par un groupe chinois.
En février dernier, le Conseil européen a confirmé la volonté de faire de l'Europe un acteur essentiel de l'intelligence artificielle.
Pour ce qui est des secteurs à privilégier, il faut faire une place particulière à la santé. La France possède un atout de taille en matière de données médicales : la centralisation grâce à l'administration. La RGPD a été intégrée dans notre législation, ce qui va garantir la sécurité de l'exploitation des données médicales.
La sécurité est un autre secteur important. L'enjeu est de pouvoir conserver notre souveraineté.
Le défi de l'intelligence artificielle impose la mobilisation de moyens considérables.
Je vous remercie d'avoir été attentifs à mon intervention qui n'a pas été rédigée à la plume Sergent-Major, mais qui n'est pas non plus le fruit d'un algorithme. (Applaudissements sur les travées du groupe RDSE ; M. René-Paul Savary applaudit également.)
M. Cédric O, secrétaire d'État auprès du ministre de l'économie et des finances et du ministre de l'action et des comptes publics, chargé du numérique . - Merci pour ce débat : l'intelligence artificielle est un sujet décisif pour l'avenir économique de notre pays.
Le constat est clair : les États-Unis et la Chine dominent le paysage numérique et l'Europe est relativement absente. On ne peut pas limiter le débat sur la souveraineté numérique européenne à la seule intelligence artificielle. D'autres secteurs sont en jeu - Google a ainsi annoncé avoir atteint la suprématie quantique. L'essentiel est de faire surgir des acteurs clés du numérique en France et en Europe, capables de concurrencer Google ou Facebook. Même si ces derniers n'étaient pas des spécialistes de l'intelligence artificielle à l'origine, ils sont capables de dégager près de 40 milliards par an pour investir dans ce domaine.
La France a une carte à jouer ; pour avoir rencontré les responsables de l'intelligence artificielle de tous les géants américains, je peux vous le dire : ils sont tous français.
M. Jean Bizet. - Exact !
M. Cédric O, secrétaire d'État. - C'est lié à la qualité de l'école française de science de l'informatique et de mathématique. Nous disposons donc des compétences. Or le combat pour l'intelligence artificielle est d'abord un combat pour l'intelligence humaine. Comment inciter nos chercheurs à rester en France ? Sur les 1,5 milliards prévus sur la mandature pour financer la recherche en intelligence artificielle, la majeure partie sera consacrée aux salaires des chercheurs.
À court terme, il sera difficile de rivaliser avec la Chine et les États-Unis sur les bases de données des consommateurs.
Cependant, dans certains secteurs, comme l'énergie, la santé ou la mobilité, nous avons un savoir-faire et des données remarquables.
La question des calculateurs, du matériel, du développement de l'intelligence artificielle dans les entreprises est également prégnante. Nos PME doivent avoir aussi accès à l'intelligence artificielle.
Agir au niveau européen est indispensable si l'on veut pouvoir concurrencer les États-Unis ou la Chine. L'Union européenne a estimé qu'il fallait 20 milliards par an : à titre personnel, j'estime que nous sommes en dessous de 10 milliards.
Des initiatives sont à saluer : supercalculateurs ou agence consacrée à l'innovation de rupture. Beaucoup de choses restent à faire au niveau franco-allemand.
Certains produits de reconnaissance faciale, importés d'Asie et développés en contradiction avec notre vision de la vie privée, risquent d'entrer sur le marché européen. Nous devons décider si oui ou non nous les acceptons chez nous.
J'en viens à la question éthique. La RGPD est inspirée de la législation française et du travail de la CNIL. La création en cours d'un groupe d'experts de l'intelligence artificielle co-porté par la France et le Canada faciliterait l'instauration de règles communes.
Nous ne sommes qu'au début de l'histoire - et pas d'une dystopie, selon moi. Nous devrons nous montrer à la hauteur des enjeux tant au niveau français qu'européen. (Applaudissements sur les travées du groupe RDSE et sur quelques travées des groupes Les Républicains et SOCR)
M. Pierre Ouzoulias . - Avec des moyens considérables, les GAFAM développent des stratégies de recrutement des chercheurs des institutions publiques françaises efficaces et prédatrices. Les rémunérations de cinq à dix fois supérieures à celles de notre recherche publique, la mise à disposition d'infrastructures et de matériels puissants encouragent la fuite des cerveaux français. Quelle stratégie mettre en place pour que notre pays ne se vide pas de ses capacités intellectuelles ?
M. Cédric O, secrétaire d'État. - Je salue votre rapport sur l'intelligence artificielle co-signé par André Gattolin. La qualité de notre recherche publique est un fait. Nous avons fait un peu de judo et de GAFAM, mais d'autres aussi, ont localisé en France leurs centres de recherche.
Cependant, pourquoi les chercheurs sont-ils séduits par les GAFAM ? Hormis les conditions matérielles, il y a aussi l'intérêt de la recherche dans ces centres. Nous avons choisi de construire un écosystème de recherche attractif pour lutter contre la fuite des cerveaux, en nous concentrant sur quatre hubs à Paris, Grenoble, Toulouse et Nice. Les départs se sont taris et divers chercheurs sont même revenus dans notre pays. Ainsi, l'institut de Toulouse a réussi à faire venir l'un des meilleurs chercheurs chiliens de l'université de Stanford.
M. Pierre Ouzoulias. - Que les GAFAM s'installent en France ne me rassure pas. Nous allons nous faire « boulotter » par les grands carnassiers. Vous dites que le phénomène s'inverse, mais mes collègues mathématiciens du CNRS me disent que les laboratoires sont vides.
M. Jean Bizet. - C'est vrai.
M. Pierre Ouzoulias. - La loi de programmation de la recherche devra donner à nos chercheurs ce qu'ils ne trouvent pas chez les GAFAM. Quoi donc ? Un sens à leur carrière, la liberté et la capacité à mener leur recherche fondamentale sur le long terme.
M. Jean Bizet. - Très bien !
M. Joël Guerriau . - Un débat parlementaire sur le rôle de la France et l'Europe dans la course à l'innovation avait déjà eu lieu en 2017, à notre initiative. Deux ans plus tard, nous sommes devant les mêmes craintes face à l'intelligence artificielle : cette nouvelle révolution technologique percutera de plein fouet notre modèle social ainsi que nos modes d'organisation. L'intelligence artificielle recourt à des algorithmes pour reproduire des processus cognitifs humains. D'où le sentiment de dépossession que nous éprouvons face à ses utilisations toujours plus diverses. Nous le voyons bien lorsque nous entendons une réponse pleine d'humour d'un assistant vocal...
Le risque existe de voir émerger de nouveaux réseaux de crimes organisés qui utiliseraient l'intelligence artificielle pour mieux tromper particuliers et entreprises. Quelles mesures sont prévues pour punir ces délinquants de l'intelligence artificielle ?
M. Cédric O, secrétaire d'État. - Nous n'avons aucun intérêt à laisser entendre que l'intelligence artificielle est un cauchemar qui s'annonce. L'intelligence artificielle va permettre de nombreux progrès. Ainsi, elle servira à mieux détecter certains types de cancer, comme celui du sein. Profitons des opportunités.
Des dérives existent, certes ; nous n'en sommes qu'au début. Notre stratégie est que l'État puisse se donner les compétences en interne pour traiter ce type de sujet : éviter, par exemple que les algorithmes n'intègrent des critères racistes ou genrés. Nous devrons recruter des data scientists - pardon pour l'anglicisme. Mais ils sont rares et chers...
M. Bruno Sido. - Et peut-on les payer ?
M. Joël Guerriau. - Ne nous illusionnons pas. Le monde n'est pas tout beau, ni tout gentil.
M. Olivier Cadic . - La Chine ne reconnaît pas les droits de l'homme et la démocratie comme des valeurs universelles. Elle a construit un cybermur pour imposer un contrôle social de sa population. Elle utilise l'intelligence artificielle à des fins de contrôle social à très grande échelle.
Chaque citoyen et entreprise dispose d'un capital initial de mille points. En fonction de leur comportement et fréquentations, ils gagnent ou perdent des points. Les « mauvais citoyens » sont sujets à des restrictions médicales, d'accès à l'emploi et peuvent faire l'objet de traitements humiliants. Leur portrait est ainsi affiché parce qu'ils auraient un retard de paiement ou auraient jeté un mégot par terre...
Cette dictature 5G utilise les routes de la soie pour diffuser ses technologies, à l'image de Huawei, qui a vendu des technologies de surveillance à plus de cinquante pays.
Envisagez-vous de restreindre l'accès de Huawei ou d'Alibaba à notre pays ?
Est-ce que notre pays dispose d'un plan pour nous protéger des pratiques intrusives chinoises susceptibles de menacer à terme nos libertés ?
M. Cédric O, secrétaire d'État. - Distinguons le défensif de l'offensif. Certaines technologies développées sur des valeurs autres que les nôtres doivent être prises en compte au niveau européen. Les Chinois sont meilleurs que nous en matière de reconnaissance faciale. Mais nous ne pouvons pas accepter une distorsion de concurrence fondée sur une éthique autre que la nôtre.
Dans le monde du numérique où les usages s'imposent et où il n'y a qu'un seul moteur de recherche, il faut aussi que nous nous mettions en capacité de faire émerger nos propres leaders.
M. Olivier Cadic. - Je vous parle de la Chine et vous me parlez de Google et de Twitter, qui ne sont pas autorisés en Chine. Comment pouvez-vous croire que nos leaders y auraient accès ? La question est celle de la réciprocité dont nous devrions appliquer le principe à l'envers : si nos entreprises sont interdites en Chine, les entreprises chinoises doivent l'être dans l'Union européenne. Posons-nous la question de savoir dans quel monde nous voulons vivre.
M. Jean Bizet . - La France dispose d'une recherche d'excellence, dont les liens avec le monde industriel doivent être renforcés. C'est précisément l'un des axes identifiés par la commission. La France doit se constituer en leader en Europe, avec l'Allemagne, dans le domaine de l'intelligence artificielle, face aux géants américains et chinois.
Le Sénat a recommandé en mars dernier que l'intelligence artificielle puisse être considérée comme un intérêt commun, autorisant les aides publiques. Un Airbus de l'intelligence artificielle serait une bonne nouvelle. Monsieur le ministre, porterez-vous cette ambition au Conseil, au-delà des coopérations bilatérales que nous saluons ?
M. Bruno Sido. - Très bonne question.
M. Cédric O, secrétaire d'État. - Ce projet est au coeur de la volonté commune de Bruno Le Maire et Peter Altmaier de faire émerger des champions dans le numérique. Intelligence artificielle mais aussi cloud souverain et calcul quantique. Sur les supercalculateurs, sur le plan nano - car les puces sont aussi un élément de souveraineté - nous avons pu avancer. L'intelligence artificielle est sur le haut de la pile des dossiers prioritaires de la nouvelle commission.
Il faut également penser aux PME. En effet, il est important de favoriser la consolidation des start-up européennes pour qu'elles soient au niveau de leurs concurrents américains et chinois.
M. Franck Montaugé . - L'exploitation algorithmique des grandes bases de données entraîne des conséquences systémiques sur le travail et l'emploi. Avec les travailleurs du clic et la nouvelle industrie des plateformes qui émergent sous nos yeux et partout dans le monde, la sphère du travail est peu préparée. Or la plupart des métiers et des organisations seront touchés. Cédric Villani appelle à une réflexion sur la complémentarité non aliénante et écologique entre l'humain et la machine. Quelles initiatives et démarches structurées le Gouvernement encouragera-t-il pour y faire face ?
Selon la sociologue Dominique Meda : « Le capitalisme de plateforme participe de l'émergence de formes renouvelées, voire exacerbées, de l'aliénation du travail ». La proposition de Cédric Villani de créer un laboratoire public de transformation retient-il votre intérêt ?
M. Cédric O, secrétaire d'État. - La recherche n'est pas unanime pour savoir si l'intelligence artificielle détruira ou créera de l'emploi. Les Allemands ont six fois plus de robots que nous et ils ont le plein-emploi. Il faudra donc s'y préparer, former et reformer les gens. C'est au coeur du pacte sur lequel nous travaillons avec Bruno Le Maire et Muriel Pénicaud. Il y aura 20 000 emplois dans le numérique. Il ne faut pas se limiter aux métropoles. Les choses se feront autour de bassins d'emploi. C'est autour de Perpignan et de Lille que les acteurs doivent se voir pour s'adapter au changement.
M. Franck Montaugé. - Merci d'avoir évoqué les questions territoriales. Il est urgent de créer, selon le jargon de la commission, un « Projet important d'intérêt européen commun. » Ce pourrait être d'ailleurs une réponse à la question de M. Bizet.
Les moyens financiers ne sont clairement pas suffisants aujourd'hui.
M. Jean-Yves Roux . - Parmi les usages les plus emblématiques de l'intelligence artificielle, il y a les fils d'actualité des réseaux sociaux, qui constituent la première source d'information des jeunes. D'après Tristan Mendès-France, maître de conférences à la Sorbonne, ils accentuent non pas ce qui est vrai, mais ce qui est choquant, clivant.
Comment permettre à l'homme, au citoyen, à la démocratie, à la République, de garder la main ? Là où celle-ci pose des règles, les jeunes s'informent dans un espace dérégulé, international, où la réalité peut être distendue. Comment comptez-vous proposer une stratégie mais aussi des usages éthiques et régulés de l'intelligence artificielle à l'oeuvre dans le secteur de l'information ?
M. Cédric O, secrétaire d'État. - Aujourd'hui, l'État ne peut pas dire pourquoi telle ou telle information vous est présentée. La première chose à obtenir, c'est la transparence : obliger les entreprises à dire comment elles traitent l'information pour chaque profil. Si une plateforme faisait campagne pour tel ou tel, nous ne le saurions pas.
Nous aurons l'occasion de débattre plus tard des contenus haineux et des obligations que nous imposerons aux opérateurs. Nous devons mener un débat de société sur ce point. Le noeud du problème contre les manipulations de l'information, c'est la formation à l'esprit critique chez les jeunes et les moins jeunes, beau sujet à voir avec l'Éducation nationale et dont le Sénat pourrait se saisir.
Mme Noëlle Rauscent . - Service public et intelligence artificielle peuvent apparaître comme très éloignés l'un de l'autre. Pourtant, un grand nombre de dispositifs utilisent l'intelligence artificielle pour accompagner au quotidien les citoyens. Elle pourrait servir à l'administration, en recentrant les agents publics sur leur coeur de métier, sans diminuer le contact humain.
Quelles sont les prochaines étapes de la transformation de notre administration - et Dieu sait qu'elle en a besoin - vers l'e-administration, et avec quels moyens financiers et humains ?
M. Cédric O, secrétaire d'État. - L'intelligence artificielle peut diminuer la pénibilité.
Nous consacrerons 10 % des moyens du plan à l'administration. Nous procéderons en deux temps : nous avons lancé un appel à projets des cas d'usage d'intelligence artificielle qui a rencontré beaucoup de succès et sélectionné 21 projets dont la détection du cabanage illégal dans les espaces protégés de l'Hérault ou la différenciation des cas de jurisprudence à la Cour de cassation.
Mme Noëlle Rauscent. - Merci de votre réponse. J'espère qu'il y aura des projets sur l'élevage parmi ces 21 projets, car la transformation de l'agriculture et l'innovation dans ce secteur en particulier représentent un défi majeur.
M. Jean-Marie Mizzon . - En 2015, le Gouvernement présentait ses grandes lignes concernant l'intelligence artificielle, à laquelle il consacrera plus de 600 millions d'euros, pour des doctorants ou quelque 40 chaires. Ce programme ne semble pas à la mesure de la concurrence internationale.
Demain, des machines autonomes pourraient prendre le contrôle de nos données pour nous exclure et former une élite. Les machines ont désormais des capacités d'apprentissage profond. Elles peuvent analyser des quantités immenses de données. Pourquoi ne pas s'engager davantage ? Les Français le comprendraient et rejoindraient notre médaille Fields, Cédric Villani, qui réclame une réflexion pour défendre la responsabilité humaine, éviter les discriminations et définir un meilleur partage des tâches entre humain et machine.
M. Cédric O, secrétaire d'État. - Le programme national de recherche a pour objet de constituer un réseau attractif, mettre en place des outils, recourir à des partenariats entre le public et le privé, et augmenter le nombre de doctorants et de chaires.
Ce plan avance très bien. Aujourd'hui s'ouvrait l'Institut « Prairie » de Paris. Les chaires seront portées à près de 200 en intelligence artificielle. L'appel à projets de l'Agence nationale de la recherche (ANR) a reçu 450 réponses.
Nous pourrons avoir une discussion en aparté sur le deuxième sujet, trop vaste...
M. Cédric Perrin . - L'intelligence artificielle, en matière de défense, est tirée par le secteur civil. Il faut un effort de formation et de programmation. Comment former l'ensemble des forces armées ? Comment faire entrer la défense dans l'écosystème de la recherche française, pour la décloisonner ? Comment assurer une valorisation croisée des innovations, à la fois pour les domaines civil et militaire, et en faire bénéficier nos entreprises françaises ?
Les investissements prévus sur l'intelligence artificielle permettront-ils de dégager des technologies de rupture dans le domaine civil ? Comment classer défense des innovations pour les protéger temporairement ?
Ne répétons pas l'erreur commise en matière de télécommunications militaires, que nous n'avons pas su appliquer au civil, avec la 5G.
M. Cédric O, secrétaire d'État. - Dans les 1,5 milliards d'euros consacrés par l'État à l'intelligence artificielle, 450 millions le sont par le ministère des armées avec 200 personnes à Rennes qui se consacrent à l'intelligence artificielle.
Avec la ministre des Armées, Florence Parly, nous devons faire en sorte que les start-up civiles ou duales soient plus financées par des crédits de défense.
Parmi les « Next40 », des pépites technologiques françaises, dont on peut penser qu'elles pourraient devenir des licornes, aucune n'a été financée par le ministère de la Défense - c'est très différent de ce qui se passe aux États-Unis ou en Chine. Oui, nous devons progresser sur cette capacité à financer des innovations duales.
M. Cédric Perrin. - La création de l'Agence de l'innovation de défense (AID) devrait y contribuer. Avec Joël Guerriau, nous proposons que des réservistes se chargent de faire cette liaison.
Mme Sylvie Robert . - La série Black Mirror, imaginant une société dystopique conduisant à des comportements proches de la bestialité, illustre la capacité de l'intelligence artificielle érodant le lien social et affectif entre les individus, amène à questionner notre rapport éthique à l'intelligence artificielle. Celle-ci n'est ni bonne ni mauvaise en soi.
Récemment, un mécanisme de reconnaissance faciale sur la voie publique a été expérimenté en France et une région veut expérimenter la reconnaissance biométrique à l'entrée d'un lycée.
Il faut que la puissance publique crée un cadre, qui déterminera l'acceptabilité par la population du développement de ces technologies.
Monsieur le ministre, entendez-vous ouvrir un débat public sur la reconnaissance faciale et les autres technologies qui touchent aux libertés ?
M. Cédric O, secrétaire d'État. - Ne présentons pas que les risques de l'intelligence artificielle.
Nous devons développer nos propres produits, sinon les Français utiliseront des produits américains ou chinois.
Le député Didier Baichère a proposé récemment de créer un cadre d'utilisation de la reconnaissance faciale en permettant aux collectivités territoriales de l'expérimenter ; il faut tenir une ligne de crête entre les impératifs économiques et la protection de la vie privée. Le Gouvernement est tout à fait prêt à avancer dans cette direction.
Au niveau international et européen, la Commission a l'intention dans les prochains jours de produire un décret sur l'éthique de l'intelligence artificielle et de la reconnaissance faciale.
Nous serons vigilants à respecter la ligne de crête entre innovation économique et respect des citoyens.
M. René-Paul Savary . - Le déploiement de l'intelligence artificielle pourrait se traduire par des comportements nouveaux. Les services représentent 75 % de l'emploi en France. Avec Marie Mercier et la délégation à la prospective, nous travaillons sur la transformation des emplois de service par l'intelligence artificielle.
Il y a plusieurs scénarios catastrophes. Le premier, le plus probable, aboutit à une destruction massive d'emplois. Dans le deuxième, l'intelligence artificielle, capable de réaliser des tâches de plus en plus complexes, pourrait menacer les emplois peu ou moyennement qualifiés, voire les emplois intermédiaires.
Quelle est la stratégie du Gouvernement pour accompagner la montée en gamme des emplois et développer la culture de l'adaptabilité du travail en France ?
M. Cédric O, secrétaire d'État. - Les projections sur l'impact de l'intelligence artificielle sur l'emploi sont peu claires aujourd'hui. On songe naturellement aux tâches répétitives, dans la banque, la distribution, mais des métiers tels que celui d'avocat, où il s'agit de repérer des schémas dans de grandes bases de données, pourraient là aussi être menacés.
Tout l'enjeu est de gérer la transition, grâce à la Gepec, la gestion prévisionnelle des emplois et des compétences.
Il y a aujourd'hui 80 000 emplois dans le numérique ; il y en aura 200 000 en 2022 ; il y aura 900 000 postes d'ingénieurs à pourvoir en Union européenne. Certains métiers ne sont pas pourvus. Il y a une tension à la fois sur les postes de techniciens et d'ingénieurs.
Le numérique crée des emplois. C'est aux acteurs sur le terrain d'assurer la transition, car c'est un sujet profondément local.
Mme Nadine Grelet-Certenais . - L'article 20 de la loi d'orientation des mobilités (LOM) porte sur les travailleurs de plateformes. Il y a un risque de cyber précariat. Cash investigation a mis en évidence les micro-tâches effectuées par de véritables ouvriers du web travaillant isolément ; ils sont victimes de la dissociation du lien social, notion créée par le sociologue Robert Castel.
De plus, il y a un vide juridique. Les plateformes font croire aux autoentrepreneurs qu'ils sont libres. Or ils dépendent d'algorithmes. Nombre de ces travailleurs du clic étudiés par Antonio Cassilli, partout dans le monde, effectuent des micro-tâches.
La fiscalité est une des conditions de la souveraineté, face à la montée du tâcheronnage numérique : les plateformes qui multiplient les emplois invisibles en Asie et ailleurs ne paient pas de charges. Quand allez-vous changer de braquet et imposer à ces entreprises un cadre beaucoup plus strict et protecteur pour le travail, pour enrayer cet engrenage inquiétant ?
M. Cédric O, secrétaire d'État. - Il y a un sujet de transformation, de fragilisation des rapports sociaux, mais aussi d'opportunité. Dans certains quartiers, l'ubérisation de l'économie a créé de l'emploi.
Le livreur Deliveroo peut être à temps plein et quasiment dans une relation de salariat ou être étudiant et travailler une heure par mois. Une partie de la réponse peut résider dans le syndicalisme. Un équilibre de rapports de forces doit être trouvé.
Le cabinet de Muriel Pénicaud travaille sur la représentativité de ces travailleurs. Il y a là une dialectique où se situe une partie de la réponse.
M. Jean-Pierre Leleux . - Le rapport de Cédric Villani d'avril 2018 a largement ouvert le débat sur l'urgence de développer la recherche dans l'intelligence artificielle.
Cédric Villani tente de nous convaincre qu'il n'est pas trop tard pour entrer dans le jeu mondial. Il y a trois types de problème : éthiques, juridiques et culturels.
Quand on parle d'éthique, on s'appuie sur notre histoire ; et on pense que nos valeurs, françaises, européennes, sont universelles. Or tel n'est évidemment pas le cas. Certains estiment que si nous bridons les initiatives de nos chercheurs, nous prenons un retard concurrentiel sur le plan technique vis-à-vis de pays qui n'ont pas la même interprétation. Il y a un équilibre à trouver.
Deuxième question, jusqu'où faire confiance à la machine ? Quelle est la responsabilité civile et morale pour les actes générés par l'intelligence artificielle ? La décision humaine ne doit-elle pas reprendre la main au-delà d'une certaine limite ? Il y a aussi tout un pan culturel auquel je pourrai consacrer ma réplique...
M. le président. - Vous avez épuisé votre temps de parole !
M. Cédric O, secrétaire d'État. - Il n'est pas trop tard. On peut encore monter à bord du dernier wagon. Nous avons les cerveaux. Il faut les retenir et en former davantage. Nous sommes passés de 18 à 34 masters en intelligence artificielle en deux ans.
Il faut être capable de développer nos champions sans renoncer à nos valeurs. Il faut libérer les expérimentations dans des cadres très variés.
Il est difficile de répondre sur le sujet juridique, par exemple sur la responsabilité en cas d'accident d'une voiture autonome. La réponse, je le crois, est dans l'expérimentation. C'est pourquoi il faut la permettre.
Mme Brigitte Lherbier . - C'est avec un oeil de juriste que j'aborde le débat. L'intelligence artificielle est l'une des plus grandes avancées scientifiques de l'histoire humaine. Son impact dans notre vie quotidienne est croissant. Elle peut susciter l'émerveillement mais il faut aussi étudier les cas pratiques tels celui d'un accident causé par une voiture autonome.
Quelle place prendront les intelligences artificielles dans notre droit ?
Qui sera considéré comme pénalement responsable d'un accident grave causé par une voiture autonome : le conducteur, le propriétaire, le constructeur, l'informaticien, l'auteur des algorithmes ?
Aujourd'hui, le conducteur doit toujours être en mesure de prendre le contrôle de sa voiture : il est donc en théorie responsable d'un accident éventuel. Mais qu'en sera-t-il si les voitures deviennent entièrement autonomes ? Qui sera responsable en cas d'échec d'une mission militaire utilisant les intelligences artificielles prédictives ? Ces questions sont souvent posées au Forum international de la cybersécurité organisé tous les ans en janvier à Lille par la gendarmerie. Gouverner, c'est prévoir !
M. Cédric O, secrétaire d'État. - Il est vraisemblable qu'il y aura moins d'accidents automobiles quand toutes les voitures seront autonomes. J'ajoute que la plupart des accidents d'avions sont dus à des erreurs humaines.
La loi Pacte est venue préciser les règles dans le cadre des expérimentations. L'expérimentateur est pénalement responsable d'un délit d'atteinte involontaire à la vie ou à l'intégrité de la personne.
Votre question est extrêmement liée à celle de la certification, l'un des grands défis des industriels. L'un des enjeux devant nous est de mettre en place cette certification. En tout cas, nous devons en discuter au Parlement. Il y a, là aussi, une ligne de crête à trouver.
Mme Florence Lassarade . - Les outils d'intelligence artificielle se développent depuis plusieurs années dans la santé. C'est une aide au diagnostic. Les évolutions sont rapides. La Health Data Hub est ainsi une avancée importante. Mais les Gafama cherchent à s'introduire dans le domaine de la santé avec une stratégie d'influence et des valeurs qui ne sont pas humanistes.
La baseline study, lancée par Verily life Science qui appartient à Alphabet donc à Google récolte des données phénotypiques en partenariat avec Harvard. Alphabet a déposé, entre 2013 et 2017, 186 brevets dans le domaine de la santé.
En France, certaines données de santé sont collectées et transmises sans aucun contrôle. Il est évident qu'il faut développer ce contrôle. Comment faire en sorte que les Gafama ne mettent pas la main sur les données de santé des Français ? Quelle stratégie envisagez-vous de mettre en oeuvre pour préserver le système de santé français face aux géants américains ?
M. Cédric O, secrétaire d'État. - C'est un sujet extrêmement important. Il faut être à la fois défensif et offensif. On pourrait interdire l'accès et la recherche sur les données de santé ; voir en parallèle des entreprises chinoises se développer, et qu'ensuite chacun, à l'idée de gagner par exemple cinq ans de vie en l'échange de données, se tourne vers les Chinois, car beaucoup n'hésiteront pas une seconde à faire le choix de livrer leurs données pour gagner une telle espérance de vie. Nous devons nous assurer que le leader dans ce domaine soit français ou européen, mais aussi que les algorithmes fonctionnent et soient adaptés aux Européens.
Mme Florence Lassarade. - L'exploitation des données et leur protection sont un marché juteux. Les données de santé frauduleusement obtenues se vendent vingt fois plus cher que les données bancaires sur le dark net.
M. Jean-Claude Requier, pour le groupe RDSE . - Je me félicite de l'intérêt suscité par ce sujet d'actualité qui concerne tout le monde.
Yvon Collin a souligné la prépondérance de la Chine et des États-Unis et le retard européen dans le numérique. Nous vivons à l'heure des machines apprenantes. Les évolutions entamées après la seconde guerre mondiale ont pris depuis vingt ans un rythme qui donne le vertige, au risque d'accroître le clivage entre les métropoles hyperconnectées qui ambitionnent de devenir des villes intelligentes et les territoires souvent ruraux de plus en plus marginalisés pour des raisons démographiques ou économiques. Or ces derniers pourraient pourtant profiter de l'intelligence artificielle, par exemple pour pallier le manque de médecins généralistes, qui ne pourra être résorbé avant plusieurs années. C'est une question structurante de l'aménagement du territoire de demain.
Le rapport Villani contient des développements très intéressants sur l'agriculture intelligente. Ainsi le bilan énergétique et l'utilisation d'intrants pourraient être optimisés. L'ouvrage de Gaspard Koenig, La Fin de l'individu, montre le risque de déresponsabilisation qu'entraînent ces technologies.
L'Union européenne doit mobiliser beaucoup plus de moyens pour combler le retard technologique. Quelque 50 millions d'euros, pour créer un réseau européen de recherche dans le cadre du programme « Horizon 2020 », c'est bien trop peu. Dans la santé, l'industrie ou les transports, nous disposons de compétences, mais la politique européenne de concurrence menée par l'ancienne commissaire Margrethe Vestager empêche parfois de faire émerger des champions européens. Il est pourtant urgent de créer l'Airbus de l'intelligence artificielle.
Je conclurai par cette citation de Woody Allen : « L'intelligence artificielle se définit comme le contraire de la bêtise humaine. » (Sourires et applaudissements sur les travées du groupe RDSE ainsi que sur plusieurs autres travées)
Prochaine séance, jeudi 3 octobre 2019, à 10 h 30.
La séance est levée à 20 heures.
Pour la Directrice des Comptes rendus du Sénat,
Jean-Luc Blouet Chef de publication