C. LES LIMITES DES MACHINES INTELLIGENTES
1. Des limites technologiques
a) La dépendance aux données
Les performances des machines intelligentes dépendent désormais fortement de la masse des données disponibles. Le rapport Villani précité indique ainsi que « l'apprentissage par données n'est pas la seule méthode menant à l'intelligence artificielle (loin s'en faut) mais c'est aujourd'hui la méthode la plus utilisée, celle qui se développe le plus vite et celle qui fait l'objet de la compétition internationale la plus vive. Le point de départ de toute stratégie en intelligence artificielle tient ainsi en la constitution de larges corpus de données ». On ne peut être plus clair : sans données massives, il n'est pas envisageable de robotiser, d'automatiser massivement.
Le rapport ajoute que « si la donnée brute est nécessaire, elle décuple sa valeur lorsqu'elle est structurée et annotée de sorte qu'elle véhicule des informations valorisables par les techniques d'IA ». Or, l'annotation de données, leur qualification est coûteuse en temps et donc en ressources humaines et financières. La prise en charge de ce travail peut être transférée aux utilisateurs (par exemple lorsqu'un usager d'une application de déplacement renvoie ses données de géolocalisation). La qualification des données peut aussi être externalisée sur des plateformes de micro-tâches (comme l' Amazon Mechanical Turk ).
Plusieurs types de problèmes peuvent intervenir en matière de collecte et traitement de données, ce qui limite le développement de l'IA :
• Un problème de disponibilité des données : certaines bases sont publiques, mais les géants du numérique, GAFA américains ou BATX chinois ont accumulé des masses d'informations dont ils sont propriétaires et qui ne sont pas partagées avec les autres acteurs de l'économie. Le rapport Villani citait une étude de l'Union européenne menée en 2017 qui établissait que 90 % des entreprises ne partageaient pas leurs données avec d'autres. L'écosystème de la donnée est encore très éclaté, même s'il existe une prise de conscience de la nécessité d'une plus grande ouverture pour permettre les progrès de l'IA.
• Un problème de qualité des données : des données erronées peuvent induire les systèmes en erreur et l'IA n'est pas outillée pour repérer des absurdités qui sauteraient aux yeux d'un humain. Les secteurs comme la santé ou la chimie sont ainsi particulièrement sensibles à une bonne qualité des données et des nettoyeurs de données peuvent être nécessaires pour améliorer l'efficacité des systèmes d'information et permettre un déploiement réussi de l'IA.
• Enfin, l'IA se heurte aussi à des biais dans la collecte et l'utilisation des données . La question des biais cognitifs de l'IA est montée récemment dans le débat public. Aude Bernheim et Flora Vincent, dans un ouvrage récent intitulé « L'intelligence artificielle, pas sans elles », montrent que l'IA peut reproduire des stéréotypes de genre : par exemple, un logiciel de traduction automatique va systématiquement transcrire « a nurse » par « une infirmière » alors que l'expression « a doctor » était traduite par « un médecin », alors que dans le contexte autour de la phrase à traduire, il pouvait s'agir à l'inverse d'une femme médecin et d'un homme infirmier. L'IA est accusée également de reproduire des stéréotypes raciaux. L'IA basant son fonctionnement sur ce qui est observé, elle tend à reproduire les inégalités et constitue ainsi un outil de leur perpétuation.
b) Les limites inhérentes à l'intelligence artificielle
Au-delà des problèmes concernant la collecte des données, l'IA rencontre des limites technologiques qui lui sont inhérentes et empêchent d'envisager, même à une échéance lointaine, d'élaborer des robots multitâches très polyvalents.
D'abord, une machine intelligente n'intervient que dans le domaine pour lequel elle a été programmée . Ainsi, un robot d'accueil est capable de tenir une conversation avec un client, mais, comme le faisait remarquer Rodolphe Gelin lors de son audition par vos rapporteurs, il ne le retiendra pas si celui-ci tombe par terre car il n'a pas été conçu pour cela, alors qu'un humain chargé de la même fonction d'accueil le ferait spontanément. L'IA n'est pas une intelligence générale mais plutôt une intelligence orientée vers quelques objets définis à l'avance.
Par ailleurs, l'IA peut aussi, comme tout programme informatique, connaître des défaillances ou « bugs » : ainsi, les tests de conduite autonome ont montré une grande fiabilité de la conduite par des machines, mais n'a pas totalement empêché les accidents : ainsi en mars 2018, une voiture autonome d'Uber n'avait pas classé comme piétonne une femme marchant de nuit sur une route de l'Arizona à côté de son vélo et l'a percutée mortellement. L'existence de « bugs », même rares, peut aussi conduire des opérateurs humains appelés à utiliser des outils à base d'IA à faire trop confiance à leur machine et à ne jamais remettre en cause les informations fournies par la machine.
Si l'IA est très performante pour multiplier les calculs et appliquer des règles, même complexes, l'IA est en revanche plus en difficulté en matière d'intelligence sociale, c'est-à-dire dans sa capacité à interagir avec autrui. Très vite, les robots peuvent être dépassés par des situations imprévues ou simplement inhabituelles. De l'avis de tous les spécialistes auditionnés par vos rapporteurs, l'intelligence émotionnelle est également aujourd'hui hors de portée de l'IA : certes, des robots sont programmés pour reconnaître des émotions lorsque celles-ci sont détectées par des manifestations extérieures (expressions du visage) mais rencontrent aussi rapidement des difficultés de compréhension de celles-ci (un sourire ironique peut être confondu avec un sourire bienveillant). Leur capacité à déclencher des émotions, à motiver ou à interagir de manière avancée dans le cadre d'un travail collaboratif relève encore de la science-fiction.
Enfin, les chercheurs soulignent que l'IA ne dispose d'aucune conscience d'elle-même, d'aucune volonté propre et reste en tout état de cause dans la sphère des objets. Le fantasme des machines prenant le contrôle du monde est donc encore loin de la réalité, même si les progrès des technologies ces dernières années ont été spectaculaires.
2. Des limites économiques
a) L'intégration, maillon essentiel de l'adoption des machines intelligentes
Les technologies robotiques et l'IA ne sont pas toujours simples à mettre en oeuvre et ne se présentent pas comme des solutions « clefs en mains ». Parmi les six enjeux identifiés dans le récent rapport Bonnel-Simon précité sur la robotique et les systèmes intelligents, celui de l'intégration était qualifié de « maillon essentiel ». Lors de son audition devant vos rapporteurs, Mme Simon avait insisté sur l'importance de la phase d'intégration, soulignant que les technologies sont souvent disponibles mais que pour être adoptées, il convient de passer par une phase d'intégration dans les processus métiers des entreprises qui ne se fait pas toute seule.
L'intégration est fortement perturbatrice des habitudes de travail et oblige parfois à remettre à plat le fonctionnement d'une entreprise ou d'une administration, pour automatiser les tâches routinières. Cette phase de remise à plat peut mettre en évidence des dysfonctionnements importants et constituer un moment de mise en accusation de certains acteurs de l'entreprise. L'intégration se fait rarement « à l'identique », en déplaçant seulement certaines tâches humaines vers des machines. Elle peut aussi procéder à une redistribution très forte des charges de travail, des pouvoirs au sein des organisations, et déplacer la chaîne de valeur. Bref, l'intégration de solutions robotiques ou d'IA est loin d'être neutre : par exemple l'automatisation des contrôles des fausses déclarations de douane au sein de la direction générale des douanes et des droits indirects a pour but de diminuer la fraude, mais aussi de libérer les agents de contrôles assez routiniers sur pièces pour aller vers des contrôles plus qualitatifs concernant des cas complexes. L'utilisation de l'IA dans la gestion des stocks permet aussi de déclencher des commandes automatiques voire d'anticiper les situations de rupture de stocks ou de surstockage.
Ces transformations n'ont pas qu'une dimension technique mais ont souvent pour conséquence une réorganisation totale du management des organisations. Elles conduisent à repenser en profondeur les processus mis en oeuvre dans les entreprises ou les administrations. Car outre la redistribution des rôles, l'intégration de solutions robotiques ou d'IA peut constituer un choc psychologique pour les utilisateurs : salariés et parfois clients et fournisseurs. La résistance à l'adoption de solutions techniques pourtant pertinentes est fréquemment une cause d'échec des stratégies de digitalisation d'entreprises ou d'administrations.
b) Le coût de la mise au point des robots intelligents
La dimension économique joue aussi dans le choix ou non d'adopter des solutions robotisées ou des applications intégrant l'IA. Si les robots présentent des atouts indéniables de productivité, sont robustes, résistants à la fatigue, et font plutôt moins d'erreurs que les opérateurs humains, automatiser une tâche ou une série de tâches n'est pas systématiquement une bonne option . Les robots manquent en effet de polyvalence et l'amortissement de lourds investissements ne se justifie que si le marché est large ou les tâches à automatiser nombreuses et très répétitives.
Concernant les solutions d'IA, une étude du cabinet McKinsey publiée début 2019 estimait que leur adoption pourrait générer en Europe 2 700 milliards d'euros de PIB supplémentaire d'ici à 2030, avec un coût de transition estimé à 1 000 milliards, soit un impact net très positif. Dans certains domaines comme les achats, l'IA offre des avantages très nets : elle permet de réduire de 25 à 60 % la durée d'un processus d'achat, permet 5 à 40 % d'économies en comparant automatiquement les offres, et réduit de 30 à 40 % les coûts de traitement des dossiers d'achat, selon le directeur des services à valeur ajoutée de la société Manutan 23 ( * ) . Mais la balance n'est pas systématiquement positive. Encore faut-il que les processus soient suffisamment standardisés pour que l'utilisation de machines soit pertinente.
Ce qui n'est pas répétitif et peu modélisable est ainsi peu automatisable. De même, dans les activités où il existe des évolutions rapides de tâches, la robotisation n'est pas un bon calcul car les solutions techniques sont vite obsolètes. Les capacités d'adaptation et d'apprentissage de l'homme lui donnent une réelle supériorité sur la machine, qui a besoin d'un nombre très important d'exemples pour créer une catégorie : ainsi, un enfant de 3 ans comprendra ce qu'est un chien en n'étant mis en présence d'un tel animal que quelques fois, et en étant capable de conceptualiser le chien, alors qu'il faudra à une machine des dizaines voire des centaines de milliers d'exemple pour ne pas se tromper.
Le rapport Villani précité précise « qu'il n'est pas forcément plus avantageux d'automatiser une tâche, même d'un point de vue purement économique ». L'automatisation doit donc être analysée au cas par cas, et sa mise en oeuvre résulte d'un calcul économique qui peut aussi être mouvant. De ce point de vue, la diffusion progressive des technologies d'IA et des robots pourrait en abaisser le coût et en démocratiser l'usage, comme cela s'observe pour toutes les technologies qui entrent dans leur phase de maturité.
* 23 https://www.manutan.com/blog/fr/strategie-achats/intelligence-artificielle-quels-benefices-pour-les-achats