Jeudi 20 juin 2019
- Présidence de M. Roger Karoutchi, président -
La réunion est ouverte à 08 h 30.
Audition de MM. Olivier Darrason, président-fondateur, et Axel Dyèvre, directeur associé, de CEIS
M. Roger Karoutchi, président. - Nous recevons aujourd'hui Olivier Darrason, ancien élève de l'ENA, membre du corps préfectoral, qui fut député des Bouches-du-Rhône de 1993 à 1997 et a créé ensuite une entreprise spécialisée dans la stratégie, l'intelligence économique et l'analyse des risques. Il va nous éclairer sur le rôle actuel de l'intelligence artificielle (IA) dans le domaine économique.
M. Olivier Darrason, président-fondateur de CEIS. - Je suis très heureux d'échanger aujourd'hui avec la délégation à la prospective car la prospective est très liée aux trois domaines d'activité de mon entreprise, qui s'est spécialisée sur les industries de souveraineté, pour lesquelles l'IA est un outil. Notre équipe est actuellement composée d'environ 80 personnes et nous sommes basés à Paris.
Notre premier métier consiste à faire de l'accompagnement de projets français ou européens, dans des secteurs stratégiques comme la défense, les télécommunications ou encore les transports. Nous constatons que la Commission européenne est parfois amenée à refuser des fusions d'entreprises, ce qui limite la force de frappe européenne. Nous accompagnons les entreprises mais nous répondons aussi aux appels d'offres de l'État français pour des missions d'accompagnement de projets. Il nous arrive de travailler pour d'autres États, uniquement si nous disposons de l'accord informel de la France. Un aspect essentiel de notre travail avec les entreprises concerne leur stratégie d'innovation, par exemple dans le domaine de l'aéronautique. Au passage, je note que les applications d'IA sont très présentes cette année au salon aéronautique du Bourget.
À côté du conseil en stratégie, mon entreprise intervient dans un autre champ, celui de la cybersécurité. Nous disposons d'un centre de formation unique en Europe qui nous permet d'entraîner les services du ministère de la défense ou encore de l'Agence nationale de la sécurité des systèmes d'information (ANSSI). Nous analysons le darkweb pour repérer les menaces pour nos clients. L'IA est très utilisée pour effectuer des cyberattaques mais aussi pour les contrer.
Nous déployons enfin nos activités dans une troisième branche : l'intelligence économique (business intelligence).
Notre activité est donc variée. Nous travaillons aussi au service des collectivités territoriales qui le souhaitent. Nous organisons depuis 18 ans les universités d'été de la défense, nous organisons aussi le Forum international de la cybersécurité à Lille ainsi que le Forum international de Dakar sur la paix et la sécurité en Afrique. Nous pilotons aussi un groupe de presse qui publie des magazines de référence sur la sécurité et la défense.
Je laisse la parole à Axel Dyèvre pour parler plus précisément des liens entre défense et IA.
M. Axel Dyèvre, directeur associé de CEIS. - Je suis un ancien officier de l'armée française. Lorsque j'ai débuté mon parcours, on faisait de l'algorithmique, qui est désormais devenue l'IA. Lorsque nous utilisions des calculateurs pour des tirs de missiles, nous faisions en réalité de l'IA sans le savoir. L'ordinateur se voit déléguer plusieurs fonctions : il prend en charge le calcul, la proposition voire l'action.
L'IA n'est pas une perspective future mais est déjà très présente aujourd'hui : on est réveillé par un appareil, on demande à un appareil la météo ou l'itinéraire à suivre pour se rendre à ses rendez-vous et ces appareils sont capables d'analyser et de communiquer entre eux. Mon téléphone se déverrouille en me reconnaissant grâce à l'IA et en ayant, par exemple, appris à me reconnaître avec ou sans mes lunettes.
On doit distinguer entre IA locale et IA centralisée : c'est l'approche Apple contre l'approche Google. Le logiciel de gestion de photos d'Apple fait une reconnaissance de visages et fonctionne en local, même si l'on coupe l'accès à Internet. Cette approche privilégie l'algorithme sur la masse de données. Avec le gestionnaire de photos de Google, la reconnaissance de visages se fait via le cloud. L'IA locale consomme de l'énergie et a des gros besoins de calcul. Mais elle présente l'avantage de ne pas dépendre d'une connexion. L'IA centralisée dépend fortement des bibliothèques de connaissances et de volumes importants de données de référence. En IA centralisée, on obtient de meilleurs résultats en croisant des masses de données et des calculs.
Il existe une illustration parlante permettant de caractériser l'IA : un ordinateur a besoin de 500 000 images de chiens pour reconnaître sans erreur un chien alors qu'un enfant reconnaît un chien après n'en avoir vu que quelques-uns. L'IA par nature est très focalisée et peu polyvalente. Un ordinateur est capable de compléter une symphonie inachevée en regardant la masse des oeuvres disponibles, mais n'aura jamais l'idée de composer une symphonie. Un robot ne sait d'ailleurs qu'appliquer les règles - dans le film Terminator, ce dernier passe son temps à répéter qu'il est programmé pour exécuter une mission. Le mot « intelligence » dans l'expression « intelligence artificielle » est un abus de langage, une expression séduisante pour aller chercher des crédits de recherche dans les années 1950. Luc Julia, l'inventeur de l'assistant vocal Siri a affirmé dans un livre que l'intelligence artificielle n'existait pas. En matière de défense, les axes d'utilisation de l'IA diffèrent selon les pays. Les Américains utilisent l'IA pour augmenter les capacités du soldat avec une doctrine offensive. Les Chinois cherchent à augmenter leur système d'armes dans une logique défensive d'interdiction. Les Russes utilisent l'IA comme un démultiplicateur de forces. Les Israéliens utilisent l'IA pour accélérer leur temps de réaction.
L'IA est un multiplicateur de capacités de l'intelligence humaine mais pas un substitut à celle-ci. Il ne faut pas se laisser abuser par les progrès logiciels. Ce sont les capacités de calcul, les machines, le hardware, qui ont permis aux logiciels d'enregistrer d'importantes performances. L'IA est devenue très performante mais rencontre aussi ses propres limites : l'ordinateur n'arrive pas à anticiper l'imprévisible.
M. Roger Karoutchi, président. - Les Américains ou les Chinois utilisent l'IA dans le domaine de la défense. Qu'en est-il de la France ?
M. Axel Dyèvre. - La France fait de l'IA depuis des années et n'a pas choisi un axe privilégié. Elle fait un peu comme les Américains, les Chinois, les Russes ou encore les Israéliens. On est créatifs avec des moyens limités. On « fait avec », on « fait au mieux » et du coup on innove. Mais la vraie faiblesse de la France réside dans le matériel, le hardware. On est très forts pour former des mathématiciens. Mais on est incapable de fabriquer un Iphone ailleurs qu'en Chine. 90 % des terres rares utilisées dans la fabrication de composants informatiques sont exploitées en Chine pour une raison simple : on trouve des métaux rares partout mais uniquement de manière annexe à l'exploitation minière classique, or la Chine est un gros pays minier.
Mme Marie Mercier, rapporteure. - En matière de cybersécurité, êtes-vous en lien avec la plateforme PHAROS de signalement des contenus suspects ?
L'IA repose sur une puissance de calcul mais aussi sur un processus d'apprentissage. On peut définir l'intelligence à travers la faculté d'adaptation. Le Français est intelligent car il est débrouillard. En matière de défense, l'IA remplacera-t-elle le soldat ?
M. René-Paul Savary, rapporteur. - Que se passe-t-il lorsque l'IA connaît des ratés ? L'IA va-t-elle supprimer des emplois, notamment non qualifiés ?
M. Olivier Darrason. - Notre forum de la cybersécurité est organisé en lien étroit avec la gendarmerie nationale, qui est très pointue sur la cybercriminalité.
M. Axel Dyèvre. - Certes l'IA apprend mais à partir de règles prédéfinies. Il n'y a donc pas d'imprévisibilité de l'IA. Par ailleurs, on peut faire une réinitialisation d'une machine, ce qu'on ne peut pas faire d'un cerveau humain, y compris pour les amnésiques. L'IA ne peut pas remplacer le soldat. On délègue simplement des tâches complexes à des machines. Mais c'est un choix politique et humain de faire la guerre.
M. Olivier Darrason. - Un film récent d'Antonin Baudry intitulé « le chant du loup » immerge le spectateur dans un sous-marin nucléaire. On observe l'automaticité ou non de la décision à partir de l'analyse des sons qui se fait via des capteurs situés dans des filins très longs. Il faut une analyse de l'humain, c'est-à-dire une réflexion que ne peut pas avoir la machine, pour prendre une décision de tir. Il existe un contre-exemple dans le domaine de la lutte contre les snipers. Aujourd'hui, il existe des machines effectuant de façon statique ou dynamique une analyse de l'origine des tirs grâce à des capteurs. Si cela avait existé en 1963 on saurait, par exemple, qui a tué Kennedy. L'OTAN combine le repérage des tirs avec une mitrailleuse automatique pour abattre les snipers. On a aussi observé l'automatisation des tirs des drones de combat américains. Mais l'homme peut reprendre la main et décider à la place de la machine.
Au salon aéronautique du Bourget, Thales a présenté des outils de sécurité maritime en Méditerranée qui utilisent massivement l'IA et reposent sur des masses de données satellites. On utilise toutes les ressources disponibles, y compris les bases concernant la construction des navires.
M. Axel Dyèvre. - Que se passe-t-il en cas de défaillance de l'IA ? Il faut fonctionner en mode dégradé. Un marin a un ordinateur de bord dans son bateau mais s'il tombe en panne, il convient d'utiliser la carte et le compas. Si nous ne savons pas le faire, nous devenons dépendants de l'IA.
Concernant l'impact de l'IA sur l'emploi : les grandes sociétés qui utilisent massivement l'IA - par exemple Amazon - emploient aussi beaucoup de monde, y compris dans des travaux non qualifiés. Ce qui a changé, c'est la relation entre hommes et robots : chez Amazon, ce n'est pas la machine qui complète le travail humain, c'est l'homme qui vient compléter la machine quand elle rencontre ses limites.
M. Olivier Darrason. - Allons-nous suffisamment investir dans l'informatique et dans le logiciel pour ne pas être trop dépendants d'opérateurs américains ou chinois en matière d'IA ? La France et l'Europe ont besoin de moyens pour investir dans de nouvelles solutions technologiques alternatives à celles proposées par des opérateurs étrangers.
M. Axel Dyèvre. - De la fin des années 1960 aux années 1980, on a connu la révolution industrielle de la robotisation. Nous n'avons pas voulu investir massivement dans ce domaine et pensions conserver notre savoir-faire, nos techniques traditionnelles et nos emplois. Aujourd'hui Foxconn emploie 1,5 million de personnes et pourtant cette entreprise a aussi le plus grand nombre de robots au monde. La robotisation ne supprime pas forcément les emplois.
M. Yannick Vaugrenard. - Je me suis rendu hier au salon du Bourget et je ne pense pas que la France bricole avec l'IA. L'Agence spatiale européenne (ESA) est aussi un opérateur de pointe, pas forcément en retard, en tout cas au niveau spatial. L'IA n'est qu'un outil d'aide à la décision. Un homme apprend, l'IA retient et a la capacité à faire des traitements de masse de données rapidement. Au final c'est l'humain qui doit décider. Qu'en est-il de la guerre spatiale et des cyberattaques, moyen majeur de guerre ? Investissons-nous suffisamment ?
M. Olivier Darrason. - L'Europe est à un haut niveau technologique dans le domaine de l'espace. Nous défendons aussi l'idée que l'espace est « Res Nullius » et donc non appropriable. Le problème est celui des moyens. Sur le plan commercial, on était à 8 à 9 lancements par an en Europe il y a deux ans. Mais, avec un moindre besoin de lancements de satellites du fait du remplacement des liaisons satellites par des liaisons fibres et avec des concurrents comme X-Space, le modèle économique de l'espace se transforme. Les petits satellites remplacent les gros : 12 000 mini-satellites sont envisagés dans le cadre des constellations de satellites. Le chiffre d'affaires d'Airbus et de Thales sur le spatial a baissé récemment des deux tiers.
M. Axel Dyèvre. - Le terme « bricoler » n'est pas forcément négatif : c'est faire beaucoup avec peu de moyens. Nous avons de petits programmes qui ont de bons résultats. Sur le spatial, la constellation Oneweb est mise en oeuvre par Astrium, filiale d'Airbus. Nous ne sommes donc pas à la traîne.
M. Yannick Vaugrenard. - Les entreprises spatiales européennes s'orientent vers les petits satellites elles aussi. Je rappelle que nos téléphones portables sont géolocalisés non pas par le GPS mais par Galileo. C'est une technologie européenne qui marche.
M. Roger Karoutchi, président. - Je vous remercie pour ces éclairages précis et intéressants.