B. VERS UNE AUTOMATISATION TOUJOURS PLUS POUSSÉE DES SYSTÈMES D'ARMES
1. La France est historiquement opposée au recours aux systèmes d'armes létaux autonomes (SALA)
L'essor de l'IA dans le domaine militaire ravive les questions relatives aux systèmes d'armes létaux autonomes (SALA). La France participe activement à ces débats depuis plus d'une décennie.
Dès 2013, elle a contribué à inscrire cette question à l'agenda international dans le cadre de la Convention sur certaines armes classiques (CCAC). Depuis lors, les travaux conduits au sein du Groupe d'experts gouvernementaux mis en place par les Hautes Parties contractantes visent à définir les caractéristiques des systèmes concernés, les règles susceptibles de leur être applicables ainsi que les modalités d'encadrement ou d'interdiction envisageables.
Parallèlement, la réflexion internationale s'est progressivement élargie à l'emploi de l'IA dans le domaine militaire. La France participe à plusieurs initiatives consacrées à l'usage responsable de l'intelligence artificielle, qu'il s'agisse des sommets sur l'IA responsable dans le domaine militaire (Responsible Artificial Intelligence in the Military Domain - REAIM), des travaux conduits dans le cadre des Nations unies ou encore de la déclaration politique sur l'utilisation militaire responsable de l'intelligence artificielle et de l'autonomie.
La position française repose sur le principe du maintien d'un « contrôle humain approprié » sur les systèmes d'armes, jugée plus opérationnelle que celle de « contrôle humain significatif », fréquemment utilisée dans les discussions internationales.
« Terminator ne défilera pas au 14 juillet », déclarait ainsi Florence Parly le 5 avril 2019.
Cette doctrine a notamment été précisée par l'avis du Comité d'éthique de la défense rendu en 2021. La France distingue ainsi les systèmes d'armes létaux pleinement autonomes des systèmes intégrant certaines fonctions d'autonomie sous contrôle humain.
Un système d'armes létal pleinement autonome peut être défini comme un système capable d'identifier, de sélectionner et d'engager une cible sans supervision humaine et sans subordination à une chaîne de commandement. Il serait également en mesure d'adapter lui-même son comportement ou ses objectifs au-delà de sa programmation initiale.
La France considère que de tels systèmes sont incompatibles avec les exigences du droit international humanitaire. Cette incompatibilité résulte notamment de l'impossibilité de garantir le respect des principes de distinction, de proportionnalité et de précaution dans l'emploi de la force.
2. Une compétition technologique mondiale qui impose une mise à jour doctrinale
La position française relative aux SALA est partagée par plusieurs partenaires européens, parmi lesquels l'Allemagne, la Bulgarie, le Danemark, l'Espagne, la Finlande, l'Italie, le Luxembourg, la Norvège, les Pays-Bas ou encore la Suède.
Cette convergence n'empêche toutefois pas certains de nos alliés comme nos compétiteurs de poursuivre des travaux visant à accroître le degré d'autonomie des systèmes militaires.
Dans le domaine des drones, les recherches portent notamment sur la coordination de plusieurs plateformes, l'exécution collaborative des missions et l'augmentation progressive de l'autonomie des systèmes.
Les États-Unis et la Chine apparaissent aujourd'hui comme les pays les plus avancés dans ces domaines. Les programmes américains de Collaborative Combat Aircraft (CCA) visent ainsi à développer des drones de combat capables d'évoluer aux côtés d'aéronefs pilotés, avec une autonomie croissante dans l'exécution de leurs missions.
Les rapporteurs estiment que la France doit engager sans délai des travaux sur ce segment afin de préserver sa capacité à demeurer dans la compétition technologique internationale.
Recommandation : initier sans délai les premiers travaux relatifs au domaine CCA (collaborative combat aircraft) afin de maintenir la France dans la concurrence internationale.
Les États-Unis ont parallèlement engagé plusieurs programmes destinés à accélérer la production et le déploiement de systèmes autonomes, à l'image de l'initiative Replicator, tout en réaffirmant le principe d'une supervision humaine des décisions relatives à l'emploi de la force.
La Chine investit quant à elle massivement dans l'IA appliquée aux systèmes militaires et conduit des expérimentations portant notamment sur les essaims de drones aériens et navals.
La Russie développe, de son côté, des capacités d'autonomie croissante sur certaines de ses munitions téléopérées, notamment la famille Lancet, tout en s'opposant à l'adoption de nouvelles règles internationales contraignantes dans ce domaine.
Israël constitue également un acteur de premier plan. Son retour d'expérience, tant dans le domaine des munitions rôdeuses, avec le système Harop, que dans celui de la défense aérienne multicouches, avec l'Iron Dome, nourrit des développements en matière d'automatisation du ciblage, de fusion de données et d'aide à la décision.
La Turquie poursuit elle aussi des travaux dans ce domaine, notamment afin d'accroître les capacités d'engagement autonome de certains drones. Toutefois, les systèmes actuellement développés demeurent fondés sur une supervision humaine et l'intelligence artificielle intervient essentiellement comme une aide à la décision ou à l'exécution de la mission.
Dans le domaine de la LAD, les recherches portent principalement sur l'automatisation de la chaîne de détection, d'identification, de classification et de commandement. L'objectif est de permettre aux opérateurs de traiter un nombre croissant de menaces simultanées sans être submergés par le volume d'informations à analyser.
Cette problématique est particulièrement importante dans le cas des attaques coordonnées mobilisant de multiples vecteurs. La difficulté ne réside pas uniquement dans la neutralisation des drones, mais également dans la capacité à exploiter en temps réel les informations produites par des capteurs nombreux et hétérogènes, puis à sélectionner l'effecteur le plus approprié pour répondre à chaque menace.
Les systèmes les plus avancés utilisent déjà des algorithmes capables d'assister les opérateurs dans la reconnaissance des cibles, la qualification des menaces ou encore la désignation de l'effecteur le plus adapté.
Cette approche a été réaffirmée par le Comité d'éthique de la défense dans son avis du 14 janvier 2025 consacré à l'emploi des technologies d'intelligence artificielle par les forces armées. Celui-ci souligne ainsi que les conflits de haute intensité et les attaques saturantes imposeront vraisemblablement une automatisation croissante de certaines fonctions afin de conserver la réactivité nécessaire à la conduite des opérations.
C'est dans cette perspective qu'a été introduite la notion de « systèmes d'armes létaux intégrant de l'autonomie » (SALIA). À la différence des systèmes d'armes létaux pleinement autonomes, les SALIA demeurent placés sous l'autorité d'une chaîne de commandement humaine. Ils peuvent disposer de fonctions automatisées ou autonomes pour exécuter certaines tâches, mais leur emploi est strictement encadré. L'opérateur conserve ainsi la responsabilité de définir les objectifs de la mission, les règles d'engagement, les limites spatiales et temporelles de l'action ainsi que les conditions dans lesquelles le système peut intervenir.
Dans ce cadre, l'homme n'est plus « dans la boucle » (c'est-à-dire qu'il n'intervient plus directement dans la décision d'engagement et autorisant chaque emploi de la force) mais « sur la boucle » (il fixe en amont les paramètres d'emploi du système, en supervise le fonctionnement et conserve la faculté d'interrompre son action, sans intervenir nécessairement lors de chaque décision individuelle).
Au cours des auditions, certains interlocuteurs ont rapproché cette évolution des débats ayant conduit à l'interdiction des mines antipersonnel ou des armes à sous-munitions. Cette comparaison ne paraît toutefois pas pleinement pertinente. À ce jour, à la différence des mines antipersonnel prohibées par la convention d'Ottawa de 1997, aucun instrument international n'interdit les systèmes d'armes létaux autonomes en tant que tels, même si plusieurs enceintes internationales poursuivent leurs travaux sur leur éventuel encadrement.
Les rapporteurs relèvent d'ailleurs que de nombreuses capacités en service comportent déjà des fonctions d'autonomie, sans être pour autant assimilées à des SALA. Les missiles dits « tire et oublie », capables de poursuivre leur cible après leur lancement sans nouvelle intervention de leur opérateur, en constituent une illustration.
Plusieurs intervenants ont par ailleurs souligné que le maintien du contrôle humain ne devait pas conduire à créer des contraintes incompatibles avec les réalités du combat, insistant sur la nécessité de ne pas s'imposer de contraintes supplémentaires qui conduiraient à un déclassement technologique face à des compétiteurs moins exigeants.
Les rapporteurs partagent cette analyse : la France doit en effet être en mesure de répondre aux évolutions du champ de bataille et disposer des capacités nécessaires pour faire face à des menaces dont la vitesse d'action pourrait dépasser les capacités de réaction exclusivement humaines. Ils estiment par conséquent nécessaire de ne rien s'interdire en matière de recherche, ne serait-ce que dans une logique défensive, tout en encadrant l'usage.
Ils considèrent en outre que l'essor des drones et des systèmes robotisés doit conduire à reconsidérer certaines notions traditionnellement associées aux systèmes d'armes létaux. Dans le cadre de confrontations entre systèmes autonomes - drones contre drones ou robots contre robots -, la question n'est plus directement celle de l'emploi de la force létale contre des personnes mais celle de l'engagement de systèmes automatisés contre d'autres systèmes automatisés.
Recommandation : assumer le développement de systèmes toujours plus autonomes dans une approche défensive sans multiplier de nouvelles normes qui entraineraient un retard technologique, notamment dans le domaine de la LAD.