En séance

Projet de loi Programmation militaire pour les années 2024 à 2030

Direction de la Séance

(1ère lecture)

(PROCÉDURE ACCÉLÉRÉE)

(n° 667 , 666 , 646, 654)

AMENDEMENT

présenté par

MM. MELLOULI, GONTARD, BENARROCHE et DANTEC, Mme de MARCO, MM. DOSSUS et FERNIQUE, Mme GUHL, M. JADOT, Mmes OLLIVIER et PONCET MONGE, M. SALMON et Mmes SENÉE, SOUYRIS et Mélanie VOGEL

Article 1er

(RAPPORT ANNEXÉ)

Consulter le texte de l'article ^

Après l’alinéa 82

Insérer un alinéa ainsi rédigé :

L’utilisation de l’intelligence artificielle et l’intégration croissante de solutions de traitement automatisé des données dans les chaînes de décision opérationnelle ne doit pas permettre un remplacement de la décision humaine par une décision d’intelligence artificielle dès lors qu’il s’agit d’utiliser une arme potentiellement létale. Le déclenchement d’une arme, quelle que soit sa nature, ou de tout processus entraînant une destruction, est subordonné à une décision humaine. L’emploi de système intégrant des capacités d’intelligence artificielle dans ces chaînes de décision est subordonné à une supervision et une intervention humaines effectives, préalables et non contournables.

Objet

L’intégration croissante de solutions de traitement automatisé des données dans les chaînes de décision opérationnelle tend à réduire la place de l’humain à une validation purement formelle, tandis que les catégories d’analyse et de ciblage sont définies en amont par des systèmes dont les logiques peuvent être opaques.

Le présent amendement pose un principe clair et sans exception : toute décision d’employer une arme ou de déclencher un processus de destruction doit impérativement résulter d’une décision humaine explicite, quel que soit le contexte opérationnel et quelle que soit la nature de la cible ou de l’effet recherché. Ce principe vaut non seulement pour les frappes létales contre des personnes, mais également pour toute action entraînant une destruction quelconque, y compris par exemple d’un bâtiment – fût-il inoccupé. La nature non létale d’une action ou l’absence de victimes directes ne saurait en effet justifier de confier à un système automatisé la décision de détruire, avec les conséquences irréversibles que cela implique sur le plan matériel, environnemental ou humanitaire.