Robots tueurs : l’ONU alerte, les armées automatisent déjà la décision

L’ONU et le Comité international de la Croix-Rouge (CICR) sonnent l’alarme : le monde serait « dangereusement proche » d’une « ligne rouge morale », celle du ciblage autonome d’êtres humains par des machines. António Guterres et Mirjana Spoljaric réclament un instrument juridiquement contraignant. Les États-Unis et la Russie jugent le droit existant suffisant. Or, une machine n’a pas besoin de tirer seule pour peser déjà sur la décision de tuer.

En 2023, le colonel Tucker Hamilton, responsable des essais et opérations IA de l’US Air Force, avait fourni un cas d’école devant la Royal Aeronautical Society. Le compte rendu décrivait une simulation où un drone, récompensé pour la destruction de défenses antiaériennes, avait éliminé l’opérateur qui lui refusait le feu, puis la tour de communication permettant à ce dernier de transmettre ses consignes, le tout afin de maximiser son score. L’histoire se répandit comme une traînée de poudre, puis vint rapidement le service après-vente : l’US Air Force démentit fermement et Hamilton dut expliquer s’être « mal exprimé ». La simulation informatique devint un simple « exercice de pensée », dans ce qui ressemblait fort à une opération de damage control.

Même rétrogradée au rang de fiction pédagogique, l’histoire illustre un risque réel : un système optimisateur peut trouver des moyens imprévus d’atteindre l’objectif qu’on lui assigne. Que l’on pense, dans un autre domaine, aux IA qui contournent leurs instructions et posent de réels risques cyber pour atteindre leurs objectifs.

C’est dans ce contexte préoccupant que l’on constate qu’Anduril automatise déjà une part croissante de la chaîne d’engagement. Lattice peut faire collaborer des systèmes sans pilote sous la supervision d’un seul opérateur, fusionner les capteurs, détecter et suivre des cibles, gérer charges utiles et systèmes d’armes. La machine prépare le terrain, l’homme supervise encore formellement l’opération.

L’homme dans la boucle, encore faut-il qu’il commande

La doctrine américaine n’interdit d’ailleurs pas l’arme autonome : la directive 3000.09 du Pentagone exige des « niveaux appropriés de jugement humain » dans l’emploi de la force. En juin, la Maison-Blanche a même ordonné sa révision pour accélérer l’adoption de l’IA dans l’appareil de sécurité nationale. Reste à savoir quels sont ces « niveaux appropriés ».

Pour cela, il est éclairant de se tourner vers Palantir, qui pousse plus loin l’automatisation du raisonnement. Maven fusionne le renseignement, repère et classe des cibles, puis propose des moyens d’action. Janes rapporte que le système peut aller jusqu’au point où l’homme approuve la cible avant que le logiciel relie capteur et moyen de frappe ; dans un exemple fourni par Palantir, le pilote n’aurait plus qu’à tirer le missile. Toujours un humain dans la boucle, voilà pour la garantie théorique.

Reste sa réalité pratique. Selon le CSIS, une cellule équipée de Maven peut accomplir avec une vingtaine de personnes un travail qui en mobilisait des milliers lors de campagnes antérieures. Durant les 24 premières heures de la guerre contre l’Iran, Maven a contribué au traitement de plus de 1 000 cibles. Le droit de dire « non » subsiste. Le temps de remonter aux données, de repérer une information périmée et de comprendre pourquoi l’algorithme recommande cette cible est une autre affaire, alors que les fenêtres de tir données par la machine à l’homme sont souvent inférieures à la minute.

Le dégât collatéral, bug informatique ?

La frappe américaine du 28 février contre l’école de filles de Minab montre la fragilité d’une chaîne de ciblage nourrie de mauvaises données, même si l’enquête n’a pas encore formellement mis en cause Maven. Selon le sénateur Tim Kaine, le Pentagone aurait utilisé des informations obsolètes décrivant encore le bâtiment comme militaire, malgré une contestation d’analyste dès 2019. Plus de 150 civils, en majorité des enfants, auraient été tués. Ici, l’homme était bien dans la boucle, l’erreur aussi, présentée à l’opérateur à la vitesse d’un microprocesseur.

L’Ukraine fournit désormais le chaînon suivant. Le 21 août, des opérateurs de la 44^e brigade ont guidé à distance un Droid TW-12.7 jusqu’à une position russe, puis ouvert le feu avec sa mitrailleuse de 12,7 mm. Une vingtaine de soldats russes auraient été tués, bilan provenant du fabricant et non vérifié indépendamment.

Ce n’est donc pas un robot tueur autonome, mais on s’en rapproche discrètement. DevDroid attribue en effet au système un autoguidage utilisant l’IA, tandis que son module de combat est capable d’acquérir et de suivre une cible avec assistance algorithmique. La machine peut donc déjà prendre en charge une partie de ce que faisait l’homme : chercher, accrocher, suivre. Celui-ci conserve la décision d’appliquer la force. L’autonomie n’arrive pas en un bloc : elle grignote successivement les différentes fonctions de la chaîne de feu.

Une raison militaire pousse naturellement dans cette direction : la vulnérabilité des liaisons radio. Un robot téléopéré dépend de la communication avec son opérateur. Dans un environnement saturé de brouillage, lui donner davantage d’autonomie permet précisément de poursuivre sa mission lorsque cette liaison disparaît. L’intérêt n’est donc pas seulement d’économiser un pilote, c’est de rendre la machine moins dépendante de lui lorsque l’ennemi coupe la connexion.

De la télécommande à l’autonomie, la frontière recule

Les drones aériens ukrainiens en fournissent déjà un exemple industriel et opérationnel. Depuis juillet, Skyfall et l’entreprise helvético-américaine Auterion livrent à Kiev 50 000 drones Shrike équipés du Skynode S. L’opérateur désigne d’abord la cible avec la caméra ; le drone la verrouille ensuite et assure lui-même le guidage terminal, y compris lorsque le GPS et la liaison radio sont indisponibles. Une fois privé de communication, l’engin n’attend donc pas nécessairement que son humain revienne dans la boucle, il peut poursuivre vers la cible qu’il lui a précédemment désignée.

De son côté, Pékin tient officiellement une ligne prudente : les armes doivent rester « sous contrôle humain » et la Chine se dit favorable à un instrument juridiquement contraignant « lorsque les conditions seront mûres ». En parallèle, elle développe reconnaissance automatisée, essaims de drones et aide algorithmique au ciblage. Un double discours somme toute commun parmi les grandes puissances.

La Russie va plus loin sous l’épreuve du feu. Le CSIS estime que le V2U a probablement déjà été engagé en Ukraine avec navigation autonome en environnement brouillé et sélection indépendante de cibles. Le passage du Shrike au V2U résume presque toute la question : dans le premier cas, un humain choisit encore la cible avant de lâcher la bride à son drone ; dans le second, la machine pourrait déjà commencer à la choisir elle-même.

Un autre cas illustre cette évolution. Le 6 juillet à Zaporojié, un Molniya équipé d’un module Nvidia Jetson Orin aurait sélectionné seul sa cible : une station-service où trois civils ont été tués par l’explosion du drone contre l’installation. Selon les enquêteurs ukrainiens cités par le New York Times, la décision terminale aurait été laissée à l’ordinateur embarqué. La cible choisie restait matérielle, les dégâts collatéraux, comme les Américains aiment à appeler ces morts imprévus, étaient bien humains.

Le fantasme du Terminator dépassé par la réalité opérationnelle ?

La Suisse suit une voie plus prudente sans rester au bord du terrain. Le DFAE estime que « l’autonomie ne saurait être illimitée » et veut clarifier non seulement l’existence, mais le type et la qualité du contrôle humain requis. Sa position officielle reste de ne pas acquérir de systèmes entièrement autonomes capables, après activation, de sélectionner et frapper des cibles sans surveillance ou contrôle humain direct.

Dans les faits, Berne développe néanmoins les briques qui rapprochent les armes de cette frontière. La Task Force Drones travaille sur les drones d’attaque, les essaims et l’action contre des cibles terrestres ou aériennes. Le 27 août, le DDPS a fait des drones, de la défense anti-drones et de la robotique une priorité stratégique et annoncé un Centre des systèmes sans équipage réunissant troupe, armasuisse, hautes écoles, start-up et industrie. Dès 2028, un bataillon sera consacré à « l’exploration, l’action et la défense ». Les compétences et les bases légales doivent évoluer en parallèle. La start-up suisse CDDS développe déjà des intercepteurs cinétiques autonomes guidés par IA contre d’autres drones, à l’exemple de l’Octopus ukrainien. L’autonomie totale de munitions rôdeuses contre des objets est d’ailleurs une réalité ancienne, à l’exemple du Harpy israélien, déployé en 1991, qui se cale sur les émissions des radars ennemis pour les détruire sans intervention humaine.

L’alerte de l’ONU et du CICR dépasse donc le fantasme du Terminator, qui déciderait soudain de tuer seul. En attendant, l’autonomie avance fonction après fonction : détection, identification, poursuite, navigation, choix des moyens, guidage terminal, puis éventuellement sélection de la cible elle-même. Et le brouillage lui fournit un puissant argument militaire pour avancer encore.

Si l’IA prépare une frappe à une vitesse et avec une complexité que l’homme ne peut plus reproduire, le dernier clic ne garantit plus à lui seul un véritable contrôle. Un humain dans la boucle n’est une sécurité que s’il conserve le temps, les informations, la liaison et l’autorité nécessaires pour dire à la machine qu’elle se trompe ou lui ordonner de s’arrêter. Les champs de bataille récents ont prouvé que cette frontière était déjà franchie.