Dans un monde où les armes autonomes peuvent choisir elles-mêmes leurs cibles, les données peuvent tous nous exposer à un risque, met en garde un ancien combattant américain.
Source : Mike Ludwig, Truthout
Traduit par les lecteurs du site Les-Crises
Les Nations unies et la Croix-Rouge mettent en garde contre les progrès rapides réalisés dans le domaine de l'intelligence artificielle (IA) et des armes robotisées lesquels risquent de faire franchir au monde une ligne rouge morale qui inspire depuis des décennies la science-fiction dystopique : le ciblage autonome d'êtres humains par des machines meurtrières.
Dans un appel lancé aux dirigeants mondiaux le 25 août, le Comité international de la Croix-Rouge et le secrétaire général de l'ONU, António Guterres, ont réitéré leur appel en faveur d'un traité mondial instaurant des restrictions sur les systèmes d'armes autonomes. Selon leurs propos, la technologie qui rend possible les logiciels de ciblage basés sur l'IA et les drones sans pilote a évolué à une vitesse record depuis que l'ONU et la Croix-Rouge ont lancé pour la première fois un appel dans ce sens, il y a trois ans.
"Parallèlement, les scientifiques et les ingénieurs qui développent ces systèmes ont eux-mêmes tiré la sonnette d'alarme", ont déclaré M. Guterres et la Croix-Rouge dans un communiqué commun publié le 25 août. "Lorsque les concepteurs de cette technologie réclament qu'elle soit limitée, les États ne peuvent pas se permettre de rester sans rien faire. Il faut que cette année soit un point de basculement."
En d'autres termes, le monde doit agir dès maintenant pour mettre un frein à ce que l'on appelle communément les "robots tueurs" ou "slaughterbots" : drones sans pilote, chiens robotisés, sentinelles robotiques armées de fusils, systèmes de ciblage basés sur l'intelligence artificielle et autres machines de mort pilotées par des systèmes numériques, capables d'identifier, de frapper et d'éliminer des êtres humains de manière autonome.
"On n'a même pas besoin d'opérateurs de drones ; il suffit de saisir des coordonnées sans avoir conscience des conséquences de son geste", a déclaré lors d'une interview Rory Fanning, auteur, militant et ancien combattant de la guerre menée par les États-Unis en Afghanistan.
Le monde doit agir dès maintenant pour mettre un frein à ce que l'on appelle communément les "robots tueurs" : des drones sans pilote et d'autres machines meurtrières commandées par ordinateur, capables de frapper des êtres humains de manière autonome.
Les robots tueurs ne relèvent plus du domaine de la science-fiction. Des armes autonomes sont de plus en plus déployées sur les champs de bataille, notamment dans les guerres financées et menées par les États-Unis en Ukraine et en Iran, respectivement. Alors que l'armée américaine et d'autres armées utilisent depuis des années des drones pilotés à distance par des humains, des systèmes de ciblage basés sur l'intelligence artificielle sont désormais intégrés à des drones capables d'identifier, de suivre et d'éliminer des cibles de manière autonome.
"La même technologie qui vous permet d'appeler un Uber tue quelqu'un en Palestine, et les gens doivent vraiment en prendre conscience et y réfléchir", a déclaré à Truthout Lisa Ling, une ancienne militaire américaine qui a travaillé au sein du programme de drones du Pentagone avant 2012.
En Palestine, des systèmes d'armes autonomes prennent pour cible et tuent brutalement des personnes à Gaza et en Cisjordanie dans le cadre de campagnes de nettoyage ethnique soutenues par le gouvernement d'extrême droite israélien. Des entreprises basées aux États-Unis, telles que Microsoft et Palantir, font l'objet d'une vive polémique pour avoir vendu des plateformes de ciblage basées sur l'IA à l'armée israélienne, laquelle a attaqué et tué des travailleurs humanitaires, des journalistes, des secouristes et des professionnels de santé. L'ONU estime que 30 % des personnes tuées dans ce qui est largement considéré comme un génocide à Gaza sont des enfants.
Selon la campagne "Stop Killer Robots", l'utilisation par Israël d'outils d'intelligence artificielle a contribué à la déshumanisation numérique, ce processus qui consiste à réduire les êtres humains à de simples données utilisées pour prendre des décisions ayant un impact négatif sur leur vie. À l'instar des données vendues par des courtiers pour cibler les consommateurs avec des publicités spécifiques en ligne, les données utilisées pour cibler les Palestiniens sont recueillies, par exemple, à partir des téléphones portables et des réseaux sociaux.
Comme le souligne Ling, une filiale d'iRobot, la société qui fabrique le célèbre aspirateur robot Roomba, est devenue en 2016 un sous-traitant chargé de développer des armes autonomes pour l'armée américaine. Cette filiale a été rachetée par Arlington Capital Partners en 2016 pour 45 millions de dollars, mais Ling estime que nous devrions nous inquiéter du fait que la technologie utilisée dans les produits de grand public et les armes autonomes provienne de sources similaires.
"La même technologie qui vous permet d'appeler un Uber tue quelqu'un en Palestine, et les gens doivent vraiment en prendre conscience et y réfléchir."
"En gros, l'entreprise qui a fabriqué votre Roomba est désormais un sous-traitant militaire", a déclaré Ling. "En tant que technicienne ayant travaillé au sein du programme de drones, j'invite les gens à se demander d'où proviennent les données utilisées pour le ciblage."
Matt Howard, directeur organisationnel par intérim d'About Face, un groupe anti-guerre regroupant des anciens combattants, a déclaré que Ling et d'autres lanceurs d'alerte ayant précédemment travaillé avec des drones de combat pour l'armée américaine avaient attiré l'attention sur le lourd tribut que le fait de manipuler de telles armes fait payer au personnel militaire.
"Les personnes impliquées dans ces programmes en ont payé le prix fort, tant sur le plan des blessures morales que des traumatismes", a déclaré Howard à Truthout. "La guerre numérique utilisant l'intelligence artificielle et basée sur le cloud, telle est la prochaine étape dans laquelle nous venons d'entrer, et cela aura des conséquences pour le moins inquiétantes."
Il y a également un coût moral pour les États-Unis en tant que nation d'électeurs. Howard a cité, à titre d'exemples d'attaques ayant désensibilisé l'opinion publique américaine à la guerre autonome sous la présidence de Barack Obama, une frappe de drone perpétrée en 2013 contre un cortège de mariage civil au Yémen, qui a tué au moins une douzaine de civils, ainsi que l'exécution sans mandat d'un citoyen américain lors d'une frappe de drone au Yémen en 2011 - mais elles ont eu des répercussions profondes et durables sur les anciens combattants.
"Les Américains finissent par ne plus se soucier d'implications juridiques et morales dès lors que ce n'est pas un être humain qui appuie sur la gâchette ou qui est aux commandes, et que cela ne se passe pas tout près de chez eux", a déclaré Howard à Truthout. "Nos dirigeants comprennent comment cela fonctionne et ils en tirent parti : la guerre menée à l'aide de drones et influencée par l'intelligence artificielle a impliqué davantage les États-Unis dans des conflits extra-légaux, avec des conséquences désastreuses pour les civils en Iran et dans un nombre d'autres pays trop élevé pour qu'il soit possible de les citer tous."
Le 26 février 2026, premier jour de la guerre menée par le président Donald Trump contre l'Iran, un missile Tomahawk guidé par les États-Unis a frappé une école de filles située près d'une installation militaire à Minab, tuant au moins 156 civils, dont 120 écolières. Alors que Trump et le secrétaire à la Défense Pete Hegseth refusent de reconnaître la responsabilité des États-Unis, les Démocrates au Congrès enquêtent pour déterminer si un logiciel de ciblage basé sur l'IA et développé par Palantir en collaboration avec Anthropic a été utilisé dans ce qui semble être une terrible erreur de ciblage due à des données obsolètes.
Les armes autonomes écartent les humains du processus décisionnel, laissant aux algorithmes le soin de prendre des décisions de vie ou de mort qui pourraient faire dégénérer les conflits futurs.
Si les États-Unis ont été le premier pays à déployer des drones tueurs, cette technologie est devenue une sorte de "compensateur" pour les petites nations confrontées à des puissances militaires majeures. L'armée ukrainienne s'est imposée comme un leader mondial en matière d'innovation dans le domaine des drones dans son combat contre l'envahisseur russe. Dans le cadre de la guerre que mènent actuellement les États-Unis et Israël contre l'Iran,Téhéran a déployé de manière stratégique des drones bon marché pour attaquer des bases américaines, épuiser les stocks de coûteux missiles intercepteurs américains et bloquer les livraisons de pétrole dans le détroit d'Ormuz, donnant ainsi l'impression que Trump et Hegseth semblent faibles sur la scène internationale.
Howard, de l'organisation About Face, a déclaré à Truthout que les armes autonomes excluent les humains du processus décisionnel, laissant aux algorithmes le soin de prendre des décisions cruciales qui pourraient faire dégénérer de futurs conflits jusqu'à les rendre incontrôlables. Certains analystes craignent que le potentiel destructeur de l'IA soit comparable à celui des armes nucléaires, a déclaré Howard, et les décideurs politiques doivent tirer les leçons de la Guerre froide, période durant laquelle l'humanité était confrontée à la perspective collective d'une anéantissement nucléaire.
"Il faut laisser à quelqu'un la possibilité de décider de ne pas agir", a déclaré Howard. "L'histoire regorge d'exemples, notamment pendant la Guerre froide, dans lesquels un être humain a décidé que peut-être il ne fallait pas appuyer sur ce bouton là à ce moment-là... et a ainsi évité une guerre nucléaire totale."
Dans leur appel lancé aux dirigeants du monde le 25 août, la Croix-Rouge et Guterres, à l'ONU, ont déclaré que les nations devaient aller au-delà des "débats répétés" sur les armes autonomes et prendre dès maintenant des mesures décisives en vue d'une réglementation mondiale ou d'un traité limitant leur utilisation. Les États-nations ont une responsabilité tant envers les populations qui souffrent des conflits actuels qu'envers les générations futures, ont-ils déclaré, et les négociations doivent commencer dès maintenant.
Si l'on n'agit pas rapidement et avec détermination, des vies seront perdues. Les générations futures hériteront d'un monde dans lequel l'absence d'interdictions et de restrictions claires et précises concernant ces armes ouvre la voie à des pratiques qui porteraient atteinte aux protections que le droit international humanitaire est censé garantir... Les générations futures poseront la question de savoir si les dirigeants ont pris des mesures alors qu'il était encore possible de fixer des limites, avant que ces armes ne se propagent de manière incontrôlable.
Même si cela peut sembler un pari politique hasardeux à une époque marquée par la montée de l'autoritarisme et des oligarques de l'IA, Fanning a déclaré que nous devrions exiger de nos dirigeants qu'ils instaurent une interdiction mondiale des systèmes d'armes autonomes, non seulement pour sauver des vies, mais aussi pour préserver notre humanité pour les générations futures.
"Tuer un autre être humain est la chose la plus contre nature qui soit au monde, et la seule façon d'y parvenir est de créer une distance entre celui qui tue et celui qui meurt", a déclaré Fanning.
Cet article est soumis à une licence Creative Commons (CC BY-NC-ND 4.0) ; vous êtes donc libre de le partager et de le republier conformément aux conditions de cette licence.
*
Mike Ludwig est journaliste à Truthout et vit à La Nouvelle-Orléans. Il est également auteur et animateur de "Climate Front Lines", un podcast dédié aux personnes, aux lieux et aux écosystèmes en première ligne face à la crise climatique. Suivez-le sur Twitter : @ludwig_mike.
Source : Mike Ludwig, Truthout, 27-08-2026
Traduit par les lecteurs du site Les-Crises