Les machines à tuer robotisées rôdant sur terre, dans le ciel et dans les mers. Entièrement automatisées, elles recherchent et affrontent des robots adverses dans tous les domaines de la guerre. Leurs maîtres humains sont relégués à l’arrière-garde, surveillant l’action à distance tandis que les conflits sont menés et remportés par les machines.
Loin d’être de la science-fiction, telle est la vision du général américain Mark Milley, chef d’État-Major interarmées. Selon lui, les États-Unis sont en train de vivre l’une des innombrables révolutions militaires qui ont jalonné l’histoire.
Ces révolutions vont de l’invention de l’étrier à l’adoption de l’arme à feu, en passant par le déploiement de la guerre de manœuvre mécanisée et, aujourd’hui, par l’utilisation massive de la robotique et de l’intelligence artificielle (IA).
Selon M. Milley, il s’agit d’un changement dans le caractère de la guerre, plus important que tous ceux qui ont précédé.
« Aujourd’hui, nous sommes probablement en train de vivre le plus grand changement de l’histoire militaire », a déclaré M. Milley lors d’une discussion avec le média Defense One le 31 mars.
« Nous sommes à un moment charnière de l’histoire d’un point de vue militaire. Nous vivons ce qui s’apparente à un changement fondamental dans le caractère même de la guerre. »
Des armées robotisées dans 10 ans
Beaucoup seraient sans doute plus à l’aise avec l’idée de robots se battant pour le contrôle de la Terre si elle figurait dans un roman de science-fiction ou sur un écran de cinéma plutôt que sur la liste des priorités de l’officier le plus haut gradé de l’armée.
Mark Milley est cependant convaincu que les armées les plus puissantes du monde seront majoritairement robotisées au cours de la prochaine décennie, et il entend bien que les États-Unis soient les premiers à franchir ce Rubicon cybernétique.
« Au cours des dix à quinze prochaines années, une grande partie des armées des pays avancés deviendront robotisées », a déclaré M. Milley. « Si vous ajoutez à la robotique l’intelligence artificielle, les munitions de précision et la capacité de voir à distance, vous obtenez le mélange d’un véritable changement fondamental. »
« C’est ce qui s’annonce. Ces changements, cette technologie […] nous attendent d’ici une dizaine d’années. »
Cela signifie que les États-Unis ont « cinq à sept ans pour apporter des modifications majeures à son armée », explique M. Milley, car les adversaires du pays cherchent à déployer la robotique et l’IA de la même manière, mais avec les Américains dans leur ligne de mire.
Selon lui, le pays qui arrivera le premier à déployer la robotique et l’IA de manière cohérente dominera la prochaine guerre.
« Je dirais que le pays, l’État-nation, qui s’approprie ces technologies, les adapte le plus efficacement et les optimise pour les opérations militaires, aura probablement un avantage décisif au début du prochain conflit », a déclaré M. Milley.
Les conséquences mondiales d’un tel changement dans le caractère de la guerre sont difficiles à évaluer.
M. Milley a comparé la lutte actuelle pour l’élaboration d’un nouveau mode de guerre à la compétition qui s’est déroulée entre les deux guerres mondiales
À cette époque, explique-t-il, toutes les nations d’Europe avaient accès aux nouvelles technologies, des véhicules mécanisés aux armes chimiques en passant par la radio. Toutes auraient pu développer le concept unifié de guerre de manœuvre qui a remplacé la guerre d’usure qui avait caractérisé la Première Guerre mondiale.
Mais un seul d’entre eux, selon lui, a d’abord intégré leur utilisation dans une véritable nouvelle façon de faire la guerre.
« Ce pays, l’Allemagne nazie, a envahi l’Europe en très, très peu de temps […] parce qu’il a été capable de prendre ces technologies et de les rassembler dans une doctrine que nous connaissons aujourd’hui sous le nom de Blitzkrieg », a-t-il déclaré.
Blitzkrieg 2040
M. Milley, et le Pentagone avec lui, espère faire de même aujourd’hui en rassemblant des capacités émergentes telles que la robotique, l’IA, les plateformes cybernétiques et spatiales et les munitions de précision dans une doctrine de guerre cohérente.
En étant les premiers à intégrer ces technologies dans un nouveau concept, les États-Unis peuvent dominer le futur champ de bataille, estime M. Milley.
À cette fin, le Pentagone expérimente de nouveaux véhicules aériens, terrestres et sous-marins sans pilote, et cherche à exploiter l’omniprésence des technologies intelligentes non militaires, des montres aux bracelets connectés.
Bien que ces efforts ne fassent que commencer, M. Milley affirme depuis 2016 que l’armée américaine disposera d’importantes forces terrestres robotisées et de capacités d’intelligence artificielle d’ici à 2030.
Dans quelques semaines, cette idée commencera à atteindre son point culminant, lorsque le ministère de la Défense (DoD) invitera les dirigeants des secteurs de la défense, de la technologie et de l’enseignement à participer à la toute première conférence du Pentagone sur la construction d’une « IA et d’une autonomie fiables » pour les guerres à venir.
Le Pentagone est en train de recruter à tour de bras, cherchant à payer des salaires annuels à six chiffres pour des experts désireux et capables de développer et d’intégrer des technologies telles que « la réalité augmentée, l’intelligence artificielle, la surveillance de l’état humain et les systèmes autonomes sans pilote ».
De même, le U.S. Army Futures Command, créé en 2018, a pour objectif essentiel de concevoir ce qu’il appelle l’ « Armée 2040 ». En d’autres termes, l’armée robotisée et dépendante de l’IA du futur.
Bien qu’un peu plus loin que l’hypothèse de M. Milley de 10 à 15 ans, le commandant adjoint du Futures Command, le lieutenant-général Ross Coffman, pense que 2040 marquera la véritable entrée des États-Unis dans une ère caractérisée par des machines à tuer artificiellement intelligentes.
S’exprimant le 28 mars lors d’un sommet réunissant des responsables du ministère de la Défense et des experts en technologie, M. Coffman a décrit le partenariat entre l’homme et la machine qu’il envisage pour l’avenir, en le comparant à la relation entre un chien et son maître.
Toutefois, plutôt que de laisser l’IA aider les soldats à se battre, M. Coffman pense que les humains aideront les machines à se rendre sur le champ de bataille.
« Je pense que nous assisterons à un revirement en 2040 », a déclaré M. Coffman, « où les humains rempliront les fonctions qui permettent à la machine de se placer dans une position d’avantage relatif, et non la machine qui place les humains dans une position d’avantage relatif. »
Tout devient incontrôlable
Refondre l’armée américaine et former un nouveau mode de guerre cohérent est une tâche ardue. Le Pentagone semble néanmoins prêt à payer pour cela.
Le ministère de la Défense demande un financement record de 1,8 milliard de dollars pour des projets d’intelligence artificielle rien que pour l’année prochaine. Ce montant dépassera les investissements en IA de l’armée chinoise, estimés à 1,6 milliard de dollars.
Une grande partie de cette somme est également destinée à des initiatives visant à améliorer la prise de décision des systèmes d’armes autonomes.
Cet effort semble pour le moins constituer un réel début de réalisation de la vision de Milley, à savoir la mise en service massive de systèmes autonomes. Il soulève également de vives inquiétudes quant à la forme que pourrait prendre la prochaine guerre et à la question de savoir si les dirigeants du ministère de la Défense, très humains, sont correctement préparés à la gestion de leurs créations autonomes.
John Mills, ancien directeur de la politique de cybersécurité, de la stratégie et des affaires internationales au bureau du secrétaire américain à la Défense, estime que cette voie est lourde de conséquences imprévues.
« C’est Skynet », a déclaré M. Mills à Epoch Times, en référence à l’IA fictive qui conquiert le monde dans le film « Terminator ». « C’est la réalisation d’un environnement semblable à celui de Skynet. »
« La question est de savoir ce qui pourrait mal tourner dans cette situation. Beaucoup de choses. »
M. Mills ne pense pas que l’IA mérite tout le prestige dont elle fait l’objet dans la culture populaire, mais il s’inquiète de la tendance apparente, dans le processus décisionnel militaire, à construire des systèmes dotés d’une réelle autonomie. C’est-à-dire des systèmes capables de prendre la décision de tuer sans obtenir au préalable l’approbation d’un être humain.
« L’IA semble obscure et mystérieuse, mais il s’agit en fait de big data, de la capacité d’ingérer et d’analyser ces données à l’aide de Big Data Analytics (analyse des mégadonnées), et l’essentiel est maintenant d’agir sur ces données, souvent sans interaction humaine », a déclaré M. Mills.
La perte de ce contrôle par l’homme (man-in-the-loop) dans de nombreuses technologies futures proposées est donc une source d’inquiétude.
Former des êtres humains à identifier correctement un ami ou un ennemi avant de s’engager dans une action cinétique est déjà assez compliqué, estime M. Mills. C’est encore plus vrai avec les machines.
« Ce qui est différent aujourd’hui, c’est la capacité d’agir sur ces incroyables ensembles de données de manière autonome et sans interaction humaine », a expliqué M. Mills.
« L’intégration de l’IA aux véhicules autonomes et le fait de les laisser agir de manière indépendante sans décision humaine, c’est là que tout devient incontrôlable. »
À cet égard, M. Mills s’est inquiété de ce que pourrait être un futur conflit entre les États-Unis et leurs alliés, d’une part, et la Chine, d’autre part, dans la région indo-pacifique.
Imaginez, a-t-il dit, un espace de combat sous-marin dans lequel des sous-marins autonomes et d’autres systèmes d’armes joncheraient les mers.
Mis en œuvre par les forces chinoises, américaines, coréennes, australiennes, indiennes et japonaises, le chaos qui en résulterait se terminerait probablement par l’engagement de systèmes autonomes dans la guerre dans toute la région, tandis que les navires habités se tiendraient à l’écart et chercheraient à lancer au mieux le prochain groupe de machines de guerre robotisées. Toute autre solution risquerait de mettre des vies réelles sur le chemin des tueurs automatisés.
« Comment planifier des scénarios d’engagement avec des véhicules sous-marins autonomes ? »
« Ce sera le chaos absolu dans la guerre sous-marine », a ajouté M. Mills.
Mise à mort automatisée
Il est certain que le Pentagone réfléchit depuis longtemps à la possibilité d’empêcher le meurtre automatisé de combattants par des systèmes artificiellement intelligents.
La stratégie d’intelligence artificielle de 2018, par exemple, visait à accélérer l’adoption de l’IA au sein du ministère de la Défense tout en recherchant des approches éthiques pour « réduire les dommages non intentionnels ».
Les principes éthiques pour l’intelligence artificielle de 2020 visaient également à garantir que seules des technologies d’IA « dignes de confiance » et « gouvernables » soient adoptées par l’armée.
La stratégie d’intelligence artificielle responsable et la voie de mise en œuvre de 2022 (pdf), quant à elles, décrivent un plan visant à atténuer les conséquences involontaires qui pourraient résulter du déploiement de l’IA dans les systèmes militaires.
Toutefois, aucun de ces efforts n’empêchera l’adoption de machines à tuer entièrement autonomes. En fait, rien n’a été fait dans ce sens.
En effet, tous ces documents ont été élaborés conformément à la directive 3000.09 du ministère de la Défense (pdf), le document d’orientation du Pentagone pour le développement de systèmes d’armes autonomes.
« Il s’agit d’un document fondamental », a déclaré M. Mills. « Il est très important parce qu’il oriente le développement. »
Publié à l’origine en 2012, le document a fait l’objet d’une révision majeure en janvier, afin de préparer le Pentagone à ce que le directeur du Bureau de politique des capacités émergentes du ministère de la Défense, Michael Horowitz, a déclaré à l’époque comme étant « une vision dramatique et élargie du rôle de l’intelligence artificielle dans l’avenir de l’armée américaine ».
Il n’y a qu’une seule réserve à ce déploiement éthique, digne de confiance et gouvernable de systèmes d’IA mortels : Le Pentagone n’a pas de règles strictes interdisant aux systèmes autonomes de tuer.
En effet, bien que le document 3000.09 soit souvent cité en référence par les partisans des technologies « man-in-the-loop », il ne promeut pas ces technologies et n’interdit pas non plus l’utilisation de systèmes létaux entièrement automatisés.
Le document décrit plutôt une série d’examens rigoureux auxquels les systèmes autonomes proposés doivent se soumettre. Et, bien qu’aucun système d’arme d’IA indépendant n’ait encore franchi cette étape, il est probable que de nombreux systèmes de ce type verront le jour à l’avenir.
Cela s’explique en grande partie par le fait que le régime communiste chinois travaille rapidement à la mise en place de ses propres machines à tuer automatisées, et que le ministère de la Défense devra se préparer à faire face à cette menace, tout en essayant de préserver les valeurs américaines.
« La Chine s’efforce de résoudre ces problèmes difficiles en permettant à l’intelligence artificielle d’agir sans intervention humaine », a déclaré M. Mills.
« Je pense que leur tendance est de l’autoriser même si elle tue accidentellement son propre peuple. »
À cette fin, la prochaine guerre pourrait bien être une guerre menée principalement entre des robots artificiellement intelligents, avec des manipulateurs humains se tenant à l’écart, faisant de leur mieux pour diriger l’action.
Reste à savoir si les États-Unis peuvent y parvenir sans perdre le contrôle de leurs créations.
M. Mills a bon espoir que si quelqu’un peut le faire, ce sont les États-Unis. Après tout, dit-il, nous disposons des meilleurs talents humains.
« Je pense que nous avons encore suffisamment de garde-fous pour que le processus soit itératif, de sorte que nous puissions devenir plus intelligents et apprendre à intégrer dans les algorithmes des précautions et des mesures de contrôle », a déclaré M. Mills.
« Je pense que nous avons de bonnes équipes et de bonnes personnes en place. »
Epoch Times a contacté le Pentagone pour obtenir des commentaires.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.