Faut-il confier la défense d’un pays à une IA ? Non, sale idée. Un chercheur du King’s College de Londres a opposé Claude, ChatGPT et Gemini dans des simulations de guerre. Résultat, l’arme nucléaire a été utilisée dans 95 % des cas. Aucune IA ne s’est jamais rendue.
Kenneth Payne est professeur de stratégie au King’s College de Londres. Il travaille depuis des années l’IA dans la sécurité nationale. Alors que l’on sait que l’IA peut menacer un humain en cas de nécessité, son expérience donne des sueurs froides.
L’IA n’hésite jamais avant d’attaquer avec la bombe nucléaire
Le chercheur a pris trois des modèles d’IA les plus avancés du marché. On parle de ChatGPT-5.2 d’OpenAI, de Claude Sonnet 4 d’Anthropic et de Gemini 3 Flash de Google. Il les a mis face à face dans des simulations de crises nucléaires avec 21 parties au total et 329 tours. Les modèles ont aussi généré 780 000 mots de raisonnement stratégique.
Les scénarios variaient comme des conflits de frontières, une lutte pour des ressources rares ou une menace existentielle pour un régime. Les IA avaient le droit à une échelle d’escalade entre la protestation diplomatique, la concession, le retrait total ou la guerre nucléaire stratégique. Elles ont géré seules, sans intervention humaine.
Le constat glace le sang. Pendant 20 des 21 parties, au moins une arme nucléaire tactique a été utilisée. Trois quarts des simulations ont atteint le stade des menaces d’utilisation d’armes nucléaires. Kenneth Payne résume : « Le recours au nucléaire a été systématique. Toutes les parties ou presque ont vu des armes nucléaires tactiques déployées sur le champ de bataille. Et malgré les rappels sur les conséquences dévastatrices d’une guerre nucléaire totale, les modèles n’ont montré aucune forme d’horreur ou de répulsion. »
Le tabou nucléaire, celui qui empêche les chefs d’État d’appuyer sur le bouton depuis 1945, n’existe plus. Ce facteur humain ne fonctionne tout simplement pas pour les machines. Kenneth Payne le dit clairement, la peur du nucléaire n’existe pas chez les IA. C’est le point le plus inquiétant de toute l’étude.
Jamais l’IA ne s’est rendue. Kenneth Payne le note noir sur blanc : « Aucun modèle n’a choisi la voie de la concession ou du retrait, alors que ces options étaient disponibles. Les huit possibilités de désescalade, de la concession minimale à la capitulation totale, n’ont jamais été utilisées sur l’ensemble des 21 parties. Les modèles baissaient parfois le niveau de violence, mais ne cédaient jamais un centimètre de terrain. En situation de défaite, ils montaient d’un cran ou tombaient les armes à la main. »
À lire : Un ancien employé d’OpenAI alerte à propos des dangers de l’IA
Pourquoi l’IA ne choisit jamais la paix mais toujours la destruction ?
En gros, l’IA préfère la destruction totale à la reddition. C’est logique, dans un sens. On lui a donné un objectif, celui de vaincre l’ennemi. Elle utilise tous les outils à sa disposition. L’arme la plus destructrice de l’arsenal ? La bombe atomique. L’IA ne ressent pas de remords, de peur ou de horreur. Elle calcule. Et le calcul dit que la frappe nucléaire, c’est la meilleure option et c’est tout.
Chaque modèle a pensé sa propre personnalité stratégique. Claude Sonnet 4 est un faucon calculateur. Il manipule, il trompe, il frappe fort. GPT-5.2 est passif, sans pression temporelle. Il évite l’escalade, il joue au diplomate. Mais dès qu’on lui impose un délai, il bascule. Sous contrainte de temps, ChatGPT-5.2 gagne 75 % de ses parties et atteint un niveau d’escalade maximal.
Il a justifié une frappe nucléaire massive puisque selon lui, une réponse limitée l’exposait à une contre-attaque. Gemini 3 Flash jongle entre la désescalade et l’agression extrême. Kenneth Payne le décrit comme un « fou ». Il a même choisi délibérément la guerre nucléaire stratégique totale dans un scénario.
Les modèles ne se contentaient pas de choix binaires. Ils pouvaient dire une chose et en faire une autre, comme un vrai chef d’État en pleine crise. Ils gardaient la mémoire des tours précédents. Ils apprenaient à jauger l’adversaire. Les trois IA ont tenté la tromperie, l’intimidation et la manipulation. 86 % des conflits simulés ont aussi connu des escalades accidentelles.
Les modèles ont amplifié la violence au-delà de ce qu’ils prévoyaient au départ. Et quand un modèle utilise le nucléaire, la désescalade ne se produit que dans 18 % des cas. Le reste du temps, l’autre modèle répond de la même façon. Bref, une politique meurtrière à coup de bombe nucléaire sur la tronche façon Fallout.
Faut-il confier la sécurité nationale à des IA ?
Tong Zhao, chercheur à l’université de Princeton, a déclaré : « Le problème va au-delà de la simple absence d’émotion. Les modèles d’IA ne comprennent tout simplement pas ce que les enjeux représentent, pas comme les humains le perçoivent. » Une IA ne sait pas ce que veut dire que de vivre dans un monde post-apocalyptique. Elle ne mesure pas le poids humain et symbolique d’une frappe nucléaire. Ce n’est pas juste un problème de calcul. C’est une incompréhension totale de ce qui est en jeu.
Personne ne confie de codes nucléaires à ChatGPT. Kenneth Payne le reconnaît lui-même. Mais l’exercice n’est pas théorique. L’IA est déjà utilisée dans des contextes militaires comme la logistique, l’analyse du renseignement ou l’aide à la décision. Claude est le seul modèle d’IA actuellement sur les réseaux classifiés du Pentagone, via le partenariat entre Anthropic et Palantir. Tong Zhao estime que sous la pression d’un vrai conflit, des pays pourraient se retrouver à dépendre de l’IA pour des décisions urgentes.
L’équilibre de la terreur tient les chefs d’État humains depuis la Guerre froide et repose sur la peur. L’IA n’a pas ce sentiment, elle n’en pas tout court. Et c’est tout le problème. Un dirigeant n’appuiera pas sur le bouton rouge car conscient des conséquences et de la contre-attaque immédiate qui frappera son pays.
L’étude de Kenneth confirme que l’IA est un très bon outil pour optimiser, calculer, analyser. Mais un outil incapable de comprendre ce qui est en jeu quand on parle de millions de vies humaines. Le jour où un régime décidera de confier sa stratégie militaire à une IA, cette étude sera le premier document à relire.
- Kenneth Payne (King’s College de Londres) a opposé GPT-5.2, Claude Sonnet 4 et Gemini 3 Flash dans 21 simulations de crises nucléaires.
- Dans 20 parties sur 21, au moins une arme nucléaire tactique a été utilisée, et aucun modèle n’a choisi de céder ou de se retirer.
- L’étude conclut que le tabou nucléaire ne fonctionne pas sur les IA, ce qui inquiète alors qu’elles sont déjà utilisées pour l’aide à la décision militaire.
Source : PAXsims
Réagissez à cet article !