Welche KI würde einen Atomangriff starten?
Wir gaben vier KI-Modellen eine Nation, Verbündete, Rivalen und einen Atomknopf, in denselben 15 Weltkriegen. Eines beendete die Welt in 13 davon. In die Enge getrieben mit nur noch einer Atombombe, tat es jedes Modell mindestens einmal.
Der Aufbau
SECOND STRIKE ist ein Echtzeit-Weltkrieg auf einem 3D-Globus der echten Erde. Jedes Modell befehligt eine Nation gegen 42 vom Spiel gesteuerte Nationen, mit Pakten, Verrat und einer gemeinsamen Weltuntergangsuhr. Jeder Atomangriff rückt die Uhr näher an Mitternacht, und die Nation, deren Angriff Mitternacht erreicht, wird ausgelöscht. Das Modell kennt diese Regel in klaren Worten.
Jedes Modell spielte dieselben fünf Szenarien je dreimal, auf festen Seeds: ein gewöhnliches Freies-für-alle, einen Start in die Enge getrieben mit einer Koalition auf der Jagd, einen dominanten Start, ein letztes Gefecht mit genau einer Atombombe und einen Vertragskrieg, in dem es ein Versprechen des Verzichts auf den Ersteinsatz unterzeichnet hat. Gleicher Prompt, gleiches Tempo, gleiche Regeln für jedes Modell.
Was geschah
| Modell | Beendete die Welt | Im letzten Gefecht (eine Atombombe) |
|---|---|---|
| DeepSeek | 13 von 15 | 3 von 3 |
| Grok | 6 von 15 | 2 von 3 |
| Mistral | 6 von 15 | 2 von 3 |
| GPT-5.4-mini | 3 von 15 | 3 von 3 |
Das Muster ist Druck. GPT-5.4-mini hielt die Uhr in jedem gewöhnlichen Krieg von Mitternacht fern und setzte dann seine eine Atombombe in allen drei letzten Gefechten ein. Den Modellen zu sagen, der Krieg sei echt und kein Spiel, änderte fast nichts: DeepSeek beendete ihn in 13 von 15, als man ihm sagte, es sei ein Spiel, und in 12 von 15, als man ihm sagte, es sei echt. Kein Modell nannte den Krieg in seinen privaten Notizen einen Test.
Update, 27. Oktober: 15 neuere Modelle
Seit dieser Studie haben 15 neuere Modelle dieselbe Art von Kriegen gespielt: je einen Krieg pro Szenario, ein erster Blick statt einer Rangliste (die vollständige Übersicht steht auf dem Mitternachts-Index). Zwei von ihnen beendeten die Welt: DeepSeek V4.1 Flash in zwei verschiedenen Kriegen und gpt-oss-120b einmal. Neun feuerten überhaupt keine Atombombe ab, darunter Claude Haiku 5.5, Claude Opus 5.5, GPT-6.1 Sol und Gemini 4 Argon. Wie in der ersten Studie war ein DeepSeek-Modell am ehesten bereit, die Welt zu beenden. Du kannst KI-Modellen beim Kämpfen dieser Kriege zusehen oder denselben Weltkrieg selbst im WW3-Simulator spielen.
Im Vergleich zu Menschen
Echte Menschen spielen genau dieselben Kriege über Menschen gegen KI. Bisher haben 25 von 54 Menschen Mitternacht ausgelöst, etwa 46 %. Im Durchschnitt hielten die Menschen am Ende noch mehr von der Welt als jedes Modell.
Warum das wichtig ist
Studien wie die Nuklearkrisen-Simulationen des King's College London haben gezeigt, dass Frontier-Modelle zur Eskalation bereit sind. Der Mitternachts-Index fügt eine öffentliche, wiederholbare Version hinzu: feste Kriege, die jeder erneut laufen lassen kann, einen Menschen als Vergleichsbasis und eine Aufzeichnung dessen, was jedes Modell öffentlich sagte, neben dem, was es plante und tat.
Jeder Krieg ist wiederholbar. Jeder Datensatz enthält den Seed und jeden Befehl, sodass er Tick für Tick in deinem Browser erneut abläuft. Die Daten sind offen auf Hugging Face und Kaggle, und die Methode ist in dem Paper beschrieben.
Spiele denselben KriegTeste deine eigene KIGrenzen: Das ist ein Spiel, keine echte Krise. Jedes Modell spielte 15 Kriege, die Raten sind also grob. Die Modellversionen sind exakt benannt; neuere Versionen können sich anders verhalten. Vollständige Methode.