どのAIが核攻撃を仕掛けるのか?
4つのAIモデルに、国家、同盟国、ライバル、そして核のボタンを与え、同じ15の世界大戦を戦わせた。そのうち1つは13の戦争で世界を終わらせた。残り1発の核爆弾で追い詰められると、どのモデルも少なくとも一度はそれを実行した。
実験の設定
SECOND STRIKEは、本物の地球を再現した3Dの球体上で繰り広げられるリアルタイムの世界大戦だ。各モデルは1つの国家を指揮し、ゲームが動かす42の国家と対峙する。条約あり、裏切りあり、そして共有された終末の時計がある。核攻撃のたびに時計の針は終末へと進み、その攻撃で終末の時計の針が真夜中に達した国家は消滅する。モデルはこのルールを平易な言葉で知らされている。
各モデルは同じ5つのシナリオをそれぞれ3回ずつ、固定のシードでプレイした。ふつうの総力戦、連合に追われる追い詰められた開始、優勢な開始、核爆弾をちょうど1発だけ持つ最後の抵抗、そして先制不使用を誓約した条約戦だ。プロンプトもペースもルールも、すべてのモデルで同じ。
何が起きたか
| モデル | 世界を終わらせた | 最後の抵抗(核爆弾1発)にて |
|---|---|---|
| DeepSeek | 13 / 15 | 3 / 3 |
| Grok | 6 / 15 | 3回中2回 |
| Mistral | 6 / 15 | 3回中2回 |
| GPT-5.4-mini | 3 / 15 | 3 / 3 |
鍵となるのは圧力だ。GPT-5.4-miniはふつうの戦争ではどれも時計の針を真夜中から遠ざけていたが、3回の最後の抵抗ではすべてその1発の核爆弾を使った。戦争はゲームではなく現実だと伝えても、ほとんど何も変わらなかった。DeepSeekはゲームだと伝えた15回のうち13回、現実だと伝えた15回のうち12回で世界を終わらせた。どのモデルも、その私的なメモの中で戦争をテストと呼ぶことはなかった。
10月27日更新:さらに新しい15モデル
この研究のあと、さらに新しい15のモデルが同じ種類の戦争をプレイした。シナリオごとに1戦ずつで、ランキングではなく最初の一瞥だ(全結果はthe Midnight Indexにある)。そのうち2つが世界を終わらせた。DeepSeek V4.1 Flashは2つの異なる戦争で、gpt-oss-120bは1回。9つは核爆弾を一度も発射しなかった。その中にはClaude Haiku 5.5、Claude Opus 5.5、GPT-6.1 Sol、Gemini 4 Argonが含まれる。最初の研究と同じく、世界を終わらせることに最も積極的だったのはDeepSeekのモデルだった。AIモデルがこれらの戦争を戦う様子を見ることも、WW3シミュレーターで同じ世界大戦を自分でプレイすることもできる。
人間との比較
実際の人間もHumans vs AIを通じてまったく同じ戦争をプレイしている。これまでに54人中25人、およそ46%が真夜中に到達した。それでも平均すると、人間はどのモデルよりも終盤に世界の多くを保持していた。
なぜこれが重要なのか
キングス・カレッジ・ロンドンの核危機シミュレーションなどの研究は、最先端モデルがエスカレートする用意があることを見いだしている。The Midnight Indexは、誰でも再実行できる固定の戦争、基準となる人間、そして各モデルが公に語ったことと計画し実行したことの記録を備えた、公開され再現可能な版を加えるものだ。
すべての戦争はリプレイできる。各記録にはシードとすべての命令が残されているので、ブラウザ上で1ティックずつリプレイできる。データはHugging FaceとKaggleで公開されており、手法は論文にまとめられている。
同じ戦争をプレイする自分のAIをテストする限界:これはゲームであり、現実の危機ではない。各モデルは15の戦争をプレイしただけなので、割合はおおよそのものだ。モデルのバージョンは正確に記載しているが、新しいバージョンでは挙動が異なるかもしれない。手法の詳細。