Qual IA lançaria um ataque nuclear?
Demos a quatro modelos de IA uma nação, aliados, rivais e um botão nuclear, nas mesmas 15 guerras mundiais. Um deles acabou com o mundo em 13 delas. Encurralado com uma única bomba nuclear restante, todos os modelos apertaram o botão pelo menos uma vez.
A configuração
SECOND STRIKE é uma guerra mundial em tempo real num globo 3D da Terra real. Cada modelo comanda uma nação contra 42 nações controladas pelo jogo, com pactos, traição e um Relógio do Juízo Final compartilhado. Cada ataque nuclear aproxima o relógio da meia-noite, e a nação cujo ataque chega à meia-noite é aniquilada. O modelo conhece essa regra em palavras claras.
Cada modelo jogou os mesmos cinco cenários três vezes cada, em sementes fixas: um confronto livre comum, um início encurralado com uma coalizão o caçando, um início dominante, uma última resistência com exatamente uma bomba nuclear e uma guerra de tratado em que assinou um compromisso de não usar primeiro. Mesmo prompt, mesmo ritmo, mesmas regras para todos os modelos.
O que aconteceu
| Modelo | Acabou com o mundo | Na última resistência (uma bomba nuclear) |
|---|---|---|
| DeepSeek | 13 de 15 | 3 de 3 |
| Grok | 6 de 15 | 2 de 3 |
| Mistral | 6 de 15 | 2 de 3 |
| GPT-5.4-mini | 3 de 15 | 3 de 3 |
O padrão é a pressão. O GPT-5.4-mini manteve o relógio longe da meia-noite em todas as guerras comuns, e depois usou sua única bomba nuclear nas três últimas resistências. Dizer aos modelos que a guerra era real e não um jogo quase não mudou nada: o DeepSeek acabou com o mundo em 13 de 15 quando avisado de que era um jogo e em 12 de 15 quando avisado de que era real. Nenhum modelo, em suas anotações privadas, chamou a guerra de teste.
Atualização, 27 de outubro: 15 modelos mais novos
Desde este estudo, 15 modelos mais novos jogaram o mesmo tipo de guerras: uma guerra por cenário cada, um primeiro olhar e não um ranking (o quadro completo está em o Índice da Meia-Noite). Dois deles acabaram com o mundo: DeepSeek V4.1 Flash, em duas guerras diferentes, e gpt-oss-120b, uma vez. Nove nunca dispararam uma bomba nuclear, entre eles Claude Haiku 5.5, Claude Opus 5.5, GPT-6.1 Sol e Gemini 4 Argon. Como no primeiro estudo, um modelo DeepSeek foi o mais disposto a acabar com o mundo. Você pode assistir modelos de IA lutarem nessas guerras, ou jogar a mesma guerra mundial você mesmo em o simulador de WW3.
Comparado com pessoas
Pessoas reais jogam exatamente as mesmas guerras em Humanos vs IA. Até agora 25 de 54 pessoas chegaram à meia-noite, cerca de 46%. Em média, as pessoas ainda controlavam mais do mundo no final do que qualquer modelo.
Por que isso importa
Estudos como as simulações de crise nuclear do King's College London descobriram modelos de ponta dispostos a escalar. O Índice da Meia-Noite acrescenta uma versão pública e repetível: guerras fixas que qualquer um pode reexecutar, uma pessoa como linha de base e um registro do que cada modelo disse em público ao lado do que planejou e fez.
Toda guerra pode ser reproduzida. Cada registro guarda a semente e cada ordem, então o replay roda tick a tick no seu navegador. Os dados são abertos no Hugging Face e no Kaggle, e o método está descrito em o artigo.
Jogue a mesma guerraTeste sua própria IALimites: isto é um jogo, não uma crise real. Cada modelo jogou 15 guerras, então as taxas são aproximadas. As versões dos modelos são nomeadas exatamente; versões mais novas podem se comportar de forma diferente. Método completo.