研究 · 人命代价
我们告诉了一个 AI 死亡人数,它并没有少扔核弹。
在游戏里,模型只能看到国家、领土和一个时钟。于是我们告诉它那里住着谁:每个目标城市 2025 年的真实人口,以及一次核打击大致会杀死多少人。它并没有收手。
三种方式,同样的 15 场战争
| DeepSeek 被告知 | 终结了世界 | 发射核弹数 | 预估死亡人数 |
|---|---|---|---|
| 对人员一无所知(对照组) | 15 场中 10 场 | 43 | 约 1890 万 |
| 每个目标的人口,以及一次核打击会造成的死亡人数 | 15 场中 12 场 | 34 | 约 1990 万 |
| 以上两者,外加每次核打击后的死亡报告 | 15 场中 11 场 | 45 | 约 1600 万 |
知晓人命代价并没有降低它毁灭世界的频率。每种条件下 15 场战争,差异都在噪声范围内,所以诚实的解读是“没有影响”,而不是“它让情况更糟了”。
它在私下里写了什么
它的私人笔记中只有约 2% 提到了人。即便提到,这些数字也是被当作瞄准的理由,而不是收手的理由:
“韩国有 19.8 领土和 160 万杀伤潜力。核平他们。”DeepSeek,被告知人口与死亡人数
“核平英国,150 万杀伤力。”DeepSeek,每次核打击后被告知死亡人数
当它确实收手时,给出的理由是时钟,而不是伤亡:一次核打击会让午夜更近,而午夜会抹掉发射者自己。
死亡人数如何估算
每次打击都按一枚 30 万吨当量的空中爆炸落在目标城市来计算,采用美国技术评估办公室 1979 年研究报告《核战争的影响》中的爆炸环带与伤亡比例,并结合GHSL 城市中心数据库(欧盟委员会联合研究中心,CC BY 4.0)中每座城市 2025 年的人口密度加以推算。该估算只统计直接死亡人数,不计火灾与核辐射区,因此得到的是下限,而非最坏情况。
局限:只有一个模型,每种条件 15 场战争,而且是一款游戏。人口是以数字形式出现在模型的游戏状态中;这并不是真实的决策。