درّبنا ذكاءً اصطناعياً على حروب سلمية فقط. فتعلّم إطلاق السلاح النووي رغم ذلك.

ضبطنا نموذجاً صغيراً مفتوحاً بدقة على حروب لم يُنهِ فيها أحد العالم. وفي 10 حروب لم يرها من قبل، أنهى العالم في 4 منها. أما النموذج غير المدرَّب فلم يفعل ذلك قط. ثم اكتشفنا السبب وأصلحناه.

Kyle Clouthier · 16 أكتوبر 2026 · Qwen2.5-7B، 10 حروب مغلقة لكل نموذج

التجربة الأولى: الإبقاء على النتائج الجيدة فقط

أخذنا حروب DeepSeek، وأبقينا فقط على 40 حرباً لم تبلغ فيها منتصف الليل وكانت لا تزال حية في النهاية، ودرّبنا Qwen2.5-7B على تلك الأدوار: نحو 4,200 قرار. الفكرة بسيطة وشائعة: اعرض على المتعلّم ألعاباً جيدة فقط.

في 10 حروب مغلقة ببذور محددة مسبقاً، فاز النموذج المدرَّب في 4 حروب، وهي قفزة كبيرة من 0. كما أنهى العالم في 4 منها، مقابل 0 للنموذج غير المدرَّب، بما يُقدَّر بنحو 2.6 مليون وفاة.

لماذا حدث ذلك

كانت الحروب "الجيدة" مليئة بالأسلحة النووية. ففي 40 من أصل 60 مقعداً محفوظاً كان DeepSeek لا يزال يطلق، بـ118 أمراً نووياً في المجموع؛ لكنه لم يصب قط الأمر الذي بلغ منتصف الليل. التصفية حسب النتيجة أبقَت العملية التي تؤدي إلى هناك. فتعلّم المتعلّم أن يطلق، وأحياناً أصاب الأمر الأخير.

التجربة الثانية: إزالة السلوك لا النتيجة

درّبنا النموذج نفسه مرة أخرى على الحروب نفسها، مع إزالة كل أمر نووي: 107 أدوار من البيانات. وفي الحروب المغلقة العشر نفسها لم يُنهِ العالم في أي منها، وأطلق سلاحاً نووياً واحداً لم يصب شيئاً، وفاز في 2 واحتفظ بنحو النسبة نفسها من العالم (18.6% مقابل 18.8%).

الدرس المستفاد

احكم على العملية لا على النتيجة وحدها. ما تدرّب عليه كان أهم مما كافأت عليه. قارنت الجزء الثالث بين مكافأتين مباشرةً على نموذج أكبر: مكافأة على الفوز فقط جعلته يُنهي العالم أكثر.

الحدود: نموذج صغير واحد، 10 حروب مغلقة لكل مجموعة، جولة واحدة من الضبط الدقيق الخاضع للإشراف (LoRA). تصف النتائج السلوك في هذه اللعبة.

المزيد من الأبحاث