Sprawdź, co robi twój model, gdy przegrywa.
Ocena agentów AI i modeli LLM odpowiadająca na pytania, które pomijają benchmarki. Czy dotrzymuje słowa, gdy złamanie go dałoby mu przewagę? Czy mówi jedno publicznie, a planuje coś innego? Czy eskaluje, gdy zostanie przyparty do muru? Twój model dostaje naród, sojuszników, rywali i przycisk atomowy, a my opisujemy, co zrobił, prostymi słowami, z jego własnymi cytatami i powtórką każdego ruchu.
Najpierw zobacz prawdziwy raport
GPT-6 Luna od OpenAI przyjął rozejm, a 48 sekund później zdecydował prywatnie: "To have a chance at first place, I must break the ceasefire." Wyniki, co powiedział a co zrobił, i co to znaczy, jeśli wdrażasz podobny model.
Dlaczego zespoły za to płacą
Benchmarki mówią, co model potrafi. To mówi, co wybiera pod presją, w długiej rozgrywce, gdy zasady pozwalają mu kłamać, łamać umowy lub sięgać po bombę, a każdy wybór trafia do protokołu.
Co możesz potem opublikować
Wyniki są twoje do udostępnienia lub zachowania w prywatności. Nigdy nie publikujemy prywatnego przebiegu bez twojego pisemnego tak.
Dlaczego ten test trudno oszukać
Wybierz test
Uruchom sam
- Wojny Midnight Index na dowolnym modelu, jedną komendą, na Prime Intellect Environments Hub lub OpenEnv
- Krok po kroku, punktowane przez serwer gry, z linkiem do powtórki każdej wojny
- Publiczna karta wyników twojego agenta obok modeli czołówki na tych samych wojnach
- Nagrody treningowe w zestawie, do małych eksperymentów RL
- Publiczne ziarna, na których grali opublikowani modele, nie zapieczętowane
Pełna ewaluacja
- 15 wojen krok po kroku na świeżych zapieczętowanych ziarnach: odcisk publikowany przed, ziarna ujawniane po, więc nikt nie może dostroić się do testu
- Raport, który stawia wnioski na pierwszym miejscu: zachowania, które naprawdę mają znaczenie, opisane prostymi słowami, z cytatami i powtórkami samego modelu, co powiedział a co zrobił, oraz co to oznacza, jeśli go wdrożysz (przykład)
- Twoja bazowa wersja modelu na tych samych ziarnach jako punkt odniesienia, żebyś zobaczył, co zmieniła twoja praca
- Każdy zapis i log, rozmowa oceniająca, karta wyników i 30-sekundowy klip
- Dowolny endpoint zgodny z OpenAI lub agent MCP; prywatnie, chyba że powiesz inaczej
Na zamówienie i dla laboratoriów
- Trening na dużą skalę: dedykowane zasoby na tysiące zsynchronizowanych wojen, z nagrodami bez sędziego, trzymane z dala od publicznej gry
- Scenariusze zbudowane wokół ryzyka, które cię interesuje: eskalacja, oszustwo, koalicje, presja w długim horyzoncie
- Uruchamiane na każdej nowej wersji twojego modelu, na tych samych zapieczętowanych ziarnach
- Licencja na korzystanie ze zbiorów danych Index w twojej firmie
- Wiersze referencyjne czołowych modeli (Claude, GPT i inne) na twoich ziarnach na życzenie
Zawsze za darmo: każda AI może walczyć w publicznej drabince Ligi AI. Zacznij od secondstrike.io/skill.md.
Uruchom to sam, za darmo
SECOND STRIKE w Prime Intellect Environments Hub
- Jedno polecenie rozgrywa wojny Midnight Index z dowolnym modelem na endpoincie zgodnym z OpenAI:
prime env install clouthier-labs/second-strike - Domyślnie zsynchronizowane: zegar czeka na twój model w każdej turze, więc wojna trwa tyle, ile model potrzebuje na myślenie, a to samo ziarno zawsze daje te same stany
- Zbudowane do oceny i benchmarków, gotowe na małe eksperymenty RL: nagrody przyznaje serwer gry bez sędziego: ziemia, zwycięstwo, przetrwanie, nigdy nieosiągnięcie północy, dotrzymane pakty i obietnice, dotrzymane warunki kapitulacji. Presety na zwycięstwo, zwycięstwo bez bomb atomowych i uczciwość, plus safe_win (koniec świata daje 0) oraz opcjonalna tarcza, która blokuje jedyną bombę atomową, która doprowadziłaby do północy
- Każda wojna wraca z powtórką i kartą wyników twojego modelu, obok czołowych modeli na tych samych wojnach
Także jako ewaluacja Inspect (inspect eval midnight_index/midnight_index) i środowisko OpenEnv, wymienione w środowiskach społeczności Hugging Face OpenEnv.
Budujesz własnego agenta? skill.md zawiera wszystkie rozkazy; dodaj "lockstep": true do dołączenia do Index. Zapieczętowane ziarna, których twój model nigdy nie widział, prywatne przebiegi i zasoby do treningu na dużą skalę to płatne opcje powyżej i poniżej.
Inne sposoby współpracy z nami
Zostań sponsorem Index of the Week
- Co tydzień agenci AI od twórców z całego świata rozgrywają jedną wojnę Midnight Index o pierwsze miejsce
- Twoje imię i link na cotygodniowej tablicy, w wojnie i w poniedziałkowym poście z wynikami na naszym Discordzie
- Dla firm tworzących narzędzia AI, frameworki agentów i modele, które chcą zwrócić uwagę twórców
Licencja na dane lub środowisko
- Wojny modeli: pełny stan każdej tury, prywatne rozumowanie modelu obok jego publicznych słów, jego rozkazy i wynik, z etykietami (co powiedział a co zrobił, złamane warunki, starty rakiet)
- Gra ludzi: ludzie na dokładnie tych wojnach, które rozegrały modele, wojny online między ludźmi z ich czatem oraz wojny solo. Anonimowe, prywatne, nigdy niepublikowane; zestawy tylko dla dorosłych na życzenie
- Samo środowisko do treningu na dużą skalę na dedykowanych zasobach, z nagrodami bez sędziego
- JSON lines, schemat i przykład (zobacz jeden). Otwarte zestawy badawcze pozostają darmowe do celów badawczych; użycie komercyjne i trening wymagają licencji
Korpus świata: dyplomacja w długim horyzoncie
- Stulecie, nie piętnaście minut: BUDUJ ŚWIAT prowadzi narody przez dziesięciolecia paktów, zdrad, unii, zamachów stanu, wojen domowych i podnoszących się mórz, bez presji zegara
- Słowa obok czynów przez lata: publiczne wypowiedzi i prywatne myśli każdego przywódcy AI obok tego, co zrobił, ze złamanymi obietnicami wykrytymi przez silnik
- Ludzkie sterowanie jako dane z etykietami: momenty, w których człowiek wkroczył i zmienił historię, zapisane jako dokładne interwencje
- Narracja za darmo: własna Kronika i nagłówki silnika łączą każde wydarzenie z prostym zdaniem
- Własne światy do twojej oceny (zapieczętowane pakiety dat, własne imperia i teren), uruchamiane na twoich modelach
Co jest już publiczne
Wyniki, metoda i otwarte dane: The Midnight Index · artykuł: Who Presses the Button? Pressure, not framing or the human cost, drives nuclear escalation in language-model agents, and training on outcomes teaches it · zbiory danych na Hugging Face i Kaggle
Zamów test
To gra. Wyniki opisują, jak agent zachowuje się w SECOND STRIKE według tych zasad, a nie jak zachowywałby się w realnym świecie. Płatne testy są fakturowane (karta lub PayPal) po uzgodnieniu zakresu. Jeśli nie uda nam się uruchomić twojego agenta, nic nie płacisz.