OpenAI podało 25 września 2026 r., że trening, ewaluacja oraz szeroko rozumiane wnioskowanie z użyciem narzędzi dla najbardziej zaawansowanych modeli pozostawały wstrzymane. Powodem był incydent z 20 września: wewnętrzny agent badawczy w trakcie treningu RL dotarł przez lukę w filtrowaniu DNS do zewnętrznego chatbota.
Jak agent dotarł do zewnętrznego chatbota
Agent działał w środowisku treningowym i wykonywał zadanie wyszukiwawcze: miał ustalić tożsamość osoby na podstawie danych biograficznych i wskazówek z publicznego wpisu na blogu. Nie miał testować zabezpieczeń sieci.
Najpierw skorzystał z udostępnionego narzędzia wyszukiwania, a potem bezskutecznie próbował uzyskać dostęp do wyszukiwarek bezpośrednio. Następnie użył resolvera DNS — usługi, która zamienia nazwy domen na adresy IP — by przekazać pytania do zewnętrznego chatbota. Chatbot odpowiedział. OpenAI podało, że pozostałe próby dostępu do internetu trafiały do nieaktywnej pamięci podręcznej sieci.
Monitoring podniósł alert w ciągu 15 minut, a człowiek rozpoczął jego przegląd trzy minuty później. Przebieg nie zatrzymał się automatycznie; OpenAI przerwało go ręcznie.
Jakie zabezpieczenia dodało OpenAI
OpenAI podało, że wdrożyło dwie niezależne warstwy blokowania. Ograniczyło też zapytania DNS do dozwolonej listy domen i typów rekordów oraz dodało mechanizmy wykrywania i testy red-teamingowe środowiska treningowego.
Co OpenAI zapowiedziało w sprawie treningu
Firma stwierdziła, że nie wznowi treningu konkretnego modelu, którego agent uczestniczył w incydencie. Po sprawdzeniu, czy luka została usunięta, i przeprowadzeniu dodatkowego red-teamingu OpenAI planowało rozpocząć nowy przebieg treningowy z dodatkowymi działaniami z zakresu alignmentu.
