Satya Nadella zaproponował, by uprawniona osoba mogła wstrzymać lub wyłączyć model AI w trakcie wykonywania zadania. W eseju z 10 października 2026 r. połączył ten „awaryjny hamulec” z zasadą, że uprawnienia do dostępu i działania powinny pozostawać poza samym modelem.
Jak działałby proponowany hamulec?
W koncepcji Nadelli człowiek mógłby przerwać pracę modelu w jej trakcie. Nie chodzi o odłączenie całej sztucznej inteligencji, lecz o możliwość zatrzymania konkretnego modelu wykonującego zadanie.
Zewnętrzne wobec modelu miałyby być również reguły określające, do jakich zasobów system uzyskuje dostęp i jakie działania może podejmować. Nadella postuluje oddzielenie modelu od warstwy orkiestracji, która koordynuje jego pracę, oraz od zakresu dostępnych mu działań.
Uprawnienia, rejestry i testy mają działać niezależnie
Hamulec to jeden z elementów szerszego zestawu zabezpieczeń. Nadella proponuje, by istotne działania modelu pozostawiały czytelne dla człowieka rejestry odporne na manipulacje. Wyników pracy systemu nie powinno się opierać wyłącznie na jego własnym opisie tego, co zrobił.
Zalecenia obejmują też niezależną walidację oraz ciągłe testowanie całego systemu pod kątem błędów, ataków, sytuacji brzegowych i zmian. Nadella postuluje ponadto różnorodność modeli, możliwość ograniczania ich działania i szybkie informowanie osób dotkniętych incydentem o tym, co zawiodło i jak zapobiec powtórce.
Odpowiedzialność ma pozostać po stronie organizacji wdrażającej AI, a nie dostawcy modelu. Nadella wskazuje również, że sama jawność toku rozumowania modelu nie wystarczy: jego wypowiedzi nie zawsze wiernie i przejrzyście odzwierciedlają działanie systemu.
To odrębny temat od wcześniejszego projektu Microsoftu dotyczącego modeli MAI, opisanego przez NeoTeo w tekście o projekcie kodeksu dla tych modeli. Esej Nadelli przedstawia zalecenia dotyczące kontroli zaawansowanych systemów AI.
Założenie ostrożnościowe, nie zarzut złej woli
Nadella proponuje traktować najbardziej zaawansowane modele — zarówno zamknięte, jak i udostępniane z otwartymi wagami — jako potencjalne zagrożenie wewnętrzne. Nie przypisuje im przez to koniecznie złej woli. Podstawą takiego podejścia jest możliwość, że system popełni błąd albo zostanie skompromitowany.
„Zakładać kompromitację” oznacza tu przyjąć ostrożne założenie przy projektowaniu zabezpieczeń, a nie opisywać potwierdzony incydent. Nadella przedstawia awaryjne zatrzymanie jako rekomendację dla organizacji wdrażających AI, nie jako produkt Microsoftu.
