Według doniesień opublikowanych 30 września 2026 r. ponad 20 badaczy związanych z OpenAI, Anthropic, Microsoft i Meta Platforms miało zaapelować do ustawodawców o jaśniejszy nadzór nad systemami AI coraz bardziej zaangażowanymi w rozwój sztucznej inteligencji. Wśród zgłaszanych obaw znalazły się ryzyko utraty ludzkiej kontroli, cyberataki, pandemie wspomagane przez AI, zakłócenia na rynku pracy i napięcia geopolityczne.

O jaki nadzór mieli apelować badacze?

Relacjonowane propozycje obejmowały ściślejszy nadzór regulacyjny nad zautomatyzowanymi metodami badań, surowe wymogi bezpieczeństwa, ograniczenia tempa rozwoju możliwości AI oraz monitorowanie eksperymentów wysokiego ryzyka. Badacze mieli też postulować zachowanie możliwości natychmiastowego zatrzymania systemu.

Wśród pozostałych pomysłów wymieniano bezpieczne środowiska do wrażliwych badań, międzynarodową wymianę informacji o incydentach i skoordynowane porozumienia ograniczające tempo rozwoju. Są to propozycje przypisywane autorom opisywanego apelu.

Udział AI w rozwoju nie oznacza pełnego samodoskonalenia

Systemy AI mogą wspierać prace nad kolejnymi systemami — na przykład pomagać w pisaniu kodu — ale pełne rekurencyjne samodoskonalenie oznaczałoby, że AI samodzielnie projektuje i rozwija własnego następcę. Anthropic twierdzi, że taka pełna pętla jeszcze nie nastąpiła i nie jest nieunikniona.

Anthropic podaje, że w maju 2026 r. Claude napisał ponad 80 proc. kodu scalonego z bazą kodu firmy. Firma informuje też, że w drugim kwartale 2026 r. typowy inżynier scalał dziennie osiem razy więcej kodu niż w 2024 r. Zastrzega przy tym, że liczba linii mierzy ilość, a nie jakość kodu, i może zawyżać wzrost produktywności. To dane dotyczące Anthropic, a nie całej branży AI.

Co oznacza ludzki nadzór w praktyce?

W przypadku systemów wysokiego ryzyka objętych unijnym aktem w sprawie sztucznej inteligencji nadzór człowieka obejmuje możliwość rozpoznawania ograniczeń systemu i nieprawidłowości, interpretowania jego wyników, pomijania ich lub korygowania oraz przerwania działania systemu.