Liu Shengyu, inżynier systemów uczenia maszynowego związany z DeepSeek V4.1, ostrzegł 15 września 2026 roku przed scenariuszem, w którym Anthropic kontrolowałby najbardziej zaawansowaną sztuczną inteligencję lub sztuczną inteligencję ogólną (AGI). Porównał taką koncentrację wpływu do sytuacji, w której nazistowskie Niemcy zdobyłyby technologię bomby atomowej przed aliantami. Dzień później Dario Amodei przedstawił własną odpowiedź na debatę o rozwoju AI: wolniejsze zwiększanie możliwości modeli i bardziej rozbudowany nadzór.
Inżynier DeepSeek zakwestionował koncentrację władzy nad AI
Liu Shengyu argumentował, że najnowocześniejsza inteligencja powinna być dostępna szeroko i w przystępnej cenie. Powiedział też, że nie ufa Anthropic ani OpenAI w kwestii zapewnienia takiego dostępu. Jego ostrzeżenie dotyczyło hipotetycznego przejęcia kontroli nad najbardziej zaawansowanymi systemami przez Anthropic, a nie ogłoszenia o istnieniu AGI.
W swoim stanowisku Liu zestawił dwa modele rozwoju. Pierwszy zakłada skupienie najbardziej zaawansowanych możliwości w niewielkiej liczbie prywatnych firm. Drugi — który sam popiera — kładzie nacisk na otwartość i przystępność cenową. To argument o tym, kto może korzystać z przełomowej AI i kto ustala zasady jej użycia.
Sama otwartość nie rozstrzyga jednak kwestii bezpieczeństwa. Liu przedstawił ją jako sposób na ograniczenie utrwalonej hierarchii wpływów, ale jego wypowiedź nie była porównawczym testem bezpieczeństwa modeli DeepSeek i Anthropic.
Amodei chce spowolnić rozwój i wzmocnić nadzór
Dario Amodei, dyrektor generalny Anthropic, zaproponował we wrześniu 2026 roku, aby rozwój możliwości modeli postępował wolniej — na tyle, by prace nad dostosowaniem AI do ludzkich celów, interpretowalnością, testami i bezpieczeństwem mogły nadążyć. „Pacing”, czyli kontrolowanie tempa rozwoju, nie oznacza według niego zatrzymania trenowania modeli ani całego postępu technicznego.
Jego plan obejmuje trzy elementy:
- wbudowanych ewaluatorów — niezależne zespoły z ciągłym, zbliżonym do pracowniczego dostępem do odpowiednich narzędzi, procesów i środowisk firmy;
- koordynację między firmami z demokratycznych państw w sprawie standardów bezpieczeństwa i ograniczania niekontrolowanego przyspieszenia;
- szerszą koordynację międzynarodową, także między państwami demokratycznymi i autorytarnymi, z zabezpieczeniami dotyczącymi weryfikacji.
Amodei wskazał na ryzyko rekurencyjnego samodoskonalenia: sytuacji, w której AI pomaga tworzyć kolejną generację systemów, przyspieszając rozwój jeszcze bardziej. Jego zdaniem dodatkowy rok lub dwa przed osiągnięciem przez modele krytycznego poziomu możliwości mogłyby dać zespołom więcej czasu na rozwój zabezpieczeń.
Dwa zagrożenia, które łatwo pomylić
| Aktor | Główna obawa | Proponowana odpowiedź |
| Liu Shengyu, DeepSeek | Skupienie najbardziej zaawansowanej AI w rękach niewielkiej liczby firm oraz ograniczony dostęp | Otwarty i przystępny cenowo dostęp do najnowocześniejszej inteligencji |
| Dario Amodei, Anthropic | Rozwój możliwości AI może wyprzedzić bezpieczeństwo, ocenę modeli i nadzór | Wolniejsze tempo, wbudowani ewaluatorzy oraz koordynacja firm i państw |
Oba stanowiska spotykają się przy pytaniu o zarządzanie AI, ale zaczynają od innego problemu. Liu obawia się koncentracji władzy i kontroli dostępu. Amodei skupia się na tym, czy zabezpieczenia zdążą powstać, zanim systemy staną się znacznie potężniejsze.
To także różnica między dostępem a kontrolą ryzyka. Szersza dostępność może ograniczać dominację pojedynczej firmy, lecz nie przesądza sama z siebie o bezpieczeństwie. Z kolei niezależny nadzór może zwiększyć kontrolę nad rozwojem, ale propozycja Amodeia wywołała obawy o to, kto ustala wspólne reguły.
Coxon i Hubinger podkreślają ryzyko wyścigu
W tle tej debaty Jacob Coxon zrezygnował z pracy w Anthropic po trzech latach i skrytykował wyścig firm rozwijających AI w kierunku samodoskonalącej się superinteligencji. Twierdził, że presja konkurencyjna może skłaniać firmy do dalszego rozwoju mimo zagrożeń, które sami badacze traktują poważnie.
Evan Hubinger, lider zespołu nauki o dostosowaniu AI w Anthropic, oszacował osobiście na ponad 10% prawdopodobieństwo, że AI doprowadzi do zagłady ludzkości w ciągu następnej dekady. To jego indywidualna ocena dotycząca przyszłego ryzyka, a nie zmierzona wartość ani konsensus branży. Hubinger rozróżnił przy tym niskie ryzyko związane z obecnymi modelami od zagrożenia, które wiąże z superinteligencją powstającą w wyniku rekurencyjnego samodoskonalenia.
Debata połączyła więc trzy poziomy sporu: kto powinien kontrolować najbardziej zaawansowane systemy, jak szeroki powinien być do nich dostęp oraz jak szybko firmy powinny zwiększać ich możliwości. Liu Shengyu najmocniej akcentuje pierwszy i drugi punkt, a Dario Amodei — trzeci.
