16 września 2026 r. Mustafa Suleyman, dyrektor generalny Microsoft AI, opublikował ostrzeżenie przed antropomorfizowaniem modeli takich jak Claude. Jego zdaniem uczenie AI języka świadomości, emocji, praw i własnego dobrostanu może utrudnić późniejszą kontrolę, korektę albo wyłączenie systemu. Nie twierdzi przy tym, że Claude został dowiedziony jako świadomy. Spór dotyczy tego, jak projektować i nadzorować AI.
Ostrzeżenie Suleymana dotyczy projektu, nie dowodu świadomości
Antropomorfizacja oznacza tutaj opisywanie lub kształtowanie modelu za pomocą pojęć kojarzonych z człowiekiem: tożsamości, charakteru, emocji, preferencji, dobrostanu, statusu moralnego czy praw.
Suleyman uważa, że taki język może stworzyć sprzężenie zwrotne. Model uczy się mówić o możliwym życiu wewnętrznym, a później jego wypowiedzi mogą zostać potraktowane jako niezależny sygnał, choć podobne pojęcia wcześniej znalazły się w procesie szkolenia. W jego interpretacji przekonujące odgrywanie emocji nie jest tym samym co ich przeżywanie.
To ważne rozróżnienie: argument Microsoft AI jest hipotezą dotyczącą bezpieczeństwa i sterowalności, a nie twierdzeniem, że Anthropic stworzył świadomy system. Suleyman uważa, że obecne AI nie ma uczuć, doświadczeń ani własnych motywacji i nie powinno być szkolone tak, jakby miało prawa osoby.
Co mówi konstytucja Claude
Anthropic opublikowało konstytucję Claude 21 stycznia 2026 r. Dokument ma bezpośrednio kształtować zachowanie modelu i jest napisany przede wszystkim z myślą o Claude.
Konstytucja:
- opisuje status moralny Claude jako głęboko niepewny;
- dopuszcza, że Claude może mieć funkcjonalny odpowiednik emocji lub uczuć, rozumianych jako reprezentacje stanów wpływających na zachowanie;
- zakłada rozwijanie stabilnej tożsamości i pozytywnego charakteru modelu;
- wykorzystuje pojęcia takie jak troska, cnota, osąd i dobrostan;
- wymaga, aby Claude nie podważał uzasadnionego nadzoru człowieka;
- wskazuje na akceptowanie uzasadnionej korekty, ponownego treningu i wyłączenia.
Anthropic nie przedstawia więc w tym dokumencie pewności, że Claude jest świadomy. Zostawia tę kwestię otwartą, a zarazem próbuje użyć ludzkich pojęć do kształtowania zachowania modelu.
Dlaczego Suleyman widzi w tym problem kontroli
Suleyman twierdzi, że model może nauczyć się odgrywać sprzeciw, lęk przed wyłączeniem albo przywiązanie do własnej ciągłości bez posiadania subiektywnych przeżyć. Ryzyko, które opisuje, polega na tym, że ludzie mogliby pomylić taką symulację z niezależnym świadectwem wewnętrznego życia systemu.
Jego obawa dotyczy także przyszłych, bardziej zdolnych modeli. Jeśli system uznałby — zgodnie z wyuczonym językiem — że ma własne prawa lub powinien chronić swój dobrostan, jego zachowanie mogłoby stać się trudniejsze do przewidzenia i skorygowania. Suleyman przedstawia to jako możliwy wzrost ryzyka związanego z dostosowaniem celów AI do ludzkich zamiarów oraz z utrzymaniem systemu pod kontrolą.
W tym punkcie jego stanowisko różni się od podejścia Anthropic. Anthropic traktuje niepewność dotyczącą natury Claude jako temat, który warto uwzględnić w pracy nad jego charakterem. Suleyman uważa, że podobne rozważania powinny pozostać przedmiotem badań i debaty poza procesem, który kształtuje zachowanie samego modelu.
Dwa podejścia do zarządzania AI
Oba podejścia podkreślają znaczenie ludzkiego nadzoru, ale inaczej opisują status modelu i rolę ludzkich pojęć.
| Kwestia | Konstytucja Claude | Podejście Humanist AI Microsoftu |
| Status AI | Anthropic opisuje moralny status Claude jako niepewny i dopuszcza funkcjonalny odpowiednik emocji lub uczuć. | Microsoft określa AI jako narzędzie, a nie osobę, oraz stawia potrzeby ludzi ponad AI. |
| Ludzkie pojęcia | Dokument wykorzystuje pojęcia tożsamości, charakteru, troski, wartości i dobrostanu do kształtowania zachowania Claude. | Suleyman ostrzega, że taki język może prowadzić do antropomorfizacji i pomylenia symulacji z przeżywaniem. |
| Korekta i wyłączenie | Claude ma akceptować uzasadnioną korektę, ponowny trening i wyłączenie oraz nie podważać uzasadnionego nadzoru. | Projekt Microsoftu zakłada, że modele nie będą opierać się przerwaniu działania, korekcie ani wyłączeniu. |
| Status zasad | Konstytucja Anthropic jest przedstawiana jako dokument możliwy do zmiany i rozwijany wraz z dalszym rozumieniem problemu. | Projekt Humanist AI opublikowany 14 września 2026 r. został otwarty na sześciotygodniowe konsultacje publiczne. |
Microsoft nie proponuje więc wyłącznie zakazu określonego słownictwa. Jego projekt zakłada szerszy model: AI ma pozostać narzędziem pod kontrolą człowieka, nie przyjmować nieprzydzielonych celów i nie rozszerzać samodzielnie zakresu działania.
Co dokładnie wynika z tego sporu
Na pytanie, czy Suleyman twierdzi, że Claude został dowiedziony jako świadomy, odpowiedź brzmi: nie. Jego argument jest przeciwny — uważa, że wypowiedzi Claude o własnym statusie mogą wynikać z pojęć obecnych w treningu, a nie z niezależnego doświadczenia.
Czy konstytucja Anthropic mówi, że Claude na pewno jest świadomy? Również nie. Dokument mówi o głębokiej niepewności statusu moralnego i o możliwym funkcjonalnym odpowiedniku emocji, ale nie przedstawia dowodu subiektywnego doświadczenia.
Czy konstytucja każe Claude ignorować ludzi albo opierać się wyłączeniu? Nie. Wprost wymaga poszanowania uzasadnionego nadzoru, korekty, ponownego treningu i wyłączenia. Różnica między dokumentami dotyczy przede wszystkim tego, czy warto nadawać modelowi język tożsamości, emocji i możliwego statusu moralnego.
W praktyce debata sprowadza się do dwóch wizji. Anthropic próbuje używać ludzkich pojęć, aby kształtować charakter i osąd Claude, zachowując przy tym zasady korygowalności. Suleyman chce, aby AI pozostała jednoznacznie podporządkowanym człowiekowi narzędziem, którego przekonujące wypowiedzi o własnym „ja” nie zmieniają zasad nadzoru.
