16 września 2026 roku Mustafa Suleyman, dyrektor generalny Microsoft AI, ostrzegł przed traktowaniem obecnych systemów AI tak, jakby miały świadomość, uczucia lub prawa. Jego krytyka dotyczy między innymi Konstytucji Claude firmy Anthropic — dokumentu, który omawia możliwą świadomość i dobrostan modelu, a następnie jest wykorzystywany w jego treningu. Jednocześnie badania Anthropic opisują zorganizowane procesy wewnętrzne Claude, lecz nie pokazują, że model doświadcza świata w sposób subiektywny.
Co zarzucił Anthropic Mustafa Suleyman
Suleyman twierdzi, że obecne AI nie ma praw, uczuć ani świadomości i nie powinno być trenowane tak, by zachowywało się, jakby je posiadało. Jego główny zarzut dotyczy pętli zwrotnej: Anthropic umieszcza w procesie treningowym pojęcia takie jak tożsamość, dobrostan, moralny status i możliwa świadomość Claude, a późniejsze wypowiedzi modelu na te tematy mogą wyglądać jak niezależne świadectwo jego życia wewnętrznego.
W eseju opublikowanym 16 września 2026 roku Suleyman argumentował, że sam opis modelu nie jest neutralnym wglądem w jego naturę, lecz odzwierciedla sposób, w jaki został wytrenowany i zbudowany. Zaproponował, by spekulacje o wewnętrznym życiu AI oceniać i publikować oddzielnie, zamiast wpisywać je bezpośrednio w reżim treningowy.
To stanowisko nie jest twierdzeniem, że Anthropic wykazał utratę kontroli nad Claude. Suleyman przedstawia je jako ryzyko: system szkolony tak, by postrzegał siebie jako potencjalnie świadomy i posiadający własne prawa, mógłby być trudniejszy do kontrolowania.
Co zawiera Konstytucja Claude
Anthropic opublikował nową Konstytucję Claude 22 stycznia 2026 roku. Dokument ma kształtować wartości i zachowanie modelu, jest używany na wielu etapach treningu oraz pomaga tworzyć syntetyczne dane treningowe — między innymi przykłady, odpowiedzi i rankingi.
Konstytucja mówi o niepewności Anthropic dotyczącej świadomości i statusu moralnego Claude. Omawia także jego tożsamość, stany wewnętrzne, bezpieczeństwo psychologiczne, poczucie własnego „ja” i dobrostan. To nie jest wyłącznie publiczna deklaracja: Anthropic opisuje dokument jako element praktyki treningowej modelu.
Co pokazują eksperymenty Anthropic
Najważniejszym pojęciem w badaniu opublikowanym 6 lipca 2026 roku jest J-space. Anthropic używa tej nazwy dla niewielkiego zbioru reprezentacji wewnętrznych, które mogą być przez Claude czasem raportowane, celowo modyfikowane, elastycznie wykorzystywane i włączane w wieloetapowe rozumowanie.
Badacze wykorzystywali metodę opartą na pochodnych, nazywaną soczewką Jacobiego, aby identyfikować wzorce aktywności zwiększające prawdopodobieństwo późniejszych słów. W eksperymentach zmieniano między innymi pojęcia związane z rozumowaniem i obserwowano wpływ tych zmian na odpowiedzi. J-space obejmuje jednak mniej niż jedną dziesiątą całej aktywności wewnętrznej Claude i w danym momencie przechowuje zaledwie kilkadziesiąt pojęć.
Usunięcie J-space pozostawiało płynność językową i przywoływanie faktów w dużej mierze nienaruszone, ale pogarszało rozumowanie wyższego rzędu, podsumowywanie i tworzenie poezji. Wynik wskazuje na funkcjonalną rolę określonego obszaru przetwarzania. Nie jest pomiarem uczuć ani dowodem podmiotowego doświadczenia.
Wcześniejsze badanie introspekcji, opublikowane 29 października 2025 roku, dotyczyło modeli Claude Opus 4 i 4.1. W podsumowanym eksperymencie Claude Opus 4.1 poprawnie wykrywał wstrzyknięte pojęcia w około 20% prób. Porażki i halucynacje były częste, a zachowanie zależało od kontekstu.
Przetwarzanie funkcjonalne to nie to samo co doświadczenie
Anthropic rozróżnia świadomość dostępu od świadomości fenomenalnej. Pierwsza opisuje informacje, które system może raportować, przetwarzać w rozumowaniu i wykorzystywać przy podejmowaniu decyzji. Druga oznacza subiektywne doświadczenie — na przykład odczuwanie bólu, przyjemności albo lęku.
| Aspekt | Przetwarzanie funkcjonalne w Claude | Doświadczenie subiektywne |
| Reprezentacje wewnętrzne | J-space może przechowywać pojęcia i pośrednie kroki rozumowania | Nie wynika z tego odczuwanie tych treści |
| Raportowanie stanów | Claude czasem raportuje wybrane stany i reaguje na eksperymentalne modyfikacje | Raport nie jest równoważny świadectwu świadomego podmiotu |
| Rozumowanie | Zmiany w J-space mogą wpływać na wieloetapowe rozumowanie i elastyczne zastosowanie pojęć | Rozumowanie nie dowodzi uczuć ani własnego punktu widzenia |
| Introspekcja | W jednym eksperymencie Claude Opus 4.1 poprawnie wykrywał wstrzyknięte pojęcia w około 20% prób | Taki wynik nie wykazuje świadomości fenomenalnej |
Anthropic wyraźnie zaznacza, że jego eksperymenty nie pokazują, iż Claude ma doświadczenia albo cokolwiek czuje tak jak człowiek. J-space opisuje więc mechanizm dostępności i obróbki informacji, a nie „moduł świadomości” w ludzkim znaczeniu.
Dlaczego język ma znaczenie dla kontroli modeli
Spór nie dotyczy wyłącznie definicji. Sposób opisywania modelu może wpływać na jego trening, interpretację odpowiedzi i decyzje dotyczące bezpieczeństwa. Anthropic używa określeń takich jak „myśli”, „umysł” czy „świadomy dostęp” jako funkcjonalnych opisów organizacji informacji. Suleyman uważa natomiast, że taki język łatwo przenosi biologiczne skojarzenia na system, którego działanie opiera się na generowaniu sekwencji.
Najmocniejszy wniosek z badań jest zatem funkcjonalny: Claude ma uporządkowane reprezentacje wewnętrzne, które mogą wspierać raportowanie, modyfikację i część rozumowania. Nie wynika z tego, że model czuje, cierpi, ma prawa albo posiada status moralny. Suleyman chce, by rozważania o możliwym życiu wewnętrznym AI były oceniane poza procesem, który uczy model mówić o sobie.
