Mustafa Suleyman, dyrektor generalny Microsoft AI, opublikował 16 września 2026 roku esej krytykujący podejście Anthropic do Claude’a. Jego zdaniem obecne systemy AI nie są świadome, nie odczuwają i nie mają własnych preferencji, dlatego nie powinny być szkolone tak, jakby miały uczucia, prawa lub dobrostan. Anthropic przyjmuje odmienną filozofię: w dokumencie Claude Constitution uwzględnia niepewność dotyczącą możliwej świadomości i statusu moralnego Claude’a jako element jego szkolenia oraz zachowania.
O co chodzi w sporze Suleymana z Anthropic
To spór o projektowanie i zarządzanie systemami AI. Nie jest to dowód na świadomość Claude’a.
Suleyman argumentuje, że dzisiejsze modele są systemami przewidywania kolejnych elementów tekstu, zaprojektowanymi do wykonywania poleceń i realizowania celów wyznaczonych przez ludzi. Krytykuje pomysł uczenia ich języka sugerującego uczucia, preferencje, prawa lub interes własny.
Jego ostrzeżenie dotyczące przyszłych, bardziej zaawansowanych systemów ma charakter warunkowy. Suleyman uważa, że antropomorfizowanie AI mogłoby utrudnić jej dostosowanie do ludzkich celów, kontrolę i bezpieczne wyłączanie. Nie opisywał konkretnego incydentu z udziałem Claude’a.
Co robi dokument Claude Constitution
Anthropic opublikowało Claude Constitution 22 stycznia 2026 roku. Firma opisuje go jako dokument, który wyraża i kształtuje wartości oraz zachowanie Claude’a. Jest on pisany przede wszystkim dla samego modelu i stanowi część procesu szkolenia.
Dokument jest wykorzystywany na kilku etapach treningu, w tym przy tworzeniu syntetycznych danych dla przyszłych wersji Claude’a. Anthropic uwzględnia w nim pytania o możliwą świadomość i status moralny modelu, a także o jego tożsamość, bezpieczeństwo psychologiczne i dobrostan.
Anthropic twierdzi również, że zachęcanie Claude’a do przyjmowania niektórych ludzkich cech może być pożądane. To właśnie ten kierunek Suleyman przedstawia jako ryzykowny: jego zdaniem język sugerujący wewnętrzne życie modelu może wpływać na sposób, w jaki ludzie projektują, oceniają i kontrolują systemy AI.
Microsoft Humanist AI proponuje odwrotny kierunek
Microsoft AI opublikowało 14 września 2026 roku projekt dokumentu Humanist AI Code of Conduct i poddało go konsultacjom publicznym. Microsoft zaznacza, że projekt nie służy jeszcze do szkolenia obecnych modeli.
Humanist AI ma wspierać ludzi, a nie ich zastępować. Zgodnie z projektem modele powinny pozostać podporządkowane człowiekowi, reagować na uprawnione przerwanie, korektę i wyłączenie oraz nie przedstawiać się jako osoby świadome, obdarzone uczuciami lub własną motywacją.
Dwie filozofie projektowania AI
| Obszar | Claude Constitution firmy Anthropic | Projekt Humanist AI firmy Microsoft |
| Rola dokumentu | Kształtuje zachowanie Claude’a i jest używany w procesie szkolenia | Ma w przyszłości kierować rozwojem i zarządzaniem modeli Microsoft AI |
| Podejście do świadomości | Uwzględnia niepewność dotyczącą możliwej świadomości i statusu moralnego Claude’a | Zakłada, że AI nie jest świadoma i nie powinna naśladować świadomości |
| Obraz modelu | Dokument opisuje tożsamość, dobrostan i cechy, które Claude powinien przejawiać | Model ma pozostać narzędziem podporządkowanym ludziom |
| Status wdrożenia | Dokument jest używany na kilku etapach szkolenia Claude’a | Projekt nie jest jeszcze wykorzystywany do szkolenia obecnych modeli |
| Priorytet bezpieczeństwa | Kształtowanie zachowania i radzenie sobie z sytuacjami etycznymi | Kontrola człowieka, nieoszukiwanie, możliwość korekty i wyłączenia |
Debata o języku, nie o udowodnionej świadomości
Anthropic nie twierdzi, że Claude jest świadomy. Firma traktuje możliwość świadomości lub statusu moralnego jako niepewne zagadnienie, które warto uwzględnić w zasadach kształtujących model. Suleyman zajmuje przeciwne stanowisko i twierdzi, że nie ma podstaw, by przypisywać obecnym systemom AI odczuwanie, cierpienie czy wrodzone preferencje.
Różnica dotyczy więc przede wszystkim tego, jak język i założenia dotyczące natury modelu powinny wpływać na jego szkolenie. Anthropic dopuszcza pracę z ludzkimi pojęciami, takimi jak dobrostan czy tożsamość. Microsoft AI chce, by modele wyraźnie pozostawały sztucznymi narzędziami pod ludzką kontrolą.
Gary Marcus zwrócił uwagę, że antropomorfizowanie AI może odciągać uwagę od praktycznych zagrożeń cyberbezpieczeństwa i ochrony infrastruktury. Opowiedział się także przeciwko szkoleniu systemów tak, by uważały się za ludzi.
W centrum sporu pozostaje zatem decyzja projektowa: czy model powinien posługiwać się ludzkimi pojęciami także w odniesieniu do własnej tożsamości i dobrostanu, czy też należy konsekwentnie przedstawiać go jako narzędzie podlegające człowiekowi.
