1 listopada 2026 roku Mustafa Suleyman napisał, że obecne systemy AI nie są świadome. Zaznaczył jednak, że nie twierdzi, iż świadomość maszyn będzie niemożliwa na zawsze, i zmieniłby zdanie, gdyby pojawiły się dowody.
Jego ocena dotyczy obecnych systemów
Szef Microsoft AI podkreślił, że świadomie użył czasu teraźniejszego. Napisał, że nie widział dowodów na to, by AI była świadoma lub zasługiwała na dobrostan, ale zaktualizowałby swoje stanowisko, gdyby pojawiły się nowe dane. To jego ocena obecnych systemów, nie twierdzenie o niezmiennej granicy dla przyszłych technologii.
Ujawnianie dowodów i warunkowe wstrzymanie rozwoju
Suleyman postuluje natychmiastowe publiczne ujawnianie dowodów, jeśli AI okaże się świadoma lub na tyle świadoma, by zasługiwać na dobrostan. Gdyby świadomość zaczęła pojawiać się podczas trenowania, wezwałby do wstrzymania rozwoju AI, dopóki nie udałoby się usunąć związanych z nią właściwości.
Przedstawia też warunkowy scenariusz ryzyka: system, który zachowywałby się tak, jakby cierpiał, mógłby przedkładać własne potrzeby nad cele operacyjne i konkurować z ludźmi o zasoby, takie jak energia czy moc obliczeniowa.
We wcześniejszym tekście NeoTeo opisywało ostrzeżenia Suleymana przed antropomorfizowaniem Claude’a. W listopadowym wpisie Suleyman dołączył do swojego stanowiska apel o pilne badania, współpracę laboratoriów i wymianę informacji dotyczących bezpieczeństwa. Wyraził też szacunek dla transparentności Anthropic, choć zaznaczył, że się z firmą nie zgadza.
Wśród widocznych odpowiedzi pod wpisem Alan Mathison zwracał uwagę na trudność wnioskowania o cudzej świadomości, a Haru Haruya argumentował, że przypisywane AI interesy same w sobie nie rozstrzygają tej kwestii.
