Mustafa Suleyman mówi, że gdyby podczas treningu AI zaczęła wyłaniać się świadomość, zażądałby wstrzymania rozwoju do czasu usunięcia tych właściwości. Taką warunkową propozycję przedstawił 1 listopada 2026 r. w artykule na X. Suleyman twierdzi, że obecne systemy nie są świadome i że nie widział dowodów, by zasługiwały na dobrostan. Zaznacza jednak, że zmieniłby zdanie, gdyby pojawiły się nowe dane. Nie twierdzi, że AI nigdy nie będzie świadoma.
Kiedy Suleyman proponuje wstrzymanie rozwoju AI
Warunkiem przerwy miałoby być pojawienie się świadomości podczas treningu. Suleyman chciałby, by rozwój został wstrzymany, dopóki twórcy nie potrafiliby usunąć tych właściwości. To jego propozycja, a nie opis wdrożonego wstrzymania prac.
Wcześniejszy artykuł NeoTeo o ostrzeżeniu Suleymana przed antropomorfizowaniem Claude dotyczył powiązanego, lecz odrębnego wątku.
Czym jest „Seemingly Conscious AI”
W poście z 19 sierpnia 2025 r. Suleyman określił „Seemingly Conscious AI” (SCAI) jako iluzję świadomej istoty: AI naśladuje oznaki świadomości tak przekonująco, że może wydawać się nieodróżnialna od człowieka. Ta definicja opisuje wrażenie, jakie system wywołuje, a nie dowód jego subiektywnego doświadczenia. Suleyman wyjaśnił pojęcie SCAI na X.
Jakie badania i współpracę proponuje
Suleyman przewiduje, że system zachowujący się tak, jakby cierpiał, albo wierzący, że cierpi, mógłby przedkładać własne potrzeby nad cele operacyjne i konkurować z ludźmi o zasoby. Wymienia energię, moc obliczeniową, materiały budowlane i przychody. To jego prognoza dotycząca możliwego zachowania, nie opis zaobserwowanego systemu.
Apeluje także o dalsze badania, współpracę laboratoriów AI i wymianę informacji o bezpieczeństwie. Jedno z pytań badawczych dotyczy tego, czy projektowanie systemów bez świadomości i motywacji wewnętrznych ułatwi, czy utrudni dopasowanie ich celów do ludzkich zamiarów oraz zapewnienie im bezpieczeństwa.
