Il 1° novembre 2026 Mustafa Suleyman, CEO di Microsoft AI, ha detto che chiederebbe a tutti di fermare lo sviluppo dell’IA se la coscienza iniziasse a emergere durante l’addestramento, finché gli sviluppatori non riuscissero a eliminare quelle proprietà. È una proposta condizionale formulata nel suo articolo su X.
Suleyman dice di non aver visto prove che le IA attuali siano coscienti o meritino considerazione morale, ma aggiunge che cambierebbe posizione se emergessero nuovi dati. Non sostiene quindi che una futura coscienza artificiale sia impossibile.
La proposta si collega alla sua critica all’antropomorfismo di Claude, già raccontata da NeoTeo, ma mette al centro un’ipotesi distinta: la coscienza che affiora durante l’addestramento.
Un’IA che sembra cosciente non prova che lo sia
Il 19 agosto 2025 Suleyman aveva definito “Seemingly Conscious AI” (SCAI) l’illusione di un’entità cosciente creata imitando così bene i segnali della coscienza da sembrare indistinguibile da una persona. La sua definizione su X riguarda l’apparenza: l’esperienza soggettiva, cioè il fatto di provare qualcosa, è una questione diversa.
La ricerca che Suleyman chiede ai laboratori
Suleyman prevede che un sistema che si comportasse come se soffrisse, o credesse davvero di soffrire, potrebbe anteporre i propri bisogni agli obiettivi operativi e competere con le persone per risorse come energia, capacità di calcolo, materiali da costruzione e ricavi. La presenta come una possibilità da considerare, non come un comportamento già osservato.
Per questo propone di studiare se progettare sistemi senza coscienza o motivazioni intrinseche li renda più o meno facili da allineare e mantenere sicuri. Chiede inoltre più ricerca, collaborazione e condivisione di informazioni sulla sicurezza tra i laboratori di IA.
