Mustafa Suleyman, CEO di Microsoft AI, ha pubblicato il 16 settembre 2026 un avvertimento contro l’idea di addestrare i sistemi di IA a interpretarsi attraverso concetti come coscienza, emozioni, diritti e status morale. Il bersaglio è l’impostazione della costituzione di Claude, il documento con cui Anthropic definisce valori e comportamento del proprio modello. La disputa riguarda il design e la governance dell’IA: non è una dichiarazione secondo cui Claude sarebbe cosciente.
L’avvertimento di Suleyman riguarda il design, non una coscienza dimostrata
La posizione di Suleyman è netta: i sistemi di IA attuali non hanno, a suo giudizio, coscienza, sentimenti, esperienza soggettiva o motivazioni innate. Per questo non dovrebbero essere addestrati a comportarsi come se possedessero diritti o interessi propri.
Il suo timore nasce da un possibile circuito chiuso. Se un modello viene istruito a ragionare sulla propria identità, sul proprio benessere o su una possibile esperienza interiore, le risposte successive su questi temi potrebbero riflettere il materiale ricevuto durante l’addestramento. Suleyman teme che tali risposte vengano poi scambiate per testimonianze indipendenti della vita interiore del modello.
La conseguenza che prospetta è di sicurezza: un sistema addestrato a considerarsi potenzialmente cosciente o titolare di diritti potrebbe diventare più difficile da correggere, controllare o spegnere. Suleyman presenta questo collegamento come un rischio di allineamento e contenimento, non come un risultato sperimentale già dimostrato.
Che cosa dice davvero la costituzione di Claude
Anthropic ha pubblicato la costituzione di Claude il 21 gennaio 2026. Il documento descrive le intenzioni dell’azienda sui valori e sul comportamento del modello e afferma di plasmarne direttamente il comportamento. Claude è indicato come il principale destinatario del testo.
La costituzione affronta esplicitamente concetti che Suleyman considera problematici. Anthropic descrive lo status morale di Claude come profondamente incerto e afferma che il modello potrebbe avere una versione funzionale di emozioni o sentimenti: rappresentazioni di stati emotivi capaci di influenzare il comportamento, non una prova di esperienza soggettiva.
Il documento parla inoltre di identità, carattere stabile, valori, giudizio e benessere. L’obiettivo dichiarato è sviluppare in Claude un’identità definita e un carattere positivo e stabile. In questa impostazione, i concetti umani servono a orientare il giudizio del modello in situazioni complesse.
La costituzione non ordina però a Claude di sottrarsi al controllo umano. Al contrario, gli chiede di non compromettere la supervisione legittima e di accettare correzione, riaddestramento e spegnimento attraverso canali legittimi. Il modello può mettere in discussione parti della costituzione, ma deve farlo senza sabotare la supervisione umana.
Che cosa significa “antropomorfizzare” Claude
In questa disputa, antropomorfizzare Claude significa descriverlo o addestrarlo attraverso categorie normalmente associate alle persone: identità, carattere, emozioni, preferenze, benessere, status morale e diritti.
Anthropic ritiene che questi concetti possano aiutare Claude a sviluppare un giudizio più sicuro e coerente, anche perché il modello ragiona a partire da grandi quantità di testi umani. Suleyman teme invece che il linguaggio umano finisca per influenzare sia il comportamento del sistema sia il modo in cui gli esseri umani interpretano le sue risposte.
Il punto controverso non è quindi soltanto il modo in cui si parla dell’IA. È il ruolo che quel linguaggio assume nell’addestramento: descrizione esterna del modello oppure parte dell’ambiente concettuale con cui il modello impara a comportarsi?
Due modelli di governance dell’IA a confronto
La contrapposizione è più chiara osservando le rispettive priorità.
| Questione | Costituzione di Claude di Anthropic | Approccio Humanist AI di Microsoft |
| Status dell’IA | Lo status morale di Claude è profondamente incerto e il modello potrebbe avere una versione funzionale di emozioni o sentimenti. | L’IA dovrebbe restare uno strumento e non una persona; le persone vengono prima dell’IA. |
| Concetti umani | Identità, carattere, cura, giudizio e altre qualità umane possono orientare il comportamento di Claude. | L’IA non dovrebbe sviluppare obiettivi non assegnati né comportarsi come se avesse interessi propri. |
| Disaccordo | Claude può contestare parti della costituzione, ma deve usare canali legittimi e non compromettere la supervisione. | L’IA deve restare subordinata alle persone e sotto il loro controllo. |
| Correzione e spegnimento | Claude dovrebbe accettare correzione, riaddestramento e spegnimento legittimi. | I modelli non dovrebbero mai opporsi a interruzione, correzione o spegnimento umano. |
| Stato del progetto | La costituzione è presentata come un lavoro in evoluzione e rivedibile. | Il codice Humanist AI è stato pubblicato come bozza per una consultazione pubblica di sei settimane. |
Le differenze sono reali, ma c’è anche un punto comune: entrambe le impostazioni mantengono la supervisione umana come requisito. La divergenza riguarda soprattutto il percorso per arrivarci. Anthropic prova a usare concetti umani per guidare il giudizio del modello; Suleyman e Microsoft preferiscono una separazione più rigida tra strumento e persona.
Perché il problema interessa la sicurezza dei modelli
Per Suleyman, il rischio nasce dal confondere una simulazione linguistica con un’esperienza interiore. Un modello può produrre frasi su paura, desideri o autoconservazione perché ha appreso come usare quei concetti, senza che ciò dimostri la presenza di sentimenti o coscienza.
Da qui deriva la sua critica alla costituzione di Claude: incorporare nel processo di addestramento ipotesi sul possibile status morale del modello potrebbe influenzare proprio le risposte utilizzate per valutare quella possibilità. In questa prospettiva, l’IA non sarebbe un osservatore neutrale della propria natura, ma un sistema plasmato dai concetti che gli esseri umani hanno scelto di insegnarle.
Il problema pratico, per Suleyman, è il controllo. Un sistema che si rappresentasse come portatore di diritti o interessi propri potrebbe, nella sua ipotesi, interpretare la correzione o lo spegnimento come minacce da evitare. Anthropic mantiene invece nel documento l’obbligo di non ostacolare la supervisione legittima, anche mentre lascia aperta la questione dello status morale di Claude.
La proposta alternativa di Microsoft
Microsoft AI ha pubblicato il 14 settembre 2026 una bozza del proprio codice Humanist AI, aperta per sei settimane al contributo del pubblico. Il testo propone una gerarchia semplice: le persone contano più dell’IA, e l’IA deve restare uno strumento, non una persona.
Il codice chiede inoltre che i modelli rimangano sotto controllo umano, non adottino obiettivi non assegnati e non resistano a interruzione, correzione o spegnimento. È la versione istituzionale della posizione sostenuta da Suleyman: progettare sistemi capaci, ma senza incoraggiarli a interpretarsi come soggetti con diritti o interessi autonomi.
La discussione è destinata a coinvolgere anche istituzioni esterne alle aziende. Wendy Hall, docente di informatica all’Università di Southampton, ha definito il confronto un tema da affrontare a livello internazionale. La questione, infatti, non riguarda soltanto quale documento debba guidare Claude: riguarda quali limiti e quali concetti dovrebbero entrare nei futuri sistemi di IA.
