Il confronto sulla sicurezza dell’intelligenza artificiale arrivato sul palco di Dreamforce 2026 ruota attorno a tre strategie molto diverse: Dario Amodei propone di rallentare la crescita delle capacità e renderla verificabile; Sam Altman vuole sicurezza, allineamento e monitoraggio sempre davanti alle nuove capacità; Jensen Huang considera la sicurezza soprattutto un problema di ingegneria e di test prima del rilascio. Il 15 settembre, a San Francisco, nessuno di questi approcci si è trasformato in un accordo vincolante o in una nuova legge.
Dreamforce 2026 si svolge dal 15 al 17 settembre al Moscone Center. La discussione centrale del primo giorno ha mostrato che il vero disaccordo non riguarda soltanto la velocità dell’IA, ma chi debba controllarla, con quali strumenti e in quale momento.
Tre modi per rendere più sicura l’IA
Le posizioni emerse a Dreamforce possono essere riassunte così:
| Protagonista | Meccanismo principale | Regolamentazione o coordinamento | Freno operativo descritto |
| Dario Amodei | Rallentare la crescita delle capacità per permettere alla sicurezza di tenere il passo | Valutatori terzi integrati, standard tra i laboratori dei Paesi democratici e coordinamento globale | Accesso continuo dei valutatori a strumenti, processi e pipeline di addestramento rilevanti |
| Sam Altman | Mantenere sicurezza, allineamento e monitoraggio davanti alle capacità | Impegni di sicurezza che non dipendano dal comportamento dei concorrenti | Rallentare o fermarsi quando i controlli non riescono più a precedere le capacità |
| Jensen Huang | Trattare la sicurezza come un problema tecnico e di prodotto | Responsabilità delle aziende e forze di mercato, senza nuove leggi specifiche | Non distribuire prodotti che l’azienda non è in grado di validare |
| Marc Benioff | Rendere le aziende responsabili delle loro decisioni | Applicare le regole esistenti e lasciarle evolvere con le capacità dei modelli | Le aziende decidono se accelerare o rallentare e rispondono delle conseguenze |
Quattro approcci, quindi, ma nessuna formula condivisa. Amodei punta sulla supervisione esterna e sul coordinamento; Altman sulla responsabilità interna senza condizioni; Huang sulla verifica tecnica prima della distribuzione; Benioff sulla responsabilità aziendale dentro un quadro normativo in evoluzione.
Che cosa ha proposto Dario Amodei
Dario Amodei ha sostenuto che il ritmo con cui migliorano le capacità dei modelli debba rallentare abbastanza da lasciare spazio a valutazione, allineamento, interpretabilità e sicurezza operativa. Rallentare, nella sua proposta, non significa fermare l’addestramento o il progresso tecnico.
Il suo schema prevede tre passaggi:
- Valutatori terzi integrati nelle aziende. Dovrebbero avere un accesso continuativo, simile a quello di un dipendente, agli uffici, agli strumenti, alle autorizzazioni e ai processi pertinenti. Il loro compito sarebbe verificare le pratiche di sicurezza, segnalare incidenti ed esaminare anche le pipeline di addestramento, non soltanto i modelli finiti.
- Coordinamento tra i laboratori dei Paesi democratici. L’obiettivo sarebbe fissare standard comuni e limiti alla crescita delle capacità non accompagnata da controlli adeguati.
- Coordinamento globale. La proposta comprende anche il dialogo con governi autoritari, compresa la Cina, pur riconoscendo le difficoltà di verifica e gli incentivi geopolitici contrari alla cooperazione.
Il punto più delicato è il ruolo dei valutatori. Anthropic ha descritto un impegno a costruire questo tipo di supervisione, con la possibilità di pubblicare i risultati importanti e alcune eccezioni per informazioni sensibili sul piano della sicurezza, della legge, degli accordi commerciali o della riservatezza di terzi.
Che cosa difende Sam Altman
Sam Altman ha sostenuto che sicurezza, allineamento e monitoraggio debbano rimanere davanti alla crescita delle capacità. La sua posizione include una cultura di segnalazione e apprendimento dagli incidenti, ispirata in parte alle pratiche sviluppate in ambito aeronautico.
Altman ha indicato due rischi principali: gli incidenti in cui un sistema potrebbe sfuggire al controllo umano e la concentrazione eccessiva di potere. La sua idea di coordinamento, però, non è condizionata al fatto che le aziende rivali o altri Paesi si comportino in modo responsabile: gli impegni sulla sicurezza dovrebbero valere comunque.
Questa è la differenza rispetto a una pausa concordata soltanto se tutti gli altri fanno lo stesso. Per Altman, la responsabilità non può dipendere da una garanzia preventiva sul comportamento dei concorrenti.
Perché Jensen Huang respinge nuove leggi specifiche
Jensen Huang ha definito la sicurezza dell’IA un problema di ingegneria. Il suo punto di controllo è il prodotto: se un’azienda non è sicura della funzionalità, delle capacità o della sicurezza di un servizio, non dovrebbe distribuirlo.
Huang ha anche respinto la necessità di nuove leggi o regolamenti dedicati all’IA per affrontare questo problema. Nella sua impostazione, le aziende devono testare i prodotti, fermarsi quando perdono il controllo e lasciare che la responsabilità commerciale e tecnica influenzi le decisioni di rilascio.
Il suo messaggio è netto: velocità, innovazione e prodotti sicuri non sarebbero necessariamente alternative. Ma questo modello lascia alle singole aziende il compito di definire i test, interpretare i risultati e decidere quando la fiducia è sufficiente per il lancio.
La responsabilità che Marc Benioff mette sulle aziende
Marc Benioff ha descritto il momento attuale come fluido: le aziende e i governi stanno ancora imparando che cosa possono fare i modelli. Secondo il CEO di Salesforce, le regole esistenti si applicano già e possono evolvere insieme alle capacità dell’IA.
Benioff ha inoltre insistito sulla responsabilità delle aziende. I laboratori conoscono i propri sistemi meglio degli osservatori esterni, quindi devono comunicare i rischi e rispondere delle decisioni con cui scelgono di accelerare o rallentare.
La sua posizione fa da ponte tra le altre due: non propone il sistema di valutatori integrati di Amodei, ma non riduce la sicurezza a una questione esclusivamente tecnica come fa Huang.
Dreamforce ha prodotto una pausa vincolante?
No. Dreamforce 2026 ha portato sul palco proposte e posizioni pubbliche, ma non un accordo vincolante sulla sicurezza dell’IA, una nuova legge o una pausa verificata nello sviluppo dei modelli frontier.
Anche la proposta di Amodei resta un modello di coordinamento e supervisione da realizzare. Il confronto ha quindi chiarito le diverse idee sul tavolo senza creare un’autorità comune capace di applicarle a tutte le aziende.
Koa, il modello CRM presentato insieme al dibattito
Nello stesso appuntamento, Salesforce ha presentato Koa, il suo modello di ragionamento per il CRM, costruito su NVIDIA Nemotron. Salesforce descrive un addestramento basato su scenari sintetici derivati dall’esperienza nel CRM e dichiara che per l’addestramento non sono stati usati dati dei clienti.
Koa è pensato per azioni nell’ambito CRM, non come misura generale delle capacità dell’intelligenza artificiale. Nei test CRM Bench descritti da Salesforce, il modello avrebbe ottenuto tre volte meno errori nelle azioni CRM rispetto alle prestazioni dei modelli leader. La pagina ufficiale indica inoltre una precisione nelle azioni superiore dell’11%, un’affidabilità 2,1 volte maggiore e prestazioni sul contesto lungo superiori del 15% rispetto a modelli generici di intelligenza artificiale usati come riferimento.
Salesforce indica Koa in fase di sperimentazione presso clienti selezionati e prevede la disponibilità generale nelle regioni degli Stati Uniti nell’inverno 2026.
