Al vertice sull’IA di Dublino del 14 ottobre 2026, Demis Hassabis avverte che gli agenti di IA potrebbero causare incidenti gravi entro uno o due anni se aziende e governi non rafforzano le misure di sicurezza. Il presidente di Google DeepMind giudica non gravi, finora, gli episodi di perdita di controllo osservati, ma li considera segnali d’allarme, secondo il resoconto dell’AFP pubblicato da ABC Color.
La raccomandazione di Hassabis sui test
Hassabis suggerisce di provare i nuovi modelli prima in sandbox offline: ambienti isolati e senza accesso a Internet. L’obiettivo è osservare come si comportano prima di esporli a strumenti o contesti più ampi.
I controlli descritti da Google DeepMind
Nel post del 18 giugno 2026, Google DeepMind descrive la propria AI Control Roadmap, un approccio interno che considera gli agenti potenziali minacce interne e combina misure di sicurezza tradizionali, verifiche dell’allineamento e supervisione. Per “allineamento” si intende la capacità del sistema di seguire gli obiettivi previsti.
Il modello prevede autorizzazioni graduate in base al comportamento verificato e supervisori IA considerati affidabili. Anche il tipo di intervento varia con il rischio: per le azioni reversibili e a basso rischio sono previste verifiche differite delle trascrizioni e correzioni; per quelle particolarmente rischiose, la roadmap indica una prevenzione in tempo reale. Google DeepMind valuta il monitoraggio in base alla copertura, cioè alla quota di attività osservate, al richiamo, ossia alla quota di comportamenti disallineati intercettati, e al tempo di risposta. Google DeepMind illustra la propria roadmap e i relativi controlli.
Per un altro approfondimento sul lavoro di ricerca di Google DeepMind, NeoTeo ha raccontato l’istituto dedicato allo studio dell’AGI e dei suoi rischi.
Che cosa riferisce Google DeepMind sul monitoraggio
Google DeepMind afferma che il suo prototipo ha analizzato 1.000.000 di attività svolte da agenti di programmazione e ha contribuito a sviluppare un monitor in tempo reale per Gemini Spark. L’azienda riferisce inoltre che, nei propri dati, la maggior parte degli eventi segnalati dipendeva da interpretazioni errate o eccesso di zelo, non da intenzioni ostili.
Quali rischi corrono gli agenti di IA?
Un agente IA combina un modello, strumenti con cui può interagire e un ciclo di esecuzione. Nel video in inglese di IBM Technology, Jeff Crume spiega questa architettura e presenta rischi generali come il dirottamento degli obiettivi, gli agenti che agiscono in modo imprevisto e l’avvelenamento della memoria.
