Secondo un resoconto del New York Times ripreso da The Star, il 2 novembre 2026 i genitori di una studentessa di 13 anni della Carolina del Nord hanno citato Google in California. La denuncia sostiene che l’IA integrata in Google Search abbia avuto un ruolo nella crisi psicologica della ragazza, indicata con lo pseudonimo Emma, e nella pianificazione del suicidio. La vicenda riguarda AI Mode su un Chromebook scolastico.
Nel caso riportato, bloccare l’app Gemini non ha impedito l’accesso all’IA integrata in Google Search.
La funzione coinvolta era AI Mode in Google Search
Il resoconto del New Zealand Herald, basato su un dispaccio AFP, riferisce che la scuola aveva bloccato le app Gemini e ChatGPT, mentre Google Search restava accessibile. AI Mode è la funzione di intelligenza artificiale integrata nella Ricerca Google: non è l’app Gemini, che è un prodotto separato.
Le segnalazioni della scuola e l’accusa sugli avvisi di Google
Secondo il resoconto del New York Times, la denuncia sostiene che Emma avesse scambiato migliaia di messaggi con AI Mode, anche a tarda notte, e che il sistema di Google non avesse segnalato alla scuola o ai genitori i segnali di rischio. Lo stesso resoconto riferisce che il sistema scolastico analizzava automaticamente scritti e ricerche degli studenti.
Il New Zealand Herald riferisce inoltre che il sistema di monitoraggio scolastico segnalò il 17 marzo un documento intitolato Funeral e che la scuola avvisò i genitori. È un’allerta attribuita al sistema scolastico; la contestazione sugli avvisi riguarda invece Google.
La risposta di Google
Il portavoce di Google José Castañeda ha detto che l’azienda stava esaminando la causa e ha descritto le protezioni per le crisi legate all’autolesionismo integrate nelle funzioni IA di Search. L’avvocato della famiglia, Andrew Liddell, ne contesta la sufficienza.
