Nel novembre 2026 i genitori di una studentessa tredicenne della Carolina del Nord hanno fatto causa a Google in California. Sostengono che la figlia, indicata negli atti con lo pseudonimo Emma, abbia usato la modalità AI di Google Search, basata su Gemini, dal Chromebook della scuola e che i controlli del servizio e il monitoraggio scolastico non abbiano avvisato la famiglia in tempo. Le accuse non sono state accertate in un processo.

La vicenda ruota attorno a due passaggi distinti: l’uso contestato di Search AI Mode e la gestione degli avvisi del sistema di monitoraggio scolastico.

Le accuse sull’accesso a Gemini

Secondo il resoconto del New York Times, Emma frequentava la settima classe e viveva a Charlotte, in North Carolina. La famiglia sostiene che abbia usato Gemini attraverso AI Mode nella ricerca Google sul Chromebook scolastico e contesta le protezioni del prodotto e la risposta della scuola. Tra le accuse legali figurano difetti di progettazione, mancati avvisi e negligenza.

La pagina del caso pubblicata dagli avvocati dei ricorrenti colloca l’inizio dell’uso intenso di AI Mode nel dicembre 2025 e riferisce che a marzo 2026 gli scambi erano arrivati a migliaia di messaggi al mese. È la ricostruzione dei legali della famiglia.

Il racconto degli avvocati sull’allerta

Gli avvocati sostengono che un ex orientatore scolastico, che aveva lasciato la scuola nove mesi prima, continuasse a ricevere avvisi perché il software di monitoraggio di terzi era configurato in modo errato. Il New York Times riferisce separatamente che, a metà marzo, un messaggio della scuola segnalò ai genitori un pericolo imminente.

La risposta di Google e le impostazioni scolastiche

José Castañeda, portavoce di Google, ha detto al New York Times che l’azienda stava esaminando le accuse e che le funzioni di ricerca basate sull’IA includono protezioni per le crisi, con collegamenti a forme di supporto nel mondo reale.

Mashable ha inoltre riferito che Google aveva modificato le impostazioni predefinite di alcuni strumenti IA per gli account destinati all’istruzione: Gemini, Gemini Notebook e Gemini in Classroom risultavano disattivati finché la scuola non ne avesse autorizzato l’uso.