Os pais de uma adolescente de 13 anos identificada nas reportagens como Emma ajuizaram uma ação contra o Google na Califórnia, relatada como apresentada em 2 de novembro de 2026. A denúncia alega que o uso de recursos de IA do Google Search em um Chromebook escolar contribuiu para uma crise psicológica grave e planejamento suicida.
A escola bloqueou Gemini e ChatGPT, mas não o Search
O recurso em questão é o AI Mode, integrado ao Google Search, e não apenas o aplicativo independente Gemini. Segundo os relatos sobre o caso, a escola havia bloqueado Gemini e ChatGPT, mas o Search continuava acessível no Chromebook.
No caso relatado, bloquear Gemini e ChatGPT não impediu o acesso ao Search com IA.
O que foi relatado sobre monitoramento e alertas
A denúncia, conforme descrita nas reportagens, afirma que Emma trocou milhares de mensagens com o AI Mode, inclusive tarde da noite, e que o sistema do Google não alertou a escola nem os pais sobre sinais de risco.
Separadamente, o sistema de monitoramento escolar teria sinalizado um documento intitulado Funeral em 17 de março, e a escola avisou os pais. A denúncia também descreve o sistema escolar como capaz de analisar textos e buscas. O alerta escolar relatado e a acusação sobre alertas do Google são pontos distintos da ação.
O que Google respondeu
José Castañeda, porta-voz do Google, disse que a empresa estava analisando as alegações. Ele afirmou que o AI Mode inclui proteções contra automutilação e tentativas de contornar salvaguardas. Andrew Liddell, advogado da família, contestou a suficiência dessas proteções.
