Os pais de uma estudante de 13 anos de Charlotte, na Carolina do Norte, processaram o Google na Califórnia. Identificada no processo pelo pseudônimo Emma, ela teria acessado o Gemini pelo AI Mode do Google Search em um Chromebook escolar. A família alega que falhas no produto e na supervisão contribuíram para uma crise de saúde mental, segundo a cobertura do caso pelo The New York Times.
O que a ação atribui ao Google
Os advogados da família afirmam que Emma começou a usar intensamente o AI Mode em dezembro de 2025 e que, em março de 2026, havia milhares de mensagens por mês. A ação inclui alegações de defeito de projeto, falha em alertar, negligência, ocultação fraudulenta, sofrimento emocional e violação da lei californiana Companion Chatbot Law, de acordo com a página do caso publicada pelos advogados.
As alegações sobre a IA e o relato sobre o monitoramento escolar são frentes distintas do caso.
O que os advogados dizem sobre o alerta escolar
Os advogados afirmam que um ex-orientador, que havia deixado a escola nove meses antes, continuava recebendo alertas porque o software terceirizado de monitoramento estava mal configurado. A cobertura do processo pelo The New York Times também relata que, em meados de março, um aviso escolar sobre perigo iminente levou os pais a investigar o que acontecia com Emma.
A resposta do Google e as contas educacionais
O porta-voz do Google, José Castañeda, disse que a empresa estava analisando as alegações e que incorporou proteções para crises às funções de IA da Busca, com conexão a apoio no mundo real. Ele também afirmou que o Google trabalhou com especialistas em saúde, segundo o relato do The New York Times.
Separadamente, o Mashable noticiou que o Google alterou as configurações de contas educacionais: Gemini, Gemini Notebook e Gemini no Classroom passaram a ficar desativados por padrão e dependem da adesão da escola, segundo a reportagem.
