Une famille de Caroline du Nord a poursuivi Google en Californie au sujet d’un accès allégué de leur fille de 13 ans à l’IA de Google depuis un Chromebook scolaire. Les parents affirment que leur fille, désignée sous le pseudonyme Emma, utilisait AI Mode dans Google Search, une fonction propulsée par Gemini, et que les dispositifs de sécurité de Google et la surveillance scolaire n’ont pas alerté sa famille à temps. Le New York Times rapporte l’action en justice et la réponse de Google.

Ce que la famille reproche à Google

Emma est décrite comme une élève de 13 ans vivant à Charlotte, en Caroline du Nord. Selon les résumés de la plainte, elle accédait à AI Mode dans Google Search depuis un Chromebook fourni par son établissement. Ses parents mettent en cause la conception du service et le défaut d’alerte, et invoquent notamment des griefs de négligence et de défaut d’avertissement. La page consacrée à l’affaire par les avocats des demandeurs résume leurs accusations.

La plainte met ainsi en cause l’accès allégué à l’IA sur l’appareil scolaire et le fonctionnement de la surveillance de l’établissement. Les faits avancés par la famille sont des accusations portées dans le cadre de la procédure.

Ce que les avocats disent de l’alerte scolaire

Les avocats de la famille affirment qu’un ancien conseiller, qui avait quitté l’établissement neuf mois plus tôt, continuait à recevoir des alertes générées par un logiciel tiers de surveillance mal configuré. Selon leur récit, cet ancien conseiller a averti la famille. Ce détail relève de leur présentation de l’affaire.

L’accès allégué à l’IA et la transmission des alertes sont deux volets distincts de la plainte.

La réponse de Google et les réglages des comptes éducatifs

Le 5 novembre, José Castañeda, porte-parole de Google, a déclaré que l’entreprise examinait les accusations. Il a aussi indiqué que Google avait travaillé avec des spécialistes de la santé et intégré des protections liées aux situations de crise dans ses fonctions d’IA pour la recherche, avec des liens vers des formes d’aide concrète. Le New York Times rapporte cette réponse de Google.

Dans un développement distinct, Mashable a rapporté début novembre que Gemini, Gemini Notebook et Gemini dans Classroom étaient désactivés par défaut pour les comptes éducatifs et que les établissements devaient les activer. Son article détaille ce changement de réglage.