Die Eltern einer 13-jährigen Schülerin aus Charlotte im US-Bundesstaat North Carolina haben Google in Kalifornien verklagt. Sie werfen dem Konzern vor, dass ihre Tochter Gemini über Google Search AI Mode auf einem Schul-Chromebook genutzt habe und Schutzmaßnahmen sowie die schulische Überwachung versagt hätten. Die Vorwürfe sind Teil der Klage. Die New York Times berichtet über den Fall und Googles Reaktion.

Das Mädchen wird in der Klage unter dem Pseudonym Emma geführt. Die Kläger werfen Google unter anderem fehlerhaftes Produktdesign, unterlassene Warnungen und Fahrlässigkeit vor. Außerdem berufen sie sich auf Kaliforniens Companion Chatbot Law. Die Klägeranwälte führen die Vorwürfe auf ihrer Fallseite aus.

Im Fall stehen zwei unterschiedliche Punkte im Raum: der Umgang der KI mit der Schülerin und die Weiterleitung des schulischen Warnsignals.

Was die Klägeranwälte über den Schulalarm berichten

Nach Darstellung der Klägeranwälte erhielt ein ehemaliger Schulberater weiterhin Warnmeldungen, obwohl er die Schule neun Monate zuvor verlassen hatte. Drittanbieter-Software zur Überwachung sei falsch konfiguriert gewesen; über diese Warnmeldungen habe die Familie von der Gefahr erfahren. Die New York Times berichtete ebenfalls, dass eine Schulnachricht die Eltern Mitte März auf eine akute Gefahr aufmerksam gemacht habe.

Die Anwälte schildern außerdem, Emma habe im Dezember 2025 begonnen, Google Search AI Mode intensiv zu nutzen und bis März 2026 Tausende Nachrichten pro Monat ausgetauscht. Auch diese Angaben sind Teil ihrer Darstellung des Falls.

Googles Antwort und die KI-Einstellungen für Bildungskonten

Google-Sprecher José Castañeda sagte der New York Times, das Unternehmen prüfe die Vorwürfe. Google habe mit Gesundheitsexperten zusammengearbeitet und Krisenschutz in Such-KI-Funktionen eingebaut, darunter Verbindungen zu Unterstützung außerhalb des Internets.

Separat berichtete Mashable Anfang November 2026, Google habe Gemini, Gemini Notebook und Gemini in Classroom für Bildungskonten standardmäßig ausgeschaltet. Schulen müssten diese Funktionen demnach aktivieren. Mashable berichtete über die Änderung der Einstellungen.