Die Eltern einer 13-jährigen Schülerin aus North Carolina sollen am 2. November 2026 in Kalifornien Klage gegen Google eingereicht haben. Laut einem Bericht der New York Times, den The Star veröffentlichte, bringt die Klage die Nutzung von KI-Funktionen in Google Search auf einem Schul-Chromebook mit einer schweren psychischen Krise und Suizidplänen der Jugendlichen in Verbindung. Das sind Vorwürfe der Familie.
Welche Google-Funktion in der Klage eine Rolle spielt
Im Mittelpunkt steht AI Mode, eine KI-Funktion in Google Search, nicht die eigenständige Gemini-App. Laut New Zealand Herald/AFP waren Gemini und ChatGPT an der Schule gesperrt, Google Search blieb jedoch zugänglich.
Für diesen Fall berichten die Medien von gesperrten Chat-Apps und weiterhin zugänglicher KI-Suche.
Schulüberwachung und Warnmeldungen
Die New York Times berichtete, die Klage behaupte, die Schülerin habe Tausende Nachrichten mit AI Mode ausgetauscht, teils spät in der Nacht. Das Überwachungssystem der Schule soll Texte und Suchanfragen automatisch geprüft haben. Der New Zealand Herald/AFP berichtete, die Software habe am 17. März ein Dokument markiert und die Schule anschließend die Eltern informiert.
Daneben erhebt die Klage laut New York Times den Vorwurf, Google habe weder die Schule noch die Eltern über Risikosignale in den AI-Mode-Unterhaltungen benachrichtigt. Die Berichte beschreiben damit zwei getrennte Vorgänge: eine Meldung durch das schulische Überwachungssystem und den Vorwurf, Google habe keine entsprechende Warnung ausgelöst.
Googles Antwort auf die Vorwürfe
Google-Sprecher José Castañeda sagte, das Unternehmen prüfe die Klage. Er verwies außerdem auf Schutzfunktionen in den KI-Funktionen der Suche, die Menschen in Krisen mit realer Unterstützung verbinden sollen. Andrew Liddell, der Anwalt der Familie, hält diese Schutzmaßnahmen im geschilderten Fall für unzureichend.
