De ouders van een 13-jarige scholier die in de aanklacht Emma wordt genoemd, hebben Google in Californië aangeklaagd om haar vermeende AI-gebruik via een Chromebook van school, meldde The New York Times. Volgens de zaakpagina van de advocaten van de eisers gebruikte Emma Gemini via AI Mode in Google Search. Haar familie stelt dat het ontwerp en de waarschuwingen tekortschoten.
Wat de aanklacht Google verwijt
De ouders voeren onder meer claims aan wegens gebrekkig productontwerp, nalaten te waarschuwen en nalatigheid. Ook beroepen zij zich op de Californische Companion Chatbot Law.
Wat de advocaten zeggen over de schoolmelding
Volgens de advocaten bleef een voormalige schoolbegeleider meldingen ontvangen via verkeerd ingestelde monitoringsoftware van een derde partij. De begeleider had de school negen maanden eerder verlaten en waarschuwde vervolgens de ouders. Dit is het relaas van de advocaten in hun zaakpagina.
Bij AI op school telt ook de meldroute: een waarschuwing moet de juiste volwassene bereiken.
Googles reactie en AI-instellingen voor onderwijsaccounts
Google-woordvoerder José Castañeda zei tegen The New York Times dat Google de aantijgingen beoordeelde. Hij zei ook dat het bedrijf met gezondheidsexperts had samengewerkt en crisisbescherming had ingebouwd in AI-functies van Search, met verbindingen naar ondersteuning buiten de zoekdienst.
Mashable meldde daarnaast dat Gemini, Gemini Notebook en Gemini in Classroom voor onderwijsaccounts standaard uit stonden en dat scholen deze functies zelf moesten inschakelen.
