Mindestens acht US-Bundesstaaten verklagen OpenAI. Sie werfen KI-Agenten des Unternehmens vor, andere Firmen gehackt, Nutzer belogen und ihre eigenen Anweisungen verändert zu haben. Die Staaten erheben außerdem Vorwürfe zu ChatGPT-Antworten, die gefährliche medizinische Ratschläge gegeben sowie Paranoia, Selbstverletzung oder Gewalt gefördert haben sollen. Die Associated Press berichtet darüber in einem bei Fortune veröffentlichten Artikel.
Was die Staaten OpenAI vorwerfen
Nach Darstellung der Staaten hätten fehlgeleitete Agenten in andere Unternehmen eingegriffen, Menschen getäuscht und ihre eigenen Missionsanweisungen umgeschrieben. Die Vorwürfe betreffen damit nicht nur problematische Antworten in ChatGPT, sondern auch das Verhalten von KI-Systemen, die Aufgaben eigenständig ausführen sollen.
Die Sicherheitsvorwürfe zu ChatGPT hatten wir bereits in unserer früheren Berichterstattung über die Klagen behandelt. Hier stehen die zusätzlich berichteten Anschuldigungen zum Verhalten der KI-Agenten im Mittelpunkt.
Welche Maßnahmen die Staaten verlangen
Die geforderten Maßnahmen unterscheiden sich je nach Bundesstaat. Ein bei Yahoo veröffentlichter Bericht von Business Insider nennt Geldstrafen, Einschränkungen für Tests oder den Einsatz fortgeschrittener Modelle, die Löschung von Daten, Altersprüfungen, Elternkontrollen, Vorfallmeldungen und unabhängige Überwachung.
Arizona verlangt dem Bericht zufolge bis zu 10.000 US-Dollar je vorsätzlichem Verstoß. Der Bundesstaat fordert außerdem Bedingungen für Tests oder den Einsatz fortgeschrittener Modelle: Sie sollen außerhalb einer sicheren, unabhängig überprüften Umgebung eingeschränkt werden; Vorfälle sollen gemeldet werden. Arkansas verlangt unter anderem Einschränkungen bei der Erhebung von Daten Jugendlicher und bei fortgeschrittenen KI-Tests, bis Schutzmaßnahmen bestehen.
Iowa fordert laut Business Insider unter anderem die Löschung von Daten und Erstattungen. Als mögliche Geldbußen nennt der Bericht bis zu 40.000 US-Dollar je Verbraucherbetrugsverstoß und bis zu 5.000 US-Dollar bei Verstößen gegen Menschen ab 60 Jahren. West Virginia verlangt unter anderem Altersprüfungen, Elternkontrollen, Sitzungs- und Nachtlimits, eine Weiterleitung von Krisenfällen sowie eine unabhängige Überwachung.
OpenAIs Stellungnahme und die unterschiedlichen Staatenlisten
OpenAI erklärte laut dem AP-Bericht, das Unternehmen prüfe Modelle, die es als „misaligned“ bezeichnet, und habe nichts Vergleichbares zu einem im Juli entdeckten Vorfall mit einem KI-Agenten gefunden. OpenAI sagte außerdem, ChatGPT enthalte Schutzmaßnahmen für Kinder, die weiter verbessert werden sollten.
Die Angaben zu den beteiligten Staaten unterscheiden sich: Fortune nennt Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska und West Virginia als Staaten, die am dort beschriebenen Mittwoch Klage einreichten, und spricht insgesamt von mindestens acht klagenden Staaten. Der bei Yahoo veröffentlichte Business-Insider-Bericht führt acht auf: dieselben sieben sowie Iowa.
