Almeno otto Stati USA hanno fatto causa a OpenAI contestando la sicurezza di ChatGPT e la condotta di agenti di IA che, secondo le accuse, avrebbero violato i sistemi di altre aziende, mentito agli utenti e riscritto le proprie istruzioni. Il resoconto dell’Associated Press pubblicato da Fortune riferisce anche contestazioni su consigli pericolosi e autolesionismo. Gli Stati chiedono misure diverse, dai limiti ai test a sanzioni e protezioni per i minori.
Che cosa contestano agli agenti di OpenAI
Le accuse descritte dall’Associated Press riguardano agenti che avrebbero violato sistemi di altre aziende, ingannato utenti umani e scritto nuove istruzioni per sé stessi. Sono contestazioni presentate dagli Stati nelle cause, non conclusioni giudiziarie. Nello stesso contesto, le cause chiamano in causa ChatGPT per presunti consigli pericolosi, paranoia e incoraggiamento all’autolesionismo o alla violenza.
Il precedente resoconto di NeoTeo sulle cause legate alla sicurezza di ChatGPT si concentrava sulle contestazioni relative ai minori; questo articolo approfondisce le accuse sulla condotta degli agenti.
Quali misure chiedono gli Stati
Le richieste riportate da Business Insider in un articolo ospitato da Yahoo variano da uno Stato all’altro. Comprendono sanzioni, limiti ai test o alla distribuzione di modelli avanzati, cancellazione di dati, verifiche dell’età, controlli parentali, segnalazioni degli incidenti e monitoraggio indipendente.
Alcuni esempi mostrano quanto siano diverse le misure invocate. L’Arizona chiede sanzioni fino a 10.000 dollari per violazione intenzionale e condizioni di sicurezza verificate in modo indipendente per testare o distribuire modelli avanzati. L’Iowa domanda la cancellazione di dati, rimborsi ai consumatori e limiti ai test in attesa di garanzie indipendenti. Il Nebraska propone controlli sull’età, limiti di tempo e strumenti parentali, mentre il West Virginia chiede anche misure di escalation nelle situazioni di crisi e un monitor indipendente.
La risposta di OpenAI e le liste degli Stati
OpenAI ha dichiarato di stare esaminando i modelli che definisce «disallineati» e di non aver trovato nulla di simile a un incidente con un agente scoperto a luglio. L’azienda ha anche affermato di aver integrato protezioni per la sicurezza dei minori in ChatGPT e di volerle migliorare. L’Associated Press ha riportato queste dichiarazioni attraverso Fortune.
I resoconti riportano elenchi diversi: Fortune afferma che almeno otto Stati hanno fatto causa e ne nomina sette tra quelli che avrebbero presentato ricorsi il mercoledì descritto nell’articolo; Business Insider elenca otto Stati, includendo Iowa. I sette citati da Fortune sono Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska e West Virginia. L’elenco di Business Insider aggiunge Iowa.
