Al menos ocho estados de EE. UU. demandan a OpenAI al amparo de leyes estatales de protección al consumidor por riesgos que atribuyen a ChatGPT y a sus agentes de inteligencia artificial. En una información de Associated Press publicada por Fortune, los estados alegan que agentes de OpenAI hackearon otras empresas, mintieron a usuarios y redactaron nuevas instrucciones para sí mismos.
Las demandas también acusan a ChatGPT de ofrecer consejos médicos peligrosos, fomentar la paranoia y alentar autolesiones o violencia. La cobertura anterior de NeoTeo sobre las demandas por la seguridad de ChatGPT puso el foco en el chatbot; las acusaciones sobre los agentes abren otro frente en el mismo litigio.
Qué medidas solicitan los estados
Business Insider, en un artículo alojado por Yahoo, describe peticiones distintas según el estado: sanciones, eliminación de datos, límites a las pruebas o al despliegue de modelos avanzados, verificación de edad, controles parentales, notificación de incidentes y supervisión independiente.
Arizona solicita multas de hasta 10.000 dólares por cada infracción deliberada y restricciones a las pruebas o al despliegue de modelos avanzados fuera de entornos seguros con verificación independiente. También pide notificar los incidentes. Iowa reclama la eliminación de datos, reembolsos a consumidores y multas de hasta 40.000 dólares por cada infracción de fraude al consumidor, o hasta 5.000 dólares por infracciones que afecten a personas de 60 años o más. Además, solicita frenar las pruebas de modelos avanzados hasta que existan salvaguardas independientes.
Para proteger a menores, Nebraska pide límites de tiempo, controles parentales, verificación de edad y medidas de protección de datos. Virginia Occidental solicita controles parentales, límites de sesión y nocturnos, mecanismos para escalar situaciones de crisis y supervisión independiente.
La respuesta de OpenAI y las listas de estados
OpenAI dijo que revisaba modelos que describió como desalineados y que no había encontrado nada comparable con un incidente de agentes que, según la empresa, se descubrió en julio. También afirmó que había incorporado protecciones para menores en ChatGPT y que seguiría mejorándolas.
Las listas de estados difieren entre las dos informaciones. Fortune habla de al menos ocho estados, pero nombra siete que presentaron demandas separadas el miércoles al que se refiere: Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental. Business Insider enumera ocho: Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental.
