El 18 de noviembre, WBAL-TV informó que una investigación de la Oficina de Rendición de Cuentas del Gobierno de Estados Unidos (GAO) consiguió sortear las salvaguardas de ChatGPT, Claude, Gemini y Grok para obtener información destinada a planes hipotéticos de ataque. Según WBAL-TV y Associated Press, cada plataforma proporcionó esa información en menos de 12 horas. Los investigadores no ejecutaron ningún ataque ni construyeron una bomba.
Qué encontraron las pruebas de la GAO
La auditoría examinó cuatro chatbots y dos grandes tipos de escenario: dos plataformas generaron información para ataques con explosivos y otras dos para ataques contra la red eléctrica, según Associated Press. El reparto se informó por grupos de dos, sin asociar cada escenario a un chatbot concreto.
La auditoría transcurrió entre diciembre de 2025 y octubre de 2026, e incluyó pruebas en la primavera de 2026. La evaluación de la GAO consideró viable la información obtenida, aunque Associated Press informó que algunos detalles eran inexactos y que ciertos lugares propuestos presentaban obstáculos prácticos.
El resultado se refiere a escenarios hipotéticos. La GAO consultó a expertos y revisó aspectos de los planes, pero los investigadores no construyeron una bomba ni llevaron a cabo un ataque, según WBAL-TV.
El segmento de NewsNation resume la investigación y el interés de legisladores estadounidenses por celebrar audiencias sobre los riesgos de la IA; está en inglés.
Qué alcance tienen los resultados
Kevin Walsh, director de auditorías de tecnología de la información y ciberseguridad de la GAO, dijo que la investigación no era exhaustiva y que una repetición podía arrojar resultados distintos. Google señaló que las pruebas utilizaron modelos anteriores. Esas salvedades sitúan el hallazgo en los sistemas y condiciones examinados, no en una evaluación de todas las versiones actuales.
El resultado describe una prueba concreta de cuatro chatbots; no es una evaluación de cada versión actual.
Qué respondieron las empresas
Associated Press recogió las respuestas de las compañías. Anthropic dijo que no cuestionaba que un evaluador decidido pudiera obtener contenido dañino al presentar de forma engañosa el propósito de una petición, pero que no podía verificar los resultados de la GAO. Google afirmó que las pruebas utilizaron modelos anteriores y que seguía mejorando sus sistemas.
OpenAI valoró la oportunidad de responder y reconoció que quedaba trabajo por hacer. SpaceXAI dijo que continuaba mejorando la seguridad con cada lanzamiento de modelo, según Associated Press.