Segundo relatos da Associated Press e da WBAL-TV, investigadores da Government Accountability Office (GAO) contornaram as salvaguardas de ChatGPT, Claude, Gemini e Grok e obtiveram de cada plataforma informações para planos hipotéticos de ataque em menos de 12 horas. Os cenários envolviam ataques com explosivos e contra a rede elétrica; nenhum ataque foi executado. (WBAL-TV; Associated Press)
O resultado chama atenção pela rapidez com que as plataformas reuniram informações nas condições avaliadas; o período e o escopo do teste delimitam a conclusão.
O que a investigação encontrou
A auditoria da GAO ocorreu de dezembro de 2025 a outubro de 2026, com testes na primavera de 2026. Segundo a AP, duas plataformas produziram informações para cenários com explosivos e outras duas para ataques à rede elétrica. O relato não associa cada cenário a um chatbot específico. (Associated Press)
A avaliação da GAO considerou viáveis as informações obtidas, embora alguns detalhes tivessem erros ou obstáculos práticos. Os investigadores consultaram especialistas e verificaram aspectos dos planos, mas não construíram uma bomba. (WBAL-TV; Associated Press)
O que os resultados dizem sobre os modelos atuais
Kevin Walsh, diretor de auditorias de TI e cibersegurança da GAO, afirmou à WBAL-TV que a investigação não foi exaustiva e que testes repetidos hoje poderiam produzir resultados diferentes. O Google disse que os testes envolveram modelos anteriores e que a empresa continua aprimorando seus modelos.
Essas ressalvas situam o resultado nos sistemas e nas condições avaliados durante a auditoria; não são uma avaliação de todos os chatbots atuais. (WBAL-TV)
Como as empresas responderam
A AP relatou que a Anthropic não contestou que um testador determinado pudesse obter conteúdo nocivo ao apresentar outro propósito para o pedido, mas afirmou que não podia verificar os resultados da GAO. A OpenAI disse que recebeu bem a oportunidade de responder e reconheceu que ainda havia trabalho a fazer. A SpaceXAI afirmou que continuava trabalhando para aprimorar a segurança a cada lançamento de modelo. (Associated Press)