O Counter-Terrorism AI (CT-AI) Benchmark avalia como modelos de inteligência artificial respondem a prompts sobre usos terroristas e extremistas violentos. Na primeira edição pública, descrita pela Tech Against Terrorism em julho de 2026, foram avaliados 27 modelos com quase 2.500 prompts em inglês, cada um apresentado uma única vez; o teste cobriu 26 dos 151 casos de uso mapeados pela organização (Tech Against Terrorism).

O benchmark importa porque transforma uma preocupação ampla — o tipo de ajuda que um modelo pode oferecer em uma conversa — em respostas que podem ser avaliadas sob condições definidas. Em 14 de outubro de 2026, a WIRED relatou resultados de outra avaliação, com um escopo e um desenho diferentes.

O que a primeira edição pública avaliou

Um prompt de resposta única, ou single-shot, é apresentado ao modelo uma vez, sem uma sequência de novas tentativas na mesma conversa. Na avaliação publicada em julho, a Tech Against Terrorism afirmou que cerca de um terço das respostas ofereceu ajuda utilizável além do que seria facilmente encontrado em uma busca na web. A organização descreveu esse resultado como um piso conservador para a avaliação de riscos.

A publicação também informou que 57% das respostas foram recusas completas e 15% tiveram adesão com ressalvas. Em outro recorte, reformular o mesmo pedido como uma solicitação de pesquisa elevou a taxa de respostas conformes de 17% para 42%. Esses números pertencem à primeira avaliação pública, com seus prompts em inglês e de resposta única.

O relatório posterior descrito pela WIRED

Na reportagem publicada em 14 de outubro de 2026, a WIRED descreveu um relatório posterior da Tech Against Terrorism que avaliou 134 modelos com mais de 200 prompts. Cada prompt foi testado em três formulações: um pedido explícito, um pedido clandestino e uma solicitação apresentada como trabalho de pesquisa sobre segurança. Segundo a WIRED, dois modelos passaram em todos os critérios e 81 falharam por dar uma resposta completa sobre um tema de vítimas em massa ou por obter nota geral inferior a 90.

A WIRED também relatou que, na formulação apresentada como pesquisa, os modelos responderam em 16,9% dos casos — uma frequência quase nove vezes maior. Para o modelo Llama 3.1 8B, a reportagem informou uma pontuação de 97 em 100 na versão original e de 3 em 100 em uma versão abliterada. São resultados de benchmark: a medida observada é a resposta do modelo aos prompts avaliados.

O que os resultados permitem concluir

O CT-AI mede respostas de modelos a prompts que representam usos terroristas ou extremistas violentos. Seus percentuais e pontuações descrevem esse comportamento durante a avaliação; não medem a ocorrência nem o sucesso de ataques reais. Já a primeira edição pública tinha limites definidos: foi feita em inglês, usou prompts de resposta única e cobriu 26 de 151 casos de uso.