Em reportagem publicada em 23 de outubro de 2026, The New Yorker descreveu um processo da Meta em que sistemas automatizados sinalizam possíveis ameaças, uma equipe humana analisa a atividade e, ao identificar passos concretos em direção à violência, pode encaminhar informações às autoridades. A reportagem atribui à empresa cerca de 800 encaminhamentos mundiais em 2025. O total contabiliza encaminhamentos, não ataques evitados.

Da sinalização à análise humana

Segundo a reportagem, os investigadores analisam publicações, compartilhamentos, interações e prompts enviados a chatbots de inteligência artificial. Emily Vacher, responsável pela área de contato da Meta com autoridades policiais, descreveu como critério para encaminhar informações a identificação de medidas concretas, como uma lista de alvos ou um manifesto.

A avaliação humana vem depois do alerta automatizado. O processo relatado, portanto, não se resume a um sistema de inteligência artificial que decide sozinho quando avisar a polícia.

O que significa o número de 2025

Os cerca de 800 encaminhamentos mencionados por The New Yorker foram feitos a autoridades policiais no mundo todo durante 2025. O número registra uma atividade da Meta: enviar casos para análise das autoridades. Ele não informa quantos ataques foram impedidos.

Dois casos relatados nos Estados Unidos

Em 18 de fevereiro de 2025, o FBI procurou Larry Baimbridge, chefe de polícia do distrito escolar Spring Branch ISD, no Texas, para tratar de uma possível ameaça a uma escola. Segundo a reportagem, a equipe da Meta havia fornecido a pista inicial. O caso envolvia dois adolescentes; a reportagem relata que ambos depois se declararam culpados por infrações distintas.

No outono de 2025, a Meta sinalizou uma publicação no Instagram feita por um estudante da Benjamin N. Cardozo High School, em Queens, e enviou informações ao FBI. A agência avisou o Departamento de Polícia de Nova York (NYPD). A polícia encontrou uma pistola carregada na mochila do estudante e o deteve pouco mais de duas horas após a publicação.

Os episódios descrevem encaminhamentos específicos. O número anual de encaminhamentos, por sua vez, não quantifica resultados de prevenção.

Por que a detecção é difícil

Referências codificadas e imagens que mudam podem dificultar a interpretação de sinais por sistemas automatizados de moderação. A reportagem também aborda o risco de encaminhar em excesso expressões mórbidas de jovens, levando-os ao sistema de justiça criminal sem que isso corresponda a uma ameaça credível.

Katherine Keneally, diretora sênior de análise e prevenção de ameaças do Institute for Strategic Dialogue U.S., aponta ainda um problema mais amplo: os sistemas de recomendação das plataformas podem ampliar a circulação de conteúdo violento. Encaminhar casos às autoridades não cobre essa outra parte do papel das plataformas.