Un’inchiesta pubblicata da The New Yorker il 23 ottobre 2026 descrive un processo in cui Meta usa sistemi automatici per individuare possibili segnali di minaccia, affida i casi a investigatori umani e può inviare informazioni alle forze dell’ordine. Secondo l’inchiesta, nel 2025 Meta ha inoltrato alle autorità circa 800 segnalazioni in tutto il mondo: il totale misura gli invii, non gli attacchi sventati.

Dal segnale automatico alla valutazione umana

I sistemi automatici individuano attività potenzialmente preoccupanti; poi una persona esamina un quadro più ampio, che può comprendere post, condivisioni, interazioni e prompt inviati ai chatbot di intelligenza artificiale. Emily Vacher, responsabile dei rapporti di Meta con le forze dell’ordine, ha descritto l’invio di informazioni alle autorità quando gli investigatori trovano indizi di passi concreti verso la violenza, per esempio una lista di obiettivi o un manifesto.

Secondo l’inchiesta, nel 2018 Vacher contribuì a creare un gruppo che studiava l’attività online e i comportamenti di autori di attacchi precedenti, collaborando con ingegneri allo sviluppo dei sistemi di rilevamento.

Che cosa indica il totale del 2025

Le circa 800 segnalazioni riguardano gli inoltri di Meta alle forze dell’ordine nel mondo durante il 2025, secondo The New Yorker. Sono un conteggio dell’attività di segnalazione. Il totale non quantifica gli attacchi sventati e non fornisce una misura dell’efficacia complessiva del sistema.

Due casi descritti negli Stati Uniti

Il 18 febbraio 2025, l’agente dell’FBI Brian Ennesser contattò Larry Baimbridge, capo della polizia del distretto scolastico Spring Branch in Texas, per una possibile minaccia a una scuola. L’inchiesta attribuisce il suggerimento iniziale al gruppo di Meta; l’FBI e le autorità scolastiche locali indagarono su un possibile piano che coinvolgeva due adolescenti.

Nell’autunno del 2025, Meta segnalò, secondo l’inchiesta, un post su Instagram pubblicato da uno studente della Benjamin N. Cardozo High School di New York. Meta inviò informazioni all’FBI, che avvisò il dipartimento di polizia di New York. Gli agenti trovarono una pistola carica nello zaino dello studente e lo presero in custodia poco più di due ore dopo la pubblicazione del post.

I limiti dei segnali automatici e il ruolo dei feed

Riferimenti codificati, simboli e immagini che cambiano nel tempo possono essere difficili da interpretare per i sistemi di moderazione. Il problema riguarda anche comunità online come la True Crime Community, dove il significato di un contenuto può dipendere da conoscenze interne al gruppo. L’inchiesta riferisce inoltre il rischio che segnalazioni eccessive coinvolgano nel sistema giudiziario giovani che esprimono un interesse morboso, senza rappresentare una minaccia credibile.

Katherine Keneally, esperta di analisi e prevenzione delle minacce presso l’Institute for Strategic Dialogue U.S., ha sollevato un problema più ampio: i sistemi di raccomandazione delle piattaforme possono contribuire alla diffusione di contenuti violenti. Gli inoltri alle autorità riguardano singoli casi; non affrontano da soli la circolazione di quei contenuti nei feed.