Ein am 23. Oktober 2026 veröffentlichter Bericht des Magazins The New Yorker beschreibt Metas Ablauf bei möglichen Schulbedrohungen: Automatisierte Systeme markieren auffällige Signale, anschließend prüfen Menschen die Aktivitäten. Finden sie Hinweise auf konkrete Schritte in Richtung einer Gewalttat, können sie Informationen an Strafverfolgungsbehörden weitergeben. Für 2025 nennt der Bericht weltweit rund 800 solcher Weitergaben. Die Zahl erfasst Hinweise an Behörden, keine verhinderten Angriffe.

Wie Meta Hinweise prüfen und weitergeben soll

Laut dem Bericht markieren Metas automatisierte Systeme mögliche Signale. Danach prüfen Mitarbeitende weitere Aktivitäten, darunter Beiträge, geteilte Inhalte, Interaktionen und Eingaben in KI-Chatbots. Emily Vacher, die bei Meta für die Zusammenarbeit mit Strafverfolgungsbehörden zuständig ist, beschrieb konkrete Vorbereitungsschritte als Anlass für eine mögliche Weitergabe. Als Beispiele nannte sie eine Zielliste oder ein Manifest.

Der Ablauf besteht damit aus zwei unterschiedlichen Aufgaben: Die Systeme suchen nach möglichen Hinweisen, Menschen beurteilen den Zusammenhang und die Bedeutung der Aktivitäten. Der Bericht beschreibt Vachers Darstellung des Verfahrens, nicht eine veröffentlichte technische Spezifikation.

Was die rund 800 Weitergaben aussagen

Der Bericht beziffert Metas Weitergaben an Strafverfolgungsbehörden im Jahr 2025 auf weltweit rund 800. Das ist eine Aktivitätszahl: Sie zählt Hinweise, nicht deren Folgen. Die Zahl allein sagt daher nicht, wie viele Angriffe verhindert wurden, und liefert keine allgemeine Erfolgsquote.

Zwei geschilderte Fälle veranschaulichen, wie solche Hinweise zu Ermittlungen führen können. Sie zeigen einzelne Abläufe, keine allgemeine Messung der Erkennungsleistung.

Zwei Fälle aus den USA

Am 18. Februar 2025 kontaktierte FBI-Agent Brian Ennesser den Polizeichef des texanischen Schulbezirks Spring Branch, Larry Baimbridge, wegen einer möglichen Bedrohung einer örtlichen Schule. Laut dem Bericht stammte der erste Hinweis von Metas Team. Die Ermittlungen betrafen zwei Jugendliche, die später in getrennten Verfahren schuldig plädierten.

Im Herbst 2025 markierte Meta laut Bericht einen Instagram-Beitrag einer Person von der Benjamin N. Cardozo High School in Queens und gab Informationen an das FBI weiter. Das FBI benachrichtigte daraufhin das New York City Police Department (NYPD). Die Polizei fand eine geladene Pistole im Rucksack der betreffenden Person und nahm sie gut zwei Stunden nach dem Beitrag in Gewahrsam.

Warum die Erkennung schwierig bleibt

Automatisierte Systeme können codierte oder wechselnde Anspielungen schwer einordnen. Der Bericht beschreibt etwa, wie sich Symbole und Bildsprache in Online-Communities verändern und Insiderwissen zum Verständnis nötig sein kann. Das erschwert die Moderation, wenn ein Signal erst im jeweiligen Zusammenhang erkennbar wird.

Zugleich birgt eine zu schnelle Weitergabe das Risiko, Jugendliche wegen makabrer Äußerungen in die Strafjustiz einzubeziehen, obwohl keine glaubwürdige Bedrohung vorliegt. Katherine Keneally, Direktorin für Bedrohungsanalyse und Prävention beim Institute for Strategic Dialogue U.S., sieht außerdem ein größeres Problem: Empfehlungen auf Plattformen können gewaltverherrlichende Inhalte verbreiten. Hinweise an Behörden betreffen einzelne Verdachtsfälle, nicht diese Verbreitung durch Empfehlungsfeeds.