Een reportage van The New Yorker van 23 oktober 2026 beschrijft hoe Meta mogelijke schooldreigingen eerst automatisch laat signaleren en daarna door medewerkers laat beoordelen. Volgens die reportage verwees Meta in 2025 wereldwijd ongeveer 800 zaken door naar opsporingsdiensten. Dat cijfer telt doorverwijzingen, niet een vastgesteld aantal voorkomen aanvallen.
Van automatische signalering naar menselijke beoordeling
Meta’s systemen signaleren volgens de reportage mogelijke dreigingen. Daarna bekijken medewerkers bredere online activiteit, waaronder berichten, gedeelde inhoud, interacties en prompts aan AI-chatbots. Emily Vacher, die bij Meta contact met opsporingsdiensten coördineert, beschrijft een doorverwijzing wanneer onderzoekers aanwijzingen vinden voor concrete stappen richting geweld. Een lijst met beoogde doelen of een manifest zijn voorbeelden die zij noemt.
Vacher hielp in 2018 een team samenstellen dat online gedrag van eerdere daders bestudeerde en met ingenieurs aan geautomatiseerde signalering werkte. De reportage beschrijft daarmee een proces waarin software signalen aandraagt en mensen de bredere context beoordelen.
Wat het cijfer van ongeveer 800 meldingen zegt
De circa 800 doorverwijzingen wereldwijd in 2025 zijn een maat voor de meldingsactiviteit van Meta, zoals die door The New Yorker is gerapporteerd. Het aantal geeft geen telling van aanvallen die door die meldingen zijn voorkomen en vormt geen algemene maat voor de effectiviteit van het systeem.
Twee meldingen die bij autoriteiten terechtkwamen
In Texas nam FBI-agent Brian Ennesser op 18 februari 2025 contact op met Larry Baimbridge, politiechef van Spring Branch Independent School District, over een mogelijke dreiging tegen een plaatselijke school. Volgens de reportage kwam de eerste tip van Meta. De zaak betrof twee tieners.
In het najaar van 2025 signaleerde Meta volgens dezelfde reportage een Instagram-bericht van een leerling van Benjamin N. Cardozo High School in Queens en gaf het gebruikersinformatie door aan de FBI. Die waarschuwde de New York City Police Department. De politie trof een geladen pistool aan in de rugzak van de leerling en nam die iets meer dan twee uur na het bericht mee.
Waarom dreigingssignalen lastig te beoordelen zijn
Gecodeerde verwijzingen en veranderende symbolen kunnen voor geautomatiseerde systemen moeilijk te duiden zijn. Katherine Keneally, directeur dreigingsanalyse en preventie bij het Institute for Strategic Dialogue U.S., waarschuwt ook voor te ruime meldingen: jongeren kunnen zo in het strafrecht belanden vanwege morbide uitingen die geen geloofwaardige dreiging vormen.
Keneally wijst daarnaast op de rol van aanbevelingssystemen bij de verspreiding van gewelddadige inhoud. Het doorgeven van afzonderlijke zaken aan opsporingsdiensten richt zich op meldingen; aanbevelingssystemen vormen een afzonderlijk onderdeel van het probleem dat zij beschrijft.
