Meta utiliserait des outils d’intelligence artificielle pour repérer des signaux de menace, puis des enquêteurs humains examineraient l’activité avant un éventuel signalement aux autorités, selon un article du New Yorker publié le 23 octobre 2026. Le magazine rapporte environ 800 signalements aux forces de l’ordre dans le monde en 2025. Ce chiffre décrit le volume de transmissions effectuées par l’équipe.

Des alertes automatiques à l’examen humain

Les systèmes de Meta repèrent des signaux, puis une personne examine les publications, les partages, les interactions et les messages adressés à des chatbots d’IA. Emily Vacher, responsable des relations de Meta avec les forces de l’ordre, décrit des signalements lorsque les enquêteurs trouvent des actes concrets qui indiquent une préparation, comme une liste de cibles ou un manifeste.

L’article rapporte que Vacher a contribué à constituer une équipe d’enquête en 2018, en collaboration avec des ingénieurs. Le seuil qu’elle décrit repose sur des actes préparatoires, plutôt que sur la seule détection d’un contenu inquiétant.

Ce que mesure le chiffre de 2025

Les quelque 800 signalements rapportés concernent des transmissions aux forces de l’ordre dans le monde en 2025. Ils indiquent le volume d’activité de cette partie du dispositif de Meta.

Deux signalements transmis aux autorités

Au Texas, le 18 février 2025, l’agent du FBI Brian Ennesser a contacté Larry Baimbridge, chef de la police du district scolaire de Spring Branch, au sujet d’une menace potentielle visant une école. Le signalement initial venait de l’équipe de Meta, selon le récit du New Yorker. L’enquête concernait deux adolescentes, qui ont ensuite plaidé coupable à des infractions distinctes, d’après les informations du FBI rapportées dans l’article.

Dans le Queens, à l’automne 2025, Meta aurait repéré une publication Instagram d’un élève et transmis des informations au FBI. Celui-ci a prévenu la police de New York (NYPD). La police a trouvé un pistolet chargé dans le sac à dos de l’élève et l’a interpellé un peu plus de deux heures après la publication, selon le même récit.

Les codes changent, et les plateformes amplifient aussi les contenus

Les références codées, les images qui évoluent et les connaissances propres à certaines communautés en ligne peuvent compliquer l’interprétation des publications par les outils de modération. Le risque de signalements excessifs pose une autre difficulté : des jeunes peuvent être entraînés dans le système pénal pour des expressions morbides plutôt que pour des menaces crédibles.

Katherine Keneally, directrice de l’analyse et de la prévention des menaces à l’Institute for Strategic Dialogue U.S., estime que les systèmes de recommandation des plateformes peuvent aussi amplifier les contenus violents et contribuer à la radicalisation. Le signalement de cas individuels ne couvre donc qu’une partie de ce problème plus large.