W tekście opublikowanym 23 października 2026 r. „The New Yorker” opisał proces Meta, w którym automatyczne systemy wyłapują sygnały, a ludzie analizują aktywność użytkownika i mogą przekazać sprawę organom ścigania. Według tej relacji w 2025 r. Meta przekazała służbom na całym świecie około 800 zgłoszeń.
Jak przebiegała ocena zgłoszeń
Automatyczny sygnał był początkiem oceny, a nie jej końcem. Jak opisała Emily Vacher z Meta, ludzie sprawdzali szerszy kontekst: posty, udostępnienia, interakcje i prompty kierowane do chatbotów AI. Przekazanie informacji służbom mogło nastąpić, gdy śledczy widzieli oznaki konkretnych działań, na przykład listę celów lub manifest. To opis procesu przedstawiony w rozmowie z Vacher, a nie techniczna specyfikacja systemu.
Co oznacza około 800 zgłoszeń
Liczba dotyczy przekazań organom ścigania na całym świecie w 2025 r. Opisuje aktywność zespołu Meta, a nie liczbę udaremnionych ataków ani skuteczność systemu.
Dwie sprawy opisane w relacji
W lutym 2025 r. wskazówka od zespołu Meta doprowadziła do dochodzenia FBI dotyczącego potencjalnego zagrożenia w Teksasie z udziałem dwojga nastolatków. 18 lutego agent FBI skontaktował się z szefem policji okręgu szkolnego Spring Branch. Według relacji oboje nastolatkowie później przyznali się do odrębnych przestępstw.
Jesienią 2025 r. Meta miała oznaczyć wpis ucznia szkoły Benjamin N. Cardozo High School w Queens i przekazać informacje FBI. FBI powiadomiło nowojorską policję, która znalazła w plecaku ucznia załadowany pistolet. Do zatrzymania doszło nieco ponad dwie godziny po publikacji wpisu.
Dlaczego takie sygnały trudno ocenić
Szyfrowane aluzje, zmieniające się symbole i obrazy oraz kontekst znany uczestnikom internetowych społeczności mogą utrudniać automatyczną ocenę treści. Katherine Keneally z Institute for Strategic Dialogue U.S. wskazywała też na ryzyko nadmiernego zgłaszania: ponura lub makabryczna wypowiedź może zostać potraktowana jak wiarygodna groźba, choć nie musi świadczyć o przygotowaniach do przemocy.
Keneally zwracała ponadto uwagę, że zgłaszanie konkretnych spraw nie rozwiązuje szerszego problemu: algorytmy rekomendacji mogą zwiększać zasięg brutalnych treści. Ocena pojedynczych sygnałów i sposób, w jaki platformy polecają materiały, to odrębne elementy tego problemu.
