Op 2 november 2026 meldde WIRED dat meer dan 400 met elkaar verbonden apps en domeinen zich voordeden als gewone diensten, maar verborgen functies konden aanbieden voor het maken van seksueel misbruikende AI-beelden en -video’s. Onderzoeker Paul Bouchaud beschreef hoe een server kon bepalen welke versie een gebruiker te zien kreeg.

Hoe de apps hun verborgen functies konden tonen

De apps presenteerden zich onder meer als diensten voor huisdierportretten of taallessen. Volgens Bouchaud stuurde een app gegevens zoals de herkomst en taal van de gebruiker en een unieke identificatiecode naar een server. Die server kon vervolgens een gewone of expliciete interface terugsturen. Een klik op een bijbehorende advertentie op een platform van Meta leek een mogelijke aanleiding, maar de volledige selectiecriteria waren niet vastgesteld.

De verborgen omgeving bevatte volgens WIRED sjablonen voor afbeeldingen en video’s, opties om afbeeldingen te uploaden en in-appaankopen van virtuele “diamanten”. De gewone presentatie van een app vertelde daardoor niet vanzelf welke functies een gebruiker na het openen kon tegenkomen.

De gemelde verbanden en platformmaatregelen

De apps en domeinen leken volgens WIRED onderling verbonden via gedeelde code en configuratiegegevens. Het onderzoek bracht delen van het netwerk in verband met Chineestalige ontwikkelaars en het in Hongkong geregistreerde KeLing Technology Limited.

WIRED meldde dat Apple na contact met de publicatie 19 apps verwijderde. Google had volgens het verslag de meeste apps al verwijderd voordat WIRED om commentaar vroeg. Meta meldde aan WIRED dat het maatregelen had genomen tegen 11.600 advertentieaccounts, meer dan 4.700 bedrijfspagina’s, 5.200 gebruikers en 15.000 pagina’s die aan de domeinen waren gekoppeld. Meta zei ook dat 209 apps niet meer op zijn platforms mochten adverteren.

Wat Apple op 16 oktober 2026 aan de regels toevoegde

Apple publiceerde op 16 oktober 2026 een update van zijn App Review-richtlijnen. Daarin vallen ook intieme beelden zonder toestemming die met AI zijn gemaakt onder de moderatie-eisen: apps moeten zulke beelden actief voorkomen en verwijderen. Apple verduidelijkte daarnaast dat apps die hun doel tijdens de beoordeling verkeerd voorstellen en na goedkeuring functies toevoegen, uit de App Store en het Apple Developer Program kunnen worden verwijderd. Apple licht de aangepaste App Review-richtlijnen toe.