Secondo le informazioni disponibili, le piattaforme di Meta hanno diffuso annunci per Kromix, un’app di IA presentata come strumento per creare e modificare immagini. Le inserzioni promuovevano deepfake sessualizzati somiglianti a politiche statunitensi. Meta ha poi rimosso gli annunci dopo una richiesta di chiarimenti, mentre Apple ha rimosso Kromix dall’App Store e ha dichiarato che l’app sembrava aver aggiunto contenuti e funzioni vietati dopo la revisione iniziale.
Il punto non è soltanto l’esistenza di un’app discutibile. È il percorso che le ha permesso di arrivare alla pubblicità: Meta descrive il proprio controllo degli annunci come basato principalmente su strumenti automatici, ma in questo caso le inserzioni sono state segnalate come presenti prima dell’intervento della piattaforma.
Che cosa riguardava la campagna Kromix
Kromix si presentava come un’app di “stile delle immagini” basata sull’intelligenza artificiale. Secondo quanto riportato, permetteva agli utenti di caricare fotografie e generare immagini o video con contenuti sessualizzati che coinvolgevano persone reali. Le pubblicità facevano riferimento a deepfake di questo tipo con protagoniste somiglianti a politiche statunitensi.
Il problema riguarda quindi l’uso non consensuale dell’immagine di una persona, non una semplice modifica estetica. Un deepfake sessualizzato può trasformare una fotografia pubblica in materiale intimo contraffatto senza il consenso della persona raffigurata. Nel caso di figure politiche, immagini ufficiali e filmati pubblici possono diventare materiale facilmente riutilizzabile da strumenti che richiedono competenze tecniche ridotte.
La campagna segnalata non va confusa con altre indagini su applicazioni simili: il dato relativo a Kromix è di 32 annunci, non il totale di campagne diverse.
Le dimensioni della campagna
Il resoconto sulla campagna associata a Kromix indica questi elementi:
- 32 annunci complessivi;
- una durata compresa tra cinque e 46 ore per ciascun annuncio;
- targeting rivolto esclusivamente a utenti uomini;
- nella maggior parte dei casi, 10 impression o meno per annuncio.
Sono numeri che descrivono una campagna relativamente breve e con una portata limitata per singola inserzione, ma non cancellano il problema principale: il sistema pubblicitario avrebbe lasciato passare promozioni per uno strumento destinato a generare immagini intime non consensuali.
La sequenza delle rimozioni
| Data o periodo | Evento | Perché conta |
| 3 agosto 2026 | Secondo quanto riportato, viene creata la pagina associata alla campagna Kromix. | La pagina inizia a essere utilizzata per la distribuzione degli annunci. |
| Agosto 2026 | La campagna segnalata comprende 32 annunci, attivi da cinque a 46 ore. | Mostra la durata e la dimensione attribuite a questa campagna specifica. |
| Agosto 2026 | Meta rimuove gli annunci dopo una richiesta di chiarimenti. | L’intervento arriva dopo che la campagna era stata segnalata pubblicamente. |
| Agosto 2026 | Apple rimuove Kromix dall’App Store. | Apple afferma che l’app sembrava aver aggiunto contenuti e funzioni vietati dopo la revisione iniziale. |
Le rimozioni di Meta e Apple
La rimozione degli annunci da parte di Meta è riportata come successiva a una richiesta di chiarimenti sulla campagna. L’azienda non viene quindi descritta qui come autrice o approvatrice del materiale: il fatto rilevante è che le inserzioni sono state segnalate come presenti sulle sue piattaforme e sono state successivamente rimosse.
Apple ha invece confermato la rimozione di Kromix dall’App Store. La posizione espressa dall’azienda è netta: le app progettate per generare, distribuire o consumare pornografia sono vietate dalle sue regole, così come le app di “nudificazione”. Apple ha inoltre detto che lavora per individuare e rimuovere le app e gli account sviluppatore che tentano di aggirare i suoi processi.
Questa distinzione è importante: per Meta il dossier riguarda la rimozione di annunci; per Apple riguarda la rimozione dell’app dal proprio negozio. Sono due interventi diversi, avvenuti su due livelli diversi della filiera.
Il limite della revisione automatizzata
Meta descrive il controllo degli annunci come un processo che si basa principalmente su strumenti automatici e che dovrebbe iniziare prima della pubblicazione. Il caso Kromix mette in evidenza la distanza tra questa procedura dichiarata e il risultato segnalato: annunci associati a deepfake sessualizzati sarebbero comunque arrivati alla distribuzione.
Questo non dimostra come sia stato valutato ogni singolo annuncio né autorizza a ricostruire una decisione personale ai vertici dell’azienda. Mostra però un problema concreto di moderazione: classificare rapidamente contenuti visivi e promozionali può non bastare quando il messaggio pubblicitario presenta un’app come un generico strumento creativo, mentre la funzione promossa riguarda l’alterazione sessualizzata dell’immagine di persone reali.
Che cosa cambia per chi usa queste piattaforme
Per gli utenti, il caso offre una regola semplice: la presenza di un’app o di una pubblicità in una grande piattaforma non equivale a una garanzia sul suo comportamento o sulla sicurezza dei suoi strumenti. La pubblicazione di un annuncio e la disponibilità di un’app sono passaggi distinti, sottoposti a controlli diversi.
Il caso non fornisce elementi per attribuire a Mark Zuckerberg la selezione o l’approvazione personale degli annunci. Né stabilisce una sanzione, una sentenza o un procedimento penale contro Meta o Kromix. Il dato solido è più circoscritto, ma anche più utile: una campagna pubblicitaria segnalata è comparsa sulle piattaforme di Meta, Meta l’ha rimossa dopo una richiesta di chiarimenti e Apple ha eliminato Kromix dall’App Store.
La questione da seguire è se i controlli automatici riescano a riconoscere non solo le immagini vietate, ma anche la funzione che un’app sta cercando di vendere. È lì che passa la differenza tra moderare un singolo contenuto e impedire che un intero strumento venga promosso come se fosse un innocuo editor creativo.
