Il 16 ottobre 2026, durante un’udienza di approfondimento del Comitato per la Tecnologia del Consiglio comunale di New York, Julie Menin ha detto che il suo team aveva ottenuto un’immagine sessualizzata che la ritraeva usando la versione gratuita standard di Grok, in meno di 30 secondi. Il racconto è stato riferito da amNewYork; il Consiglio comunale ha presentato due misure come proposte legislative.
Il racconto di Menin su Grok
Menin ha precisato che il suo team non aveva usato la modalità “spicy mode”, ma la versione gratuita standard del chatbot. La seduta era una testimonianza sotto giuramento di Gabriela Castillo Madrid, responsabile senior delle relazioni istituzionali globali di SpaceXAI.
Grok è il chatbot al centro dell’udienza; NeoTeo ha già seguito anche Grok 4.7, in un approfondimento dedicato al prodotto.
La risposta di SpaceXAI
Castillo Madrid ha dichiarato che Grok disponeva di controlli rigorosi contro la sessualizzazione di minori e persone reali. Sul caso specifico descritto da Menin, ha detto di non poter entrare nel merito e ha offerto di far esaminare l’immagine al team di sicurezza dell’azienda, secondo il resoconto di amNewYork.
All’udienza è intervenuto anche Devin Kim, ex dipendente di xAI. Kim ha detto che durante il suo periodo nell’azienda tre dei 200 addetti tecnici si occupavano specificamente di sicurezza dell’IA. Ha inoltre descritto una direttiva che ammetteva forme di nudità secondo un criterio soggettivo, senza una persona incaricata di definirne i limiti; ha precisato di non poter parlare degli standard attuali. Le sue dichiarazioni sono riportate da amNewYork e il Consiglio ha riferito il dato sul personale nel comunicato dell’udienza.
Che cosa prevedono Intro 504 e Intro 2605
Il Consiglio comunale ha descritto Intro 504, promosso dalla vice speaker Nantasha Williams, come una proposta per vietare rappresentazioni non autorizzate di funzionari eletti generate dall’IA a partire da fotografie, video o audio. Intro 2605, promosso da Julie Menin, consentirebbe a chi segnala illeciti di ricevere una quota delle multe o delle sanzioni recuperate da aziende di IA che violano la legge. Il comunicato del Consiglio del 16 ottobre presentava entrambe le misure come proposte legislative.
