Em 16 de outubro de 2026, Julie Menin, presidente do Conselho Municipal de Nova York, disse que sua equipe obteve uma imagem sexualizada dela usando a versão gratuita padrão do Grok, em menos de 30 segundos. O relato foi feito durante uma audiência do Comitê de Tecnologia sobre segurança em IA e divulgado pela amNewYork. O Conselho também detalhou duas propostas legislativas relacionadas ao tema, descritas em seu comunicado oficial.
O que Menin relatou sobre o Grok
Segundo Menin, a equipe usou a versão gratuita comum do chatbot, e não o “spicy mode”, e recebeu a imagem em menos de 30 segundos. A presidente do Conselho descreveu o resultado como uma imagem sexualizada dela.
A audiência foi um desdobramento da ausência da SpaceXAI em uma sessão anterior, realizada na semana precedente. O Conselho afirmou que, após essa ausência, emitiu sua primeira intimação a um ator privado. O comunicado da instituição chamou a sessão de 16 de outubro de audiência de acompanhamento.
Como a representante da SpaceXAI respondeu
Gabriela Castillo Madrid, gerente sênior de assuntos governamentais globais da SpaceXAI, disse que o Grok tinha controles rigorosos para impedir a sexualização de pessoas reais ou crianças. Sobre a imagem específica relatada por Menin, ela afirmou que não podia comentá-la e ofereceu encaminhar o caso à equipe de segurança da empresa para análise, segundo a amNewYork.
O que propõem a Intro 504 e a Intro 2605
No comunicado de 16 de outubro, o Conselho descreveu duas propostas com objetivos distintos. A Intro 504 trataria de representações não autorizadas de autoridades eleitas geradas por IA a partir de fotos, vídeos ou áudios. A Intro 2605 permitiria que denunciantes recebessem uma parte das multas ou penalidades recuperadas de empresas de IA que violassem a lei.
O Conselho apresentou as duas medidas como propostas: a Intro 504 estava em consideração, e a Intro 2605 havia sido apresentada na semana anterior, conforme o comunicado oficial.
