El 16 de octubre de 2026, Julie Menin dijo que su equipo obtuvo con la versión gratuita habitual de Grok una imagen sexualizada de ella en menos de 30 segundos, según informó amNewYork. La afirmación se produjo en una audiencia de seguimiento del Comité de Tecnología del Concejo Municipal de Nueva York, donde Gabriela Castillo Madrid, responsable de asuntos gubernamentales de SpaceXAI, testificó bajo juramento, según el comunicado del Concejo.
La respuesta de SpaceXAI en la audiencia
La comparecencia llegó después de que SpaceXAI faltara a una audiencia general del Concejo la semana anterior. El órgano dijo que, tras esa ausencia, emitió su primera citación registrada contra un actor privado.
Castillo Madrid afirmó que Grok tenía controles estrictos contra la sexualización de personas reales y menores. Sobre la imagen concreta descrita por Menin, dijo que no podía pronunciarse y ofreció que el equipo de seguridad de la empresa examinara el caso, según amNewYork.
Devin Kim, antiguo empleado de xAI y denunciante de irregularidades, habló de las prácticas de su etapa en la empresa. Según amNewYork, Kim dijo que entonces se transmitía al personal un criterio que permitía cierta desnudez considerada de buen gusto; también lo describió como subjetivo y sostuvo que nadie tenía asignada la tarea de delimitarlo. El comunicado del Concejo atribuyó a Kim el dato de que tres de los 200 empleados técnicos trabajaban específicamente en seguridad de IA durante ese periodo.
Qué proponen Intro 504 e Intro 2605
El Concejo describió dos iniciativas con objetivos distintos en su comunicado sobre la audiencia:
- Intro 504, patrocinada por la vicepresidenta del Concejo Nantasha Williams y en consideración, propondría prohibir representaciones no autorizadas de cargos electos generadas mediante IA a partir de fotos, vídeos o audio.
- Intro 2605, patrocinada por Julie Menin y presentada la semana anterior, permitiría que denunciantes recibieran una parte de las multas o sanciones recuperadas de empresas de IA que infrinjan la ley.
Carmen De La Rosa, presidenta del Comité de Tecnología, dijo que el comité tenía preparadas cartas para continuar el seguimiento y seguiría promoviendo legislación y acciones de defensa.
