Otra deriva preocupante para Grok, la inteligencia artificial (IA) de la red social. Pero internautas malintencionados, a menudo hombres, la utilizan para desnudar, sin su consentimiento, a mujeres pero también a menores.
Desde Año Nuevo, han llegado numerosos testimonios de mujeres víctimas de estas manipulaciones, también en Francia. “Hubo como diez tipos que le pidieron a Grok que me desnudara como si fuera un muñeco y me hicieron llorar. Gracias hombres por el inicio del 2026”compartió una internauta, quien solo había publicado una foto de su outfit para Nochevieja.
Bajo estas sencillas fotos, los internautas pueden preguntarle a Grok “ponla en bikini” O “Quítale la ropa”. Y la inteligencia artificial actúa reemplazando los cuerpos vestidos por cuerpos desnudos directamente en el hilo de discusión, pero también en la galería multimedia del perfil X de Grok. Una práctica que enfureció a miles de usuarios, que rápidamente denunciaron ataques sexistas destinados a humillar a las mujeres. Mientras que algunos las instaron a no publicar más fotos suyas en Internet, otros criticaron una inversión de culpa y un intento de hacer invisibles a las mujeres.
“48 horas que miles de mujeres y niños han sido desnudados por cerdos con Grok sin que pase nada aquí, lo mínimo debería ser una suspensión del acceso a Twitter en Francia hasta la regulación, la situación es grave, estamos hablando de proteger a la gente de allí”se mostró especialmente indignado por un internauta.
xAI, la empresa que publica Grok, también ha indicado que debido a fallos de seguridad, las solicitudes de los usuarios han llevado a la generación de imágenes sexualizadas de menores en X, a pesar de su política de usuarios que prohíbe la sexualización de niños. “Hemos identificado vulnerabilidades en los sistemas de seguridad y las estamos corrigiendo urgentemente”. dijo xAI el viernes, citado por Bloomberg, y agregó que los documentos relacionados con la pornografía infantil son “ilegal y prohibido” y que estas imágenes habían sido eliminadas.
Este fenómeno de generar imágenes de carácter sexual no es nuevo y ya había sido denunciado este verano, especialmente en Estados Unidos. Sin que las cosas cambien. La Internet Watch Foundation, una organización sin ánimo de lucro que identifica contenidos de pornografía infantil en línea, ha informado de un aumento del 400 % de estas imágenes generadas por IA durante el primer semestre de 2025, subraya “le Monde”.
Justicia tomada
El fenómeno de los últimos días ha sido denunciado por figuras políticas francesas: afirmó la Alta Comisionada francesa para la Infancia, Sarah El Haïry “Indignado por las peticiones a #GrokAI de desnudar a niñas y mujeres”. “Si la imagen es artificial, el daño es muy real” ella escribió en X.
Arthur Delaporte, portavoz del Partido Socialista, afirmó por su parte en X que había denunciado estos hechos ante los tribunales, al igual que el diputado del Renacimiento Eric Bothorel. y que iba a recomendar en un informe presentado al gobierno “la primera quincena de enero” de“no permitir estas funciones”. “Compartir este tipo de contenidos, que ya de por sí son ilegales, es ciberacoso”escribió, brindando apoyo a las mujeres víctimas de estas apropiaciones indebidas, incluida Marie Coquille-Chambel, estudiante de doctorado y activista feminista. “Usted está loco”lanzó este último al descubrir una foto de ella artificialmente desnuda en X el 31 de diciembre.
El ministro de Economía, Roland Lescure, la ministra delegada encargada de la inteligencia artificial y las tecnologías digitales, Anne Le Hénanff, y la ministra de Igualdad entre mujeres y hombres Aurore Bergé también anunció el viernes que se presentará ante el fiscal y ante la plataforma Pharos. “En virtud del artículo 40 del Código de Procedimiento Penal, los contenidos manifiestamente ilícitos generados por la inteligencia artificial generativa Grok y difundidos en la plataforma X, con el fin de obtener su retirada inmediata”. El gobierno también anunció que embargará a Arcom, por posibles incumplimientos por parte de X de sus obligaciones bajo la regulación de servicios digitales (DSA).
La fiscalía de París ha anunciado que investigará la proliferación de estos deepfakes de naturaleza sexual generada por Grok. “Estos hechos se sumaron a la investigación ya abierta contra X, con base en el artículo 226-8-1 del Código Penal”anunció al medio Político.
Para intentar prevenir estos abusos de la inteligencia artificial, el artículo 226-8-1 del Código Penal, introducido en mayo de 2024, establece que“poner en conocimiento del público o de un tercero, por cualquier medio, un montaje de carácter sexual realizado con palabras o imágenes de una persona, sin su consentimiento, se castiga con dos años de prisión y una multa de 60.000 euros”. Y “se considera como el mismo delito cualquier contenido visual o sonoro de carácter sexual generado mediante procesamiento algorítmico que reproduzca la imagen o palabras de una persona, sin su consentimiento”recuerda RTL.
También es posible reportar este contenido directamente a X, bajo un “Contenido ilegal en Europa”indicando que están publicados “publicado sin su consentimiento y contra las mujeres”.
