El magnate estadounidense Elon Musk ofrece hoy al mundo una herramienta gratuita para crear pornografía infantil. Este no es el inicio de una oscura obra de ciencia ficción, sino la funcionalidad de modificación de imágenes de Grok, la inteligencia artificial de X.
El acoso digital ya estaba haciendo bastante daño, antes de que nadie pudiera circular en las redes sociales imágenes modificadas por Grok, pero también Gemini o ChatGPT, de un adolescente en el dispositivo más simple. Un estudio sobre el chatbot integrado en X estima que, gracias a Grok, se crearon 3 millones de imágenes sexualizadas en once días de enero, de las cuales 223.000 representan a niños (1).
Acciones completamente ilegales…
Sin embargo, modificar una fotografía de una persona sin su consentimiento es una infracción del Reglamento General de Protección de Datos (RGPD) y del derecho a la imagen, sancionable con acciones penales. Como plataforma en línea de gran tamaño según el Reglamento Europeo de Servicios Digitales (DSA), X debe evaluar y abordar los riesgos que presenta. “violencia de género”para asegurar “la protección de los menores y (…) graves consecuencias negativas sobre el bienestar físico y mental de las personas”. La creación de imágenes de pornografía infantil es, por tanto, un delito cuyo arma ha sido proporcionada conscientemente por Musk.
…¡y perfectamente impune!
Los hechos están ahí. Sin embargo, fue necesaria una solicitud formal de la Comisión Europea, prohibiciones de la aplicación en Malasia e Indonesia y una investigación formal en el Reino Unido. Sin embargo, la funcionalidad todavía está disponible en la aplicación dedicada y en el sitio web grok.com. Peor aún, la compañía anunció el bloqueo geográfico de esta herramienta, aunque todavía está disponible en Bruselas, París y Londres, mientras que Musk se limitó a declarar: “No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna. »
El sentimiento de impunidad es total.
¿El fin del derecho a disponer de la propia imagen?
Este precioso derecho adquirido para la protección de nuestra identidad está terriblemente debilitado en la era de la IA y las redes sociales. Sin siquiera pensarlo, las generaciones más jóvenes confían su imagen a las plataformas online. Desafortunadamente, esto a veces se les escapa, exponiéndolos al acoso en línea y a deepfakes desde una edad muy temprana.
El derecho en el espacio digital europeo
Ante este gran riesgo para nuestra vida privada y nuestra intimidad, enviemos un mensaje claro: ya no podemos aceptar que las plataformas estadounidenses o chinas, su IA y sus redes sociales tengan tanto control sobre nuestros conciudadanos.
Ciertamente, la multa de 120 millones de euros impuesta a X por la Comisión Europea en diciembre de 2025 es un comienzo, pero la batalla para hacer cumplir nuestras leyes apenas ha comenzado.
Luego, hay que legislar: por un lado, hay que obligar a las plataformas a diseñar entornos que realmente protejan a los menores y sus datos; por otro, debemos garantizar la transparencia de los algoritmos y sistemas de recomendación, que se han convertido en herramientas de manipulación masiva.
Nuestros datos ya no pueden escaparnos.
Por último, seamos claros: mientras Europa siga siendo una colonia digital, seguiremos expuestos a este tipo de riesgos. Es hora de crear una plaza pública europea que proteja nuestros derechos y la democracia.
Sin demora, mientras no cumpla con nuestras leyes, prohibamos a Grok de la Unión Europea.
Firmantes:
- François Kalfon, eurodiputado
- Arturo Delaporte, diputado de Calvados
- Emma Rafowicz, eurodiputado
- Pierre Jouvet, eurodiputado
- Thierry Sother, diputado por el Bajo Rin
◗ 1) El estudio del Centro para la Lucha contra el Odio Digital analizó una muestra de 20.0020.000 edades en el mango X de Grok, de un total de 4,6 millones durante un período de once días. Señaló que el 65% de la muestra eran imágenes sexualizadas y el 0,5% probablemente de niños.
Este artículo es una columna, escrita por un autor ajeno al periódico y cuyo punto de vista no compromete a la redacción.
