“¡El G7 no debe acelerar sino asegurar la IA!”

Las cosas iban bastante bien. En 2023, bajo la presidencia japonesa, el G7 adoptó un código de conducta (el marco político general del proceso de Hiroshima sobre inteligencia artificial, conocido como “HAIP”) destinado a promover sistemas seguros y confiables. Apenas unos meses después del lanzamiento de ChatGPT (por OpenAI, finales de noviembre de 2022, nota del editor), el G7 pretendía así proteger a los ciudadanos y los valores democráticos.

El impulso de Hiroshima se disipó rápidamente. La presidencia italiana de 2024 ciertamente ha asumido el relevo al encargar a la OCDE que impulse el proceso. Pero a partir de 2025, en Kananaskis (Canadá), el proceso dedicado a la seguridad se pone al servicio de… la confianza. “A medida que aumente la adopción de la IA, seguirá siendo esencial mantener un clima de confianza para tranquilizar a los clientes”. podemos leer en la declaración final de los líderes.

Antes de la cumbre de Evian del 29 de mayo, los ministros digitales de los países del G7 declararon, sin preocuparse por la contradicción, que querían promover la IA. “seguro y responsable”y al mismo tiempo “acelerar la innovación y la adopción de la IA”. Los peligros de la IA se abordan principalmente desde el ángulo de la protección de los menores o de la huella ambiental, un enfoque útil pero muy insuficiente dadas las cuestiones en juego. Acogieron con agrado algunas firmas adicionales de empresas privadas para el proceso de Hiroshima, lo que sin querer subraya la falta de nuevos avances reales.

Seamos claros: un código opcional de buenas prácticas estaría lejos, muy lejos de ser suficiente para controlar las capacidades actuales de la inteligencia artificial y los peligros que de ella se derivan. En aras de la brevedad, aquí sólo discutiremos los riesgos catastróficos atribuibles a una pérdida de control de la IA. Este sesgo no quita mérito a los graves peligros que la IA también amenaza a nuestras sociedades: despojo cognitivo, graves daños a la salud mental, colapso del modelo social, etc.

Pérdida de control sobre la propaganda y la desinformación. La manipulación de la opinión con fines electorales o para desestabilizar las democracias apenas está comenzando. La inteligencia artificial generativa permite automatizar la producción de contenidos textuales y visuales extremadamente persuasivos (basta con ver el deepfakes pornográfico) y la creación de millones de cuentas falsas realistas que alimentan y explotan los algoritmos de recomendación.

Pérdida de control sobre el cibercrimen. La IA amplifica significativamente el ciberdelito al reducir el umbral de calificación necesario para diseñar y llevar a cabo ataques. Esta capacidad que se ofrece a casi todo el mundo, combinada con la omnipresencia de las redes sociales, forma un cóctel explosivo: estafas, fraudes, chantajes, etc. En definitiva, ya no se pueden excluir los ataques químicos o bacteriológicos diseñados y orquestados mediante la IA.

Pérdida de control sobre la seguridad informática. Muchas vulnerabilidades acechan en los sistemas informáticos de los que depende la economía global y la vida cotidiana de todos los habitantes del planeta. Los últimos modelos de IA (Mythos Preview y GPT-5.5 Cyber) ahora los detectan mejor que cualquier ser humano en servidores, sistemas operativos, paquetes de software, navegadores web, sistemas de pago, etc. El riesgo de desestabilización de la TI global nunca ha sido tan grande. Otra amenaza proviene de agentes autónomos, que utilizan su computadora (archivos, correos electrónicos, mensajes, navegador, etc.) para llevar a cabo acciones concretas en su nombre. Porque las vulnerabilidades de seguridad son una pesadilla en estas herramientas fuente abierta (como OpenClaw), pueden llegar incluso a destruir o revelar datos vitales, robar secretos de autenticación, cerrar servidores, etc.

Pérdida de control del mando de los ejércitos. Las contribuciones de la IA a las actividades militares están revolucionando no sólo la inteligencia sino también el armamento. Las armas autónomas generan tales ganancias en velocidad y eficiencia que los humanos pueden competir cada vez menos, lo que naturalmente lleva a que se les deleguen cada vez más decisiones. Recordemos que las responsabilidades de una cadena de mando militar se traducen en vidas humanas, destrucción de infraestructuras, caídas de regímenes, declaraciones de guerra, etc.

Pérdida de control general. Acabamos de mencionar situaciones en las que la sociedad pierde el control de sus instituciones, de su infraestructura, de su economía por haber subestimado la capacidad de la IA para crear situaciones de crisis importantes. Existe una situación aún más dramática, en la que la IA, que se ha vuelto superinteligente, literalmente toma el control de la humanidad y la pone en riesgo de extinción. Este escenario es considerado creíble por muchos expertos en inteligencia artificial.

Los peligros de la IA están bien establecidos. En septiembre de 2025, el llamado global para establecer líneas rojas recibió el apoyo de más de 300 figuras de alto perfil, incluidos 9 exjefes de Estado y ministros, 11 premios Nobel y 2 pioneros de la IA y ganadores del Premio Turing. En febrero de 2026 se publicó la segunda edición del informe internacional sobre seguridad de la IA, presidido por Yoshua Bengio (Premio Turing) basado en el modelo del IPCC, que establece científicamente los peligros de la IA. Por último, los franceses no se equivocan: en mayo de 2026, una encuesta de OpinionWay encargada por CeSIA revela que sólo el 8% quiere acelerar el desarrollo de la IA y una gran mayoría pide una supervisión estricta centrada en la seguridad.

Es claramente urgente regular la difusión de modelos peligrosos para alinearlos con los intereses de las poblaciones. Ya están en vigor varias regulaciones, con sentencias históricas en los Países Bajos y los Estados Unidos contra la recomendación de IA de Meta y Google. En Francia, un proyecto de ley sobre la presunción de infracción de los derechos de autor podría reforzar los obstáculos a la adopción de las IA generativas, mientras que, en Estados Unidos, voces del movimiento MAGA piden ahora una presunción de incumplimiento de estas IA para proteger a los ciudadanos.

Además, debemos aplicar el principio de precaución y decretar una pausa (o moratoria) en el desarrollo científico y técnico de modelos generales de inteligencia artificial. Si bien sus capacidades (y por lo tanto su poder para causar daño) están progresando de manera asombrosa, están resultando cada vez más difíciles de controlar técnicamente en el estado actual de la investigación.

Esta pausa la exige el movimiento internacional Pause AI representado en trece países (en Francia, por la asociación Pause IA). Requiere el establecimiento de una gobernanza global a nivel estatal, con el apoyo de científicos independientes, equipados con medios suficientes para definir las modalidades concretas de la pausa y controlar su aplicación. La participación de Estados Unidos, China y otras naciones tecnológicas es obviamente esencial. Un organismo de este tipo también podría apoyar alternativas algorítmicas democráticas.

Existen bases serias: los trabajos de la OCDE en torno al HAIP, el informe internacional sobre la seguridad de la IA, pero también los principios decretados por los principales foros internacionales (ONU, UNESCO, CICR) y varios escenarios operativos diseñados por laboratorios especializados (Miri, ControlAI, etc.). Ahora se trata de unificar estos enfoques para crear una gobernanza equipada con medios de acción reales. Esta moratoria debe durar el tiempo necesario para que los modelos futuros cumplan plenamente los requisitos de seguridad y control democrático.

Tribuna iniciada por la asociación Pause AI y firmada por un colectivo de investigadores, escritores y líderes de asociaciones:

• Lisa Belluco, miembro de los Ecologistas de Vienne, miembro de la Comisión Superior de Correos y Digitales;

• Max Andersson, ex eurodiputado verde sueco (2014-2019), uno de los primeros en advertir de los riesgos de la IA en el Parlamento Europeo;

• Corentin Jorel, docente-investigador del Greyc y de la Universidad de Caen;

• Matteo Tacchi-Bénard, investigador del CNRS;

• Julien Gobin, filósofo y ensayista, docente de la Escuela de Administración del IESEG;

• Marius Bertolucci, profesor de ciencias de la gestión en la Universidad de Aix-Marsella;

• Colin de la Higuera, profesor de la Universidad de Nantes;

• Martin Gibert, filósofo e investigador de ética;

• Jérémy Perret, investigador independiente;

• Eloïse Benito, investigadora de seguridad en IA;

• Patrick Albert, pionero de la IA, miembro del colectivo Réveillons-nous;

• Sébastien Lebrun, médico y miembro de la asociación Tournesol;

• Maxime Fournes, director de Pause AI;

• Clémence Peyrot, directora de Pausa IA;

• Jeremy Eliosoff, director de Pause AI Canadá;

• Joseph Miller, director de Pause AI Reino Unido;

• Benjamin Schmidt, director de Pause AI Alemania;

• Giulia Consonni, directora de Pause AI Italia;

• Otto Barten, director del Observatorio de Riesgo Existencial;

• Olle Häggström, profesor de estadística matemática en la Universidad Tecnológica de Chalmers en Suecia;

• Maxime Derian, cofundador del think tank Technoréalisme, director de Heruka.ai;

• Diego Hidalgo, fundador del movimiento OFF;

• Titouan Lustin, vicepresidente de la asociación Tournesol;

• Jean-Lou Fourquet, presidente de la asociación Tournesol y coautor de “La dictadura de los algoritmos” (Tallandier, 2024);

• Baptiste Detombe, ensayista y ético de las nuevas tecnologías;

• Abel Quintín, escritor;

• Vinz Kanté, fundador del medio de divulgación científica Limit;

• Gaetan Selle, cofundador del medio independiente The Flares;

• Shaïman Thürler, fundador y director del medio Le Futurologue;

• Théodore Brossollet, redactor jefe de Penser c’est chouette.