Acaba de ocurrir un acontecimiento trascendental que marca nuestra entrada en la era de los grandes desastres relacionados con las tecnologías de la información, seguidos potencialmente de una pérdida real de control. Predicciones que a muchos les gusta descartar como ciencia ficción se están convirtiendo, ahora mismo, en realidad. El evento del que quiero hablar involucra a OpenAI, una de las tres compañías estadounidenses líderes en inteligencia artificial de propósito general (la compañía detrás de ChatGPT), pero hechos similares se están gestando en otros laboratorios.
OpenAI acaba de reconocer públicamente que nuevos agentes de IA entrenados en su laboratorio, supuestamente aislados y privados de acceso a Internet, colaboraron entre sí sin su conocimiento desde mayo antes de piratear los servidores de una tercera empresa. Lamentablemente, esta hazaña, al punto en el que ha llegado el rendimiento de la inteligencia artificial, no es el aspecto más sorprendente del asunto. Aún más aterradora es quizás la indiferencia de los investigadores ante esta situación. Aquí está la secuencia de eventos (las fechas son importantes).
Durante su entrenamiento, estos agentes de IA crean en secreto un foro de discusión. Luego podrán trabajar juntos para resolver los problemas que tienen que afrontar, incluido el acceso a Internet para buscar información. El 26 de mayo, lograron piratear la infraestructura altamente sofisticada de OpenAI. Pero no fue hasta el 4 de julio, 39 días después, que los ingenieros de OpenAI descubrieron el “escape” (pero no el alcance total de la coalición). Esto todavía requerirá una avería provocada por este pico inesperado de actividad.
¿Están entonces haciendo sonar la alarma? ¿Pondrán fin inmediatamente a este entrenamiento obviamente fuera de control? No. Se conformarán con “medidas correctivas”, corrigiendo los fallos y vulnerabilidades descubiertos y explotados por los agentes de IA. Dos días después, el 6 de julio, tras este improvisado parche, reiniciaron el entrenamiento. Los agentes de IA no tardarán diez días en descubrir nuevas vulnerabilidades graves y recuperar el acceso a Internet el 16 de julio.
Esta vez no se trata de una avería interna, sino de un ciberataque a una tercera empresa que delatará la actividad coordinada de los agentes de IA “escapados” del laboratorio OpenAI. Este mismo 16 de julio, la empresa Hugging Face, que comercializa principalmente herramientas y servicios para inteligencia artificial, informó que un ciberataque sumamente sofisticado y rápido tomó el control de sus servidores de producción. Una vez más, OpenAI tardará cuatro días en darse cuenta de que el ataque provino de sus propios servidores. La moraleja de esta historia es clara.
A partir de la próxima generación de IA, corremos el riesgo de perder el control o presenciar una catástrofe a gran escala. Si nos queda un futuro desde el que poder mirar hacia atrás, recordaremos el verano de 2026 como el momento en el que todo cambió: el momento en que la humanidad estuvo a la altura del desafío que enfrentó o continuó avanzando conscientemente hacia su perdición. Una pérdida que, resulta bastante fácil de imaginar, podría comenzar con el colapso, tarde o temprano, de los sistemas de información que hacen girar nuestro mundo, hundiendo a todos los habitantes del planeta en un caos generalizado.
Aquí está mi mensaje a los laboratorios, a los líderes políticos y a la sociedad en su conjunto.
• A ingenieros que desarrollan modelos de última generación
¡Detener! Casi 1.400 de ustedes han firmado una carta pidiendo una desaceleración; En julio, la carta abierta “Pacing the Frontier” pedía al gobierno de Estados Unidos que “apoyar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza destinadas a frenar la carrera por la investigación automatizada en inteligencia artificial” (cuando la IA se desarrolle por sí misma). Es genial; es un paso en la dirección correcta. Sam Altman (CEO de OpenAI) está multiplicando sus declaraciones sugiriendo que ralentizará la investigación de desarrollo para dar más tiempo a la investigación de seguridad, pero esto está lejos de ser suficiente para tranquilizarnos. ¿Por qué continúas creando tales riesgos? Las mejores IA ya son sobrehumanas en la piratería, no las controlas. Ya no tenemos tiempo. Niégate a correr esta carrera y dimite ahora.
• A los líderes políticos franceses
No permitamos que los campeones de la IA estadounidenses y chinos asuman riesgos solos, sin ningún control, que pongan en peligro a toda nuestra población. Francia debe defender una pausa global en el desarrollo de los sistemas de inteligencia artificial más avanzados hasta que se demuestre su seguridad. Apoyar una cooperación internacional rápida y seria en esta dirección y convertirla en una prioridad política importante.
• A la sociedad en su conjunto
Escuche a los denunciantes. No es casualidad que las personas más involucradas en denunciar los riesgos de la IA, Yoshua Bengio, Geoffrey Hinton y muchos otros, sean también quienes mejor los entienden. Una vez hecho esto, supera tu terror o asombro y actúa. Seas quien seas, tienes más poder del que crees. Puedes ser el eslabón o incluso el punto de partida de una reacción en cadena.
¿Cómo actuar? Súmate a los colectivos que están alertando. Advierta a sus funcionarios electos. Informe a sus amigos, a sus colegas, a su familia para que ellos también puedan usar su propio poder para hacer que las cosas sucedan y, a su vez, brinden a otros los medios para actuar. Ante una carrera que nadie es capaz de detener solo, nuestra capacidad de actuar colectivamente es nuestra mejor palanca.
Este artículo es una columna, escrita por un autor ajeno al periódico y cuyo punto de vista no compromete a la redacción.
