Todavía hablamos demasiado a menudo de la inteligencia artificial como herramienta. Pero ya es otra cosa. Se espera que el último informe publicado por Anthropic provoque un debate nacional. Describe ciberataques en gran medida automatizados, campañas de manipulación política, dispositivos de vigilancia y usos militares de la inteligencia artificial. Sobre todo, muestra que una sola persona ahora puede realizar ciertas tareas que antes requerían un equipo completo.
En apenas unos años, la inteligencia artificial ha reducido el coste de la energía. Se vuelve menos costoso atacar un sistema informático. Es más fácil monitorear, producir propaganda. También es menos costoso procesar grandes cantidades de datos que antes nadie podía explotar a esta escala. Esta revolución tecnológica es una revolución política.
Durante mucho tiempo, el poder requirió instituciones, fuerzas humanas, dinero y tiempo. Esto es menos cierto hoy. Unas pocas personas equipadas con los modelos adecuados ya pueden adquirir capacidades de acción impresionantes. Los propios Estados pueden automatizar tareas de vigilancia o inteligencia que antes requerían recursos considerables.
Éste es el verdadero trastorno. Y, sin embargo, seguimos tratando la inteligencia artificial como un tema secundario. El debate público se centra en las profesiones que desaparecerán o en el aumento de la productividad. Estas preguntas existen. Pero se han vuelto casi periféricos en términos de lo que está sucediendo.
El informe Anthropic demuestra que la IA ya está impactando nuestra vida democrática. Permite producir contenidos falsos a muy gran escala. Facilita la creación de cuentas falsas y medios falsos. Puede adaptar mensajes políticos a diferentes audiencias. Mañana, una campaña electoral puede verse atravesada por miles de contenidos producidos automáticamente. Una controversia puede amplificarse artificialmente. Podría crearse una impresión de ira popular.
Pero hay algo aún más grave. La inteligencia artificial está dejando poco a poco de ser un sistema responsivo. Se convierte en un sistema que actúa. Puede escribir código, utilizar herramientas, realizar tareas sucesivas, corregir errores y perseguir un objetivo con creciente autonomía. Este desarrollo lo cambia todo. Construimos nuestras democracias sobre un principio simple: todo poder debe ser controlado. Y, sin embargo, hemos permitido que una de las tecnologías más poderosas de la historia se desarrolle sin ningún debate democrático.
Algunas empresas privadas cuentan ahora con los modelos más avanzados. Ellos deciden qué usos autorizan. Cierran determinados accesos. Ellos mismos detectan usos peligrosos. A veces disponen de información inaccesible para los Estados. Esta situación es un verdadero escándalo democrático. Una tecnología capaz de cambiar la información, el trabajo, la seguridad y la guerra no puede permanecer regida principalmente por los intereses económicos de quienes la desarrollan. Por tanto, este tema debe estar en el centro de las elecciones presidenciales de 2027.
Necesitamos preguntar a los candidatos qué planean hacer. No sólo para atraer inversiones o crear campeones franceses. Hay que preguntarles dónde quieren poner los límites. ¿Qué usos deberían prohibirse? ¿Cómo proteger una elección contra la manipulación automatizada? ¿Quién debería controlar los modelos más poderosos? ¿Qué soberanía europea queremos construir? Sobre estas cuestiones, el silencio político sigue siendo ensordecedor.
Dos trastornos estructurarán nuestro siglo. El primero es el calentamiento global. Modifica las condiciones físicas de nuestra existencia. El segundo es la inteligencia artificial. Modifica nuestra capacidad de actuar sobre el mundo y sobre los demás. Perdimos décadas antes de comprender que el clima no era sólo un tema entre otros. No podemos cometer el mismo error con la IA.
El mito de Faetón nos recuerda que un nuevo poder siempre plantea una cuestión política: ¿quién tiene las riendas, según qué reglas y con qué límites? Faetón recibe el carro del Sol, pero no la maestría que debería acompañar a tal poder. Este es precisamente el riesgo que corremos con la inteligencia artificial: dejar que sus capacidades progresen más rápido que nuestra capacidad colectiva para decidir sobre sus usos.
Por lo tanto, la elección que tenemos ante nosotros no es entre el progreso y el rechazo del progreso. Es entre un poder gobernado y un poder sometido. Faetón nos advierte de una cosa sencilla: cuando un carro ya está lanzado, a veces es demasiado tarde para aprender a conducirlo.
◗ Crónica de la batalla cultural, Cada semana, Béligh Nabli, ensayista y profesora de derecho público, y Saïd Benmouffok, profesor de filosofía y concejal de la ciudad de París (antigua plaza pública), vuelven a las ideas que mueven la campaña presidencial.
Este artículo tiene carta blanca, escrito por un autor ajeno a la revista y cuyo punto de vista no compromete a la redacción.
