“Desarmar” inteligencia artificial (IA) e ir más allá del concepto de “guerra justa” : El Papa León XIV toma posiciones firmes contra la guerra y los excesos de la tecnología en su encíclica “Magnífica Humanitas” (La Humanidad Magnífica), publicado este lunes 25 de mayo por el Vaticano.
Guerras, IA, crisis del multilateralismo, cambio climático… El Papa estadounidense responde, en este texto de 130 páginas, a numerosos desafíos contemporáneos haciéndose pasar por defensor de la dignidad humana en la era de la revolución digital. Junto a altos funcionarios de la Santa Sede y expertos de AI, el propio soberano pontífice participó este lunes en la presentación de su primera encíclica en el Vaticano. Un gesto poco común que testimonia la importancia que concede a esta carta, dirigida a todos los fieles.
El Papa dice que tomó este texto de “escuchando”después de conversaciones con científicos, figuras políticas e incluso profesores “preocupado” para las generaciones más jóvenes. “Magnífica humanidad” completa varios años de reflexión de la Iglesia sobre la IA: en 2020, la Santa Sede lanzó, con empresas digitales e instituciones académicas, el“Llamado desde Roma a la ética de la IA”a favor de tecnologías que respeten la dignidad humana.
En su encíclica, el Papa León XIV lanza un poderoso llamado a supervisar y regular los algoritmos. Firmada el 15 de mayo, en el 135º aniversario de la encíclica Rerum Novarum (1891), que sentó las bases de la doctrina social de la Iglesia, esta nueva encíclica establece una posición de referencia sobre cuestiones sociales o teológicas, aquí especialmente centrada en la IA. El Papa recuerda que la tecnología “no es en sí mismo un mal” pero que ella “toma la cara de quienes lo diseñan, lo financian, lo regulan y lo utilizan”.
Como la IA no puede” ser considerado moralmente neutral”es apropiado “desarmar” Para “evitar que domine a los humanos”asegura el Papa agustino. Recordando algunos “usos manifiestamente inhumanos” como la manipulación de la información o la violación de la privacidad, el Papa insiste en la necesidad de un código ético común sobre la IA, así como en el papel crucial de la educación para aprender a controlar sus riesgos.
Especialmente desde hoy, “El control de las plataformas, las infraestructuras, los datos y la potencia informática no pertenece a los Estados, sino a los grandes actores económicos y tecnológicos” OMS “fijar las condiciones de acceso, las reglas de visibilidad y las posibilidades de participación”lamenta el soberano pontífice. Según las Naciones Unidas, la IA también podría valer hasta 4,8 billones de dólares para 2033, concentrada en manos de un número limitado de actores. Esto corresponde a un aumento de 25 veces en el espacio de una década. Ya en 2025, la ONU advirtió sobre una “vacío peligroso” en materia de regulación.
El Papa llega incluso a denunciar “nuevas formas de esclavitud”nace de la necesidad de extraer recursos necesarios para el uso de la inteligencia artificial (IA), como los microprocesadores.
“En algunas partes del mundo, adolescentes y niños trabajan en condiciones peligrosas moliendo materiales de tierras raras. Cuerpos marcados, mutilados, desgastados para que el flujo de cálculo no se interrumpa »denuncia. El obispo de Roma aprovechó también la ocasión para preguntar “sinceramente lo siento” por el retraso con el que la Iglesia condenó “el flagelo de la esclavitud” a lo largo de la historia.
El Papa también está preocupado por el riesgo de “deshumanización”advirtiendo contra una visión de los humanos reducidos a sus actuaciones o a los datos explotados por las máquinas.
“Necesitamos que más actores en todo el mundo – comunidades religiosas, sociedad civil, investigadores, gobiernos – hagan lo que Su Santidad hizo aquí: tomar esto en serio, observar con atención y dirigir los acontecimientos en una mejor dirección”declaró Christopher Olah, cofundador de la start-up estadounidense Anthropic, presente durante la presentación de la encíclica.
En este manifiesto, León XIV también pide ir más allá del concepto de “guerra justa” movilizado en particular por la administración de Donald Trump, creyendo que esta teoría es “Invocado con demasiada frecuencia para justificar cualquier guerra”. El Papa lamenta que “ la humanidad (está) deslizándose hacia una cultura violenta del poder” que normaliza la guerra como “instrumento de política internacional”. Básicamente, ve una crisis del multilateralismo, que “Se parece más a un multipolarismo desordenado y conflictivo”.
Es más, denuncia la delegación de decisiones letales a la tecnología. “Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”escribe el jefe de la Iglesia católica, reiterando su condena del uso de la IA en el ámbito militar. Ya en abril, el Papa había afirmado que “Dios no escucha las oraciones de quienes hacen la guerra”a la luz del conflicto con Irán. Una declaración criticada por la Casa Blanca.
En este manifiesto, el Papa pide justicia social más de diez veces. El considera que “la situación de los migrantes, refugiados y todos aquellos obligados a desplazarse debido a la pobreza, la violencia y el cambio climático” parece ser “prueba de fuego” por esta justicia social. Además, nos invitan a abordar la “causas fundamentales que impulsan la migración, incluidas aquellas relacionadas con la injusticia económica y la crisis climática”.
León XIV también pide impedir el surgimiento “nuevas formas de exclusión y privación de libertad” en la era de la IA, en particular negando o restringiendo el acceso a técnicas básicas. Desde su elección, el Papa también ha subrayado la necesidad de “alfabetización digital”.
En esta encíclica también menciona el uso de algoritmos “opaco” OMS “reproducir la discriminación”, sin nombrarlos precisamente. Lo suficiente como para hacernos pensar en el software de reconocimiento facial utilizado en particular por la policía de inmigración ICE en Estados Unidos.
