entre el humo y el peligro civilizacional

“Nadie, en su lecho de muerte, se arrepentirá de no haber navegado lo suficiente en Instagram, ni de no haber activado suficiente ChatGPT. » ¡Bien visto! Después del momento de fascinación por las asombrosas capacidades de la llamada inteligencia artificial generativa (IA) –ChatGPT, Claude y otros Géminis–, llega el período de duda, incluso de pánico, respecto de la velocidad de propagación de estas nuevas herramientas y sus efectos nocivos en nuestra sociedad e incluso en nuestra civilización. Tras los estimulantes ensayos de Anne Alombert y Bruno Patino, dos nuevas obras hacen sonar la alarma: “AI, le grand enfumage” de Lou Welgryn y Théo Alves Da Costa (Payot), de la que está tomada la cita anterior; y “Le Péril IA” de Gilles Babinet (Le Passeur).

Lejos de ser tecnofóbicos, los autores son los tres expertos en el mundo de la tecnología: Gilles Babinet, empresario autodidacta, copresidió el Consejo Nacional Digital antes de convertirse en el Campeón Digital de Francia ante la Comisión Europea y luego presidente de la misión Café IA, que organiza la mediación popular sobre la inteligencia artificial en todo el país. Lou Welgryn y Théo Alves Da Costa dirigen la asociación Data for Good, que brinda experiencia digital a los ciudadanos al servicio de la justicia social y ambiental y la protección de nuestras democracias.

Sus dos libros analizan la forma en que media docena de multimillonarios tecnológicos están imponiendo al planeta una marcha forzada hacia un mundo totalmente basado en IA, que transforma radicalmente nuestras formas de trabajar, de aprender, de consumir, de informarnos y entretenernos, de entablar relaciones entre nosotros… Sus autores narran los trastornos en el mundo del trabajo, el establecimiento a gran escala de “centros de datos” depredadores de recursos, los usos militares poco éticos y la ubicuidad de las tecnologías antropomórficas. robots conversacionales, que se hacen pasar por tus mejores amigos, para manipularte mejor o saquear tus datos.

Pero el principal interés de estos análisis es mostrar en qué medida los efectos considerados indeseables de esta nueva generación de IA, lejos de constituir “errores” accidentales, en realidad son el resultado de estrategias de conquista hábilmente orquestadas por un puñado de líderes industriales, dispuestos a todo para ganar esta carrera económica mundial y ser los primeros en alcanzar el Santo Grial de una IA general cuyas capacidades superarían a las de los humanos. “Le grand fumage” tiene el mérito de deconstruir metódicamente los mitos transmitidos por los tecno ideólogos libertarios de Silicon Valley:

• No, la IA no es “mágica”. Se trata de un “pastel” tecnológico complejo y costoso que beneficia a un puñado muy concentrado de empresas valoradas en cientos de miles de millones de dólares. La energía, los metales, el agua y la tierra alimentan un oligopolio industrial de IA que se basa en cinco capas entrelazadas: chips, centros de datos, datos, modelos y aplicaciones de software.

• No, las naciones no están condenadas a ganar esta carrera o desaparecer.. Esta competencia sobre grandes modelos de IA generativa, iniciada por OpenAI de Sam Altman, ha generado el temor de perder la nueva frontera de la innovación que ha contaminado a los Estados, en detrimento de la reflexión sobre la imprescindible regulación de estas tecnologías.

• No, la IA no solucionará la crisis medioambiental. Al contrario, podría contribuir a agravarlo a través de conflictos de uso entre máquinas y humanos por la electricidad y el agua, el uso de combustibles fósiles y la artificialización de la tierra.

• No, la IA no siempre estará ahí para ti. Sus ganancias de productividad están sobreestimadas y el “tiempo liberado” constituye a menudo una falsa promesa. Y su uso corre el riesgo, por el contrario, de atrofiar nuestras capacidades cognitivas y ejercer sobre nosotros una peligrosa influencia psicológica.

• No, la IA no es una herramienta neutral. Incorpora una ideología que es la antítesis de la filosofía progresista europea. Una sacralización del CI como medida exclusiva de inteligencia, eficiencia, optimización, rendimiento, en detrimento de la inteligencia emocional y la preocupación por lo colectivo.

La parte analítica del trabajo es más convincente que la que revisa las posibles soluciones –rechazar, resistir, recuperar el poder–, algunas de las cuales quizás se relacionen con cierta utopía militante.

En cuanto al ensayo de Gilles Babinet, aborda el tema en términos más filosóficos. Él, que durante mucho tiempo fue un “tecnooptimista” y elogió Internet como un factor de emancipación, ahora es mucho más escéptico. Incluso está dispuesto a culpar en parte al “aceleracionismo” tecnológico de los últimos años por el aumento del malestar que afecta especialmente a las generaciones más jóvenes y por el riesgo de una grave división social. El autor revisa los riesgos ya visibles de la progresiva subordinación a la IA: proliferación de contenidos engañosos, sesgos en los sistemas de toma de decisiones, nuevas vulnerabilidades en ciberseguridad, dependencia cognitiva y económica y, en última instancia, “desalineación” de estos programas con los valores humanistas que sustentan nuestras democracias.

También reinscribe la IA en “una reflexión más profunda sobre lo que significa ser humano”. Para él, el verdadero problema no es tanto el advenimiento de la “superinteligencia”, sino la transformación antropológica generada por la penetración de la IA en todos los compartimentos de nuestra existencia. De ahí una elección, que considera inminente y definitiva: o avanzar hacia “una asimilación a la IA” – predictivo, calculador, optimizador. O optar por “una divergencia”, para reconectarnos con lo que nos constituye profundamente: “el ser simbólico que se formó a lo largo de millones de años de evolución”.

El autor denuncia el futuro desencantado -individualista, egoísta y, en última instancia, alienante- proyectado por los líderes de la IA.. Y propone, por el contrario,“Usar el poder de la computación para liberar nuestra atención, de modo que finalmente podamos otorgar a la naturaleza y a la vida este valor arquetípico, romántico y poético, que hemos negado en favor del utilitarismo, el consumismo y la búsqueda de poder únicamente”.. Una alternativa que supone, en particular, “revalorizar prácticas que reactiven lo sensitivo: las artes, los rituales, la relación con lo vivo, la atención, la lentitud. » Una recomendación que los miembros de Data for Good no desautorizarían.