Publicado en
Tiempo de lectura: 3 min.
Co -fundador del público colectivo de Le Sens Du Service y Director Gerente Adjunto responsable de los recursos de la Ciudad de Rennes y Rennes Métropole, el alto funcionario Johan Theuret Alertas sobre los efectos colaterales que el uso de IA puede tener en los servicios públicos. Comenzando con la deshumanización.
Este artículo es un foro, escrito por un autor fuera del periódico y cuyo punto de vista no involucra al personal editorial.
El desarrollo de la inteligencia artificial (IA) no puede ser la respuesta a todas las dificultades de la gestión pública. A priori, la idea es atractiva: ¿quién no querría una administración más rápida y menos costosa, y capaz de hacerlo mejor con menos? Pero detrás del entusiasmo tecnológico a veces esconde falsas ilusiones. El error sería creer que al reemplazar ciertos procesos humanos con algoritmos, podríamos reducir mecánicamente el gasto público sin efectos colaterales en el funcionamiento de los servicios públicos.
Tome el ejemplo de la desmaterialización de los procedimientos administrativos. Se supone que simplifica la vida de los usuarios y genera ahorros, también ha ayudado a aumentar la brecha digital y degradar la relación de proximidad entre la administración y los ciudadanos. En 2024, casi el 35 % de los franceses declararon encontrar dificultades con los servicios públicos en línea. Con el apresurado despliegue de IA, no reproduzcamos errores en la desmaterialización.
La inteligencia artificial generativa (IAG) puede mejorar los servicios públicos, pero solo si se considera una herramienta al servicio de los humanos, y no como una solución milagrosa para llenar los déficits públicos. Frente a la moda, es urgente ser discernible.
AI abre, por supuesto, perspectivas interesantes para la administración. Puede liberar el tiempo reduciendo las tareas manuales repetitivas, como la gestión del correo, la redacción de sintetzas o la respuesta a preguntas frecuentes. Puede automatizar el procesamiento de solicitudes de información o formularios, lo que disminuye los tiempos de respuesta y optimiza los recursos humanos. Del mismo modo, en el sector de la salud, AI le permite anticipar mejor los picos en la demanda de servicios, como consultas o hospitalizaciones, lo que ayuda a asignar mejor los recursos. Estas ganancias de productividad no solo reducen los costos, sino también para mejorar la calidad de los servicios prestados a los usuarios.
En Francia, ciertas estimaciones mencionan un potencial muy aproximado de 2 mil millones a 3 mil millones de euros en ahorros anuales, principalmente gracias a la automatización de los procedimientos y la racionalización de los procesos internos. Pero estas cifras deben tomarse con precaución: a menudo no tienen en cuenta los costos de implementación, capacitación, supervisión humana o riesgos asociados.
La integración de IAG en servicios públicos, por otro lado, incluye riesgos concretos. El primero es el de la deshumanización. Si la IA se usa para reducir los puntos de contacto humano, como se ha hecho con la desmaterialización, esto podría acentuar la pérdida de enlace con los usuarios. Ya, uno de cada cinco franceses se siente excluido de los servicios públicos.
El ilectronismo sigue siendo un problema importante: casi 13 millones de franceses todavía están lejos de ser digitales, según Insee. Usar AI para ocultar la escasez de personal o eliminar la recepción física solo empeoraría esta fractura. Por lo tanto, es crucial que esta tecnología se use para enriquecer, y no empobrecer, la relación de servicio.
En términos de seguridad, el problema es igual de central. En términos de ciberseguridad, la Agencia Nacional para la Seguridad de los Sistemas de Información ha advertido sobre riesgos específicos vinculados a la IA, como fugas de datos confidenciales, envenenamiento de modelos y dependencia de servicios de terceros no garantizados. El uso de modelos AI no controlados o mal seguros puede exponer las administraciones a los ataques, lo que compromete la confidencialidad de los datos públicos y la confiabilidad de los servicios prestados.
A estas influencias maliciosas se agregan para el defensor de los derechos, de acuerdo con la elección de los datos y la configuración de algoritmos, los riesgos de discriminación contra ciertas poblaciones. El origen de los datos de capacitación, su falta de transparencia y el control humano insuficiente pueden causar errores de tratamiento y discriminación contra los usuarios.
El otro gran riesgo vinculado a la IA es el de una pérdida gradual de habilidades en el servicio público. Si los agentes descansan demasiado en las sugerencias automáticas de IA, su capacidad para analizar, decidir o adaptarse podría flotar con el tiempo. Si estas tareas son totalmente compatibles con los sistemas automatizados, es probable que los empleados terminen con las funciones de supervisión o gestión de herramientas en lugar de la toma de decisiones o la interacción humana. Esta “descalificación suave” finalmente amenaza la capacidad de respuesta, la calidad de los servicios y fortalece la falta de flexibilidad en la interpretación de las decisiones.
Un estudio de abril de 2024 del Instituto Nacional de Estudios Territoriales indica que el impacto de la IA debería ser muy importante para aproximadamente uno de cada cinco empleos dentro de las autoridades locales, mientras que el 55 % de las posiciones no deberían verse afectadas y el 25 % sería débil. Esto subraya la necesidad de proporcionar reentrenamiento y apoyo a largo plazo. Para evitar la descalificación excesiva, es crucial apoyar la introducción de la IA mediante estrategias de educación continua.
AI puede transformar positivamente los servicios públicos, siempre que no le asigne objetivos falsos. Porque pensar que solo reducirá el déficit público es una creencia tan tentadora como enterrada. Si está mal supervisado, corre el riesgo de reproducir los errores de la desmaterialización: pérdida de lazos sociales, división digital, sentimiento de abandono. Si está bien pensado, puede facilitar los servicios públicos más accesibles.
