El 18 de febrero, en un tribunal de California, Mark Zuckerberg, director general de Meta, presentó una declaración en la que defendió la idea del control de identidad en la fuente, desde los sistemas operativos de los teléfonos móviles.
Manteniendo esta línea durante mucho tiempo, Zuckerberg tuvo que defenderse en un proceso en el que el demandante le acusó de haber diseñado sus plataformas de tal manera que hacía dependientes a los usuarios. KGM, usuaria de Instagram desde los 9 años, que ahora tiene 20, habría visto empeorar su depresión y su salud mental.
Sabemos desde las revelaciones de Edward Snowden en 2011 que Facebook fue diseñado como una herramienta de vigilancia. No es casualidad que los planes para prohibir a los menores el acceso a las redes sociales estén aumentando en todo el mundo y sumándose a las propuestas de las grandes plataformas. El ingeniero y ex empleado de Meta Arturo Béjar (Noticias AP, 19 de agosto de 2026) acusa a la firma de haber priorizado las ganancias sobre la seguridad de los usuarios, adoptando un enfoque “no preguntes, no digas” sobre el daño causado a los adolescentes que utilizan Facebook e Instagram. El señor Béjar concluye: “A Mark Zuckerberg simplemente no se le pueden confiar los niños. »
El lobby constante de la empresa para aprobar leyes que establezcan la verificación de la identidad de los usuarios es, por tanto, la búsqueda de una estrategia coherente de ofuscación, que permita evitar preguntas sobre las decisiones tomadas internamente. En consecuencia, el establecimiento de un control de identidad digital, como el votado por la Asamblea Nacional, para acceder a las redes sociales, no ataca la raíz del problema, aunque plantea un problema de libertades fundamentales.
El abogado Brunessen Bertrand explicó en las columnas de “Le Monde” del 29 de julio que “la ley adoptada (…) Sólo podemos proteger los datos de unos pocos organizando la recopilación de la edad, si no la identidad, de todos los demás”.
Este es precisamente uno de los argumentos del Consejo Constitucional, que censuró esta disposición al considerar que se trata de un ataque desproporcionado a la vida privada.
En efecto, la ley que prohíbe el uso de las redes sociales a menores de 15 años impone a los usuarios una responsabilidad que recae en las grandes plataformas y en el Estado, sin proteger a los usuarios, sean menores o no.
Por lo tanto, resulta especialmente preocupante observar que la explotación de una causa loable, en este caso la protección de los niños, haga que muchas mentes perspicaces pierdan de vista la protección de las libertades fundamentales.
Entonces, ¿qué debemos hacer para seguir tomando en serio la cuestión de la salud mental de los usuarios de las redes sociales, no sólo de los menores?
Quizás podríamos empezar reconociendo que las plataformas digitales están diseñadas tanto para maximizar” compromiso ” de sus usuarios y, a partir de ahí, extraer de ellos la mayor cantidad de datos posible, datos que la filósofa Shoshana Zuboff llama un “excedente de comportamiento”.
Por lo tanto, para garantizar que sigan siendo accesibles y habitables, estas plataformas piden “limpiadores web”, Anotadores especializados: moderadores de contenido, muy a menudo empleados a través de subcontratistas.
Hace tiempo que Meta puede deducir la edad de sus usuarios, pero también controlar el acceso de los menores. Esto es lo que confirman los antiguos moderadores: Nicolas (el nombre ha sido cambiado), que trabajó hasta abril de 2025 moderando Messenger en Barcelona, explica que un “AI” de Meta calculado “una edad aproximada” en función de la actividad del usuario en la red, sus gustos, por ejemplo. Dice recordar a los usuarios que declararon “tener 13 o 14 años”pero quién según “inteligencia artificial”tenía más bien 25 o 30. Este método permite al menos dos cosas para la plataforma: una negación plausible si se la acusa de no verificar las edades de sus usuarios, por un lado, y el desarrollo de otra herramienta de vigilancia más a menor coste, por el otro.
El tribunal de justicia estadounidense, que a principios de agosto de 2026, además de imponer una multa de 942 millones de dólares a Meta, concluyó que la plataforma debe “Continuar mejorando sus herramientas de verificación de edad en Nuevo México. (…) para determinar la edad de las personas en función de señales como sus amigos y el contenido que consumen » parece no haber estado al tanto de esta práctica (“The Guardian”, 7 de agosto de 2026).
En Barcelona, cerca de 2.000 de ellos fueron despedidos en abril de 2025. Si regularmente se invocan avances en inteligencia artificial para justificar estos planes sociales (“The Financial Times”, junio de 2026), está claro que su despido se produjo una semana después de una decisión que condenaba al subcontratista por discriminación salarial (“El Nacional”, abril de 2025). En mayo pasado, en Dublín, Covalen expulsó a más de 700 de ellos con el mismo pretexto.
Sujetos a cláusulas de confidencialidad y a condiciones laborales deplorables, algunas empresas incluso los obligan a renunciar al ejercicio de sus derechos fundamentales. Como reveló el medio irlandés «The Journal» en julio de 2026, TikTok ofreció a sus moderadores mejores condiciones de despido si renunciaban a ejercer su derecho de acceso a sus propios datos y presentaban una denuncia ante la CNIL irlandesa, una práctica que, sin embargo, era ilegal.
Si los legisladores quisieran tomarse en serio la cuestión de la protección de los menores, deberían reconocer que se trata de algoritmos de moderación de contenidos y de las condiciones generales de uso de la plataforma. Esto significa prestar atención al trabajo de los moderadores en la primera línea del contenido.
Existe un tipo de documentación interna de estas plataformas que revela claramente su posición. Se trata de guías de moderación: en constante modificación, ayudan a explicar por qué se moderan los contenidos, pero también por qué este ejercicio nunca estará completamente automatizado.
Están surgiendo dos prioridades. En primer lugar, garantizar que los moderadores de contenidos tengan condiciones laborales dignas en términos de ingresos, pero también en términos de manejo de riesgos psicosociales muy elevados.
En segundo lugar, trate las guías de moderación como objetos políticos. Los moderadores los conocen bien y sus testimonios contribuyen en gran medida a comprender ciertos límites de las plataformas: por qué no se eliminan los contenidos spam o fraudulentos, por qué no se eliminan las cuentas que identifican como pertenecientes a depredadores sexuales, por qué ciertos contenidos, aunque potencialmente peligrosos, se escapan.
Son por tanto estas guías, así como las condiciones generales de uso, las que deben estar sujetas a revisión por parte de los usuarios y de los propios moderadores de contenidos; porque no es el acceso a la plataforma lo que plantea el problema, sino su diseño.
Entonces, se abordará adecuadamente el tema de la salud mental juvenil, es decir, junto con la propaganda política y las operaciones de injerencia extranjera, como síntoma de esta arquitectura de vigilancia y atención.
◗ Thomas Le Bonniec Es estudiante de doctorado en sociología en el Instituto Politécnico de París. Le interesa la relación entre el modo de producción de la inteligencia artificial y la normativa europea sobre protección de datos. En 2019, entonces anotador de datos, alertó sobre las grabaciones realizadas por Apple a través de su asistente de voz, Siri. A raíz de una denuncia de la LDH, la fiscalía de París anunció que había asumido el caso en octubre de 2025.
◗ Neil Seghier Es estudiante de doctorado en Estudios Políticos en la EHESS y docente en el Institut des Mines-Télécom. Su tesis se centra en las prácticas de moderación de contenidos y la regulación de plataformas online. Desde 2018 sigue a los moderadores de contenidos de Meta de Barcelona, actualmente procesados por daños psicológicos, discriminación salarial y despido improcedente.
Este artículo es una columna, escrita por un autor ajeno al periódico y cuyo punto de vista no compromete a la redacción.
