El aviso no llega desde un laboratorio tecnológico ni desde una universidad, sino desde una de las instituciones más clásicas del Estado: el Defensor del Pueblo. Ángel Gabilondo ha encendido una luz roja sobre un fenómeno que ya no puede considerarse marginal: la exposición de menores a contenidos dañinos impulsados por algoritmos en redes sociales. Y lo ha hecho con una pregunta incómoda dirigida a varias administraciones: ¿qué se está haciendo realmente para evitar que esos sistemas automáticos empujen a niños y adolescentes hacia el abismo?
La actuación abierta por la institución no es abstracta ni preventiva: nace del caso concreto de una menor que, según la denuncia de su padre, se autolesionaba y mostraba conductas suicidas tras interactuar con contenidos en la red social X, propiedad de Elon Musk. El relato, más allá de lo individual, dibuja un patrón inquietante: el algoritmo no solo acompaña el comportamiento del usuario, sino que lo amplifica, lo refuerza y lo encierra en una espiral de contenido cada vez más extremo.
El movimiento del Defensor del Pueblo introduce un cambio de tono en el debate público. Ya no se trata únicamente de discutir la responsabilidad ética de las plataformas, sino de explorar si existen responsabilidades legales —incluso penales— en la difusión automatizada de contenidos que pueden poner en peligro la vida de menores. La mención explícita a artículos del Código Penal sugiere que la frontera entre negligencia tecnológica y delito podría estar más cerca de lo que se pensaba.
Pero el fondo del asunto es aún más complejo. Las redes sociales no son espacios pasivos: son entornos diseñados para captar atención, moldear comportamientos y maximizar el tiempo de uso. En ese ecosistema, los menores —con estructuras emocionales aún en desarrollo— se convierten en usuarios especialmente vulnerables. El algoritmo aprende rápido; la madurez emocional, no tanto.
La responsabilidad difusa de un sistema opaco
El Defensor del Pueblo ha solicitado explicaciones a la Secretaría de Estado de Telecomunicaciones, al Comisionado de Salud Mental y a la Fiscalía General del Estado. La pregunta que sobrevuela todas estas peticiones es sencilla en apariencia, pero difícil en la práctica: ¿quién protege a los menores cuando el riesgo no proviene de un contenido aislado, sino de un sistema que lo recomienda de forma sistemática?
La dificultad radica en la naturaleza misma de los algoritmos. No son fácilmente auditables, operan como cajas negras y se ajustan en tiempo real. Esto convierte cualquier intento de supervisión en un desafío técnico y jurídico. Aun así, la presión institucional está aumentando, y el caso español se inscribe en una tendencia global.
Europa aprieta, las plataformas resisten
El toque de atención de Gabilondo coincide con advertencias similares en otros países. En Reino Unido, el regulador Ofcom ha acusado a plataformas como TikTok o YouTube de no hacer lo suficiente para proteger a los menores. Las cifras son elocuentes: una mayoría significativa de adolescentes reconoce haber encontrado contenido perjudicial, muchas veces a través de recomendaciones automáticas.
En paralelo, la Unión Europea trata de marcar el paso con el Reglamento de Servicios Digitales, aunque limita la capacidad de los Estados para imponer obligaciones adicionales. Este choque entre soberanía nacional y regulación comunitaria añade otra capa de complejidad al problema.
La ofensiva política: entre la protección y el control
El debate ha llegado también al corazón del poder político. El presidente del Gobierno, Pedro Sánchez, ha llegado a calificar las redes sociales como un “Estado fallido”, proponiendo medidas como prohibir el acceso a menores de 16 años o responsabilizar penalmente a los directivos de las plataformas.
Estas propuestas abren un dilema delicado: ¿hasta qué punto la protección de los menores justifica limitar el acceso o endurecer el control sobre el entorno digital? La línea entre seguridad y restricción de libertades no siempre es nítida.
El algoritmo como actor invisible
Quizá la mayor novedad del enfoque del Defensor del Pueblo sea precisamente señalar al algoritmo como un actor con capacidad de daño. No como una herramienta neutral, sino como un sistema que, al optimizar la atención, puede terminar promoviendo contenido autodestructivo.
Este cambio de mirada tiene implicaciones profundas. Si el algoritmo deja de ser considerado un mero intermediario y pasa a ser entendido como un agente activo, el marco legal y regulatorio deberá adaptarse. Y con él, también la forma en que la sociedad entiende el riesgo digital. @mundiario