El Gobierno español presentó este martes, junto a una veintena de países y organismos internacionales, la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial (IA), un grupo de trabajo creado dentro del diálogo de Naciones Unidas sobre la gobernanza de esta tecnología.
La iniciativa pretende coordinar a gobiernos, instituciones multilaterales, compañías tecnológicas y organizaciones sociales para que los sistemas de inteligencia artificial respeten principios básicos relacionados con la seguridad, el bienestar y el desarrollo de los menores.
El acuerdo parte de una realidad cada vez más evidente: la IA ya forma parte de los espacios donde los niños estudian, se relacionan y consumen información. Herramientas educativas, asistentes virtuales o plataformas de entretenimiento ofrecen nuevas oportunidades, pero también abren la puerta a amenazas difíciles de controlar.
La coalición cuenta con el respaldo de países como Francia, Kenia y varios Estados miembros de la Unión Europea, además de organizaciones como Unicef, Unesco, la Oficina del Alto Comisionado de Naciones Unidas para los Derechos Humanos y la Unión Internacional de Telecomunicaciones. Sin embargo, no participan Estados Unidos ni China, dos potencias clave por albergar a buena parte de las empresas que lideran la carrera mundial de la inteligencia artificial.
Los riesgos de la IA para niños y adolescentes van más allá de las redes sociales
El documento aprobado por los integrantes de la alianza advierte de que el despliegue acelerado de la inteligencia artificial puede intensificar problemas que ya afectan al entorno digital de los menores.
Entre los peligros señalados figuran la manipulación de contenidos, la exposición a información perjudicial, la creación de imágenes falsas mediante tecnología deepfake y la generación de material de abuso sexual infantil. Además, los sistemas basados en algoritmos pueden utilizar grandes cantidades de datos personales para influir en los comportamientos de los usuarios más jóvenes.
El ministro de Transformación Digital y de la Función Pública, Óscar López, defendió durante la presentación que la protección de los menores debe mantenerse también en el ámbito digital. Según sus palabras, las empresas tecnológicas deben asumir una mayor responsabilidad sobre el uso que hacen de los datos y sobre los efectos de sus productos en la infancia.
La nueva coalición busca precisamente impulsar modelos de IA considerados seguros, transparentes y centrados en las personas, con especial atención a quienes tienen menos capacidad para identificar riesgos o defender sus propios derechos.
La próxima batalla regulatoria: controlar los nuevos compañeros digitales
Hasta ahora, gran parte del debate internacional sobre la protección infantil en internet se ha centrado en las redes sociales. Distintos gobiernos han comenzado a estudiar restricciones de acceso para menores y algunos países ya han aprobado medidas para limitar su uso.
Pero la expansión de la inteligencia artificial plantea un escenario diferente. Los menores no solo consumen contenidos creados por algoritmos, sino que cada vez interactúan con sistemas capaces de mantener conversaciones, crear vínculos emocionales o actuar como asistentes personales.
Expertos en tecnología y seguridad digital advierten de que estos llamados “amigos digitales” pueden reproducir problemas similares a los detectados en las redes sociales si no cuentan con controles adecuados. La preocupación es que la IA pueda convertirse en una herramienta de influencia más profunda al establecer relaciones más personalizadas con los usuarios jóvenes.
La alianza impulsada por España pretende anticiparse a ese escenario y abrir una nueva etapa de cooperación internacional. El reto será transformar los compromisos políticos en normas concretas capaces de proteger a la infancia sin frenar el potencial educativo y social de una tecnología que seguirá creciendo. @mundiario