La inteligencia artificial ha llegado a uno de los escenarios donde se deciden las grandes cuestiones de seguridad mundial: el Consejo de Seguridad de Naciones Unidas. Allí, algunos de los principales responsables de la industria tecnológica han defendido una idea que hasta hace poco parecía impensable: que el desarrollo de los sistemas más avanzados de IA necesita supervisión externa. Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, máximo responsable de Anthropic, dos de las compañías que lideran la carrera por crear modelos cada vez más potentes, pidieron a los gobiernos establecer mecanismos internacionales de control ante los posibles riesgos de esta tecnología.
La intervención supone un giro en el discurso de Silicon Valley. Durante años, las grandes empresas tecnológicas han defendido la innovación rápida como motor del progreso, aunque en los últimos meses sus propios dirigentes han advertido de que la evolución de los llamados modelos de frontera puede abrir escenarios difíciles de controlar.
Amodei fue uno de los más contundentes al definir la magnitud del desafío. El ejecutivo de Anthropic afirmó que los riesgos asociados a los sistemas más avanzados de inteligencia artificial representan “el problema de seguridad global más importante” al que se enfrenta actualmente el planeta. Altman, por su parte, señaló que la industria no debe asumir riesgos tecnológicos únicamente porque los beneficios potenciales sean enormes.
La petición de ambos líderes plantea una contradicción que marca el debate actual: las empresas que compiten por desarrollar la IA más poderosa son también las que reclaman límites para esa misma carrera. En lugar de frenar sus investigaciones, sus responsables proponen que sean los organismos internacionales quienes establezcan normas comunes para evaluar capacidades, anticipar amenazas y crear protocolos de seguridad.
La nueva batalla por controlar una tecnología estratégica
El debate en Naciones Unidas también tuvo una dimensión geopolítica. La inteligencia artificial se ha convertido en una pieza clave de la competencia tecnológica entre grandes potencias, especialmente entre Estados Unidos y China. Altman defendió que los países deben cooperar incluso cuando mantienen rivalidades, al considerar que ninguna nación puede afrontar sola las consecuencias de una tecnología con impacto global.
Amodei coincidió en esa visión y reclamó acuerdos internacionales que impidan que empresas o gobiernos desarrollen sistemas capaces de provocar daños a gran escala sin controles adecuados. Entre las medidas planteadas figura la prohibición del uso de inteligencia artificial para facilitar la creación de armas biológicas y la creación de mecanismos independientes que puedan verificar la seguridad de los modelos.
La preocupación no se limita a los escenarios extremos. El crecimiento de la IA ya ha abierto conflictos relacionados con ciberseguridad, manipulación de información, privacidad y concentración de poder tecnológico. La velocidad con la que evolucionan estos sistemas dificulta que las instituciones públicas diseñen normas al mismo ritmo que las compañías lanzan nuevas herramientas.
Entre la regulación y el miedo a frenar la innovación
En la misma sesión participó Yoshua Bengio, uno de los investigadores considerados pioneros de la inteligencia artificial moderna. El científico defendió que los desarrolladores deben demostrar ante expertos independientes que sus sistemas son seguros antes de desplegar capacidades avanzadas.
Sin embargo, no todos los participantes compartieron una visión centrada en la amenaza. Clément Delangue, consejero delegado de Hugging Face, advirtió contra las narrativas basadas exclusivamente en el miedo y defendió que los modelos abiertos pueden servir como una herramienta para distribuir conocimiento y evitar que la tecnología quede concentrada en un reducido grupo de compañías.
Mientras algunos líderes tecnológicos piden mayor vigilancia, otros alertan del riesgo de que una regulación excesiva termine dejando el control de la IA únicamente en manos de gobiernos y grandes corporaciones.
Zuckerberg defiende una visión más optimista de la IA
Desde otro escenario, Mark Zuckerberg, fundador y director ejecutivo de Meta, ofreció una interpretación diferente del futuro de la inteligencia artificial. Durante el evento Meta Connect 2026, defendió que el desarrollo de esta tecnología debe centrarse en ampliar las capacidades de las personas y no en limitar su acceso.
El empresario aseguró que construir inteligencia artificial es “un acto de amor” y sostuvo que el principal riesgo sería concentrar demasiado poder tecnológico en unos pocos actores. Zuckerberg ha defendido en ocasiones anteriores que un exceso de control estatal podría convertirse en un obstáculo para la innovación.
El choque de perspectivas refleja una de las grandes preguntas de la próxima década: si la inteligencia artificial será una herramienta distribuida capaz de transformar la sociedad o una tecnología estratégica controlada por unas pocas empresas y países. La reunión de la ONU no resolvió esa cuestión, pero sí confirmó que sus propios impulsores ya consideran que el futuro de la IA no puede decidirse únicamente dentro de los laboratorios privados. @mundiario
