Por Gabriela Ramos y Emilija Stojmenova Duh, Project Syndicate.
PARÍS- La inteligencia artificial generativa surgió hace menos de cuatro años, y ya provocó una serie de momentos ”putnik”. Así como en 1957 la puesta en órbita del primer satélite artificial por parte de la Unión Soviética atizó la modernización del programa espacial estadounidense, el lanzamiento en noviembre de 2022 de ChatGPT, un gran modelo de lenguaje con un nivel de complejidad sin precedentes, despertó admiración y temor en todo el mundo. Otras empresas tecnológicas se apresuraron a desarrollar herramientas similares, a pesar de las advertencias de numerosos expertos (entre ellos Yoshua Bengio y Geoffrey Hinton, pioneros de la IA) acerca del posible «riesgo de extinción» implícito en esta tecnología.
El siguiente “momento Sputnik” fue en enero de 2025, cuando una startup china lanzó la primera versión de DeepSeek, un modelo de vanguardia con un costo computacional mucho menor al de los sistemas estadounidenses rivales. Eso sembró dudas sobre la supuesta inexpugnabilidad de la ventaja tecnológica de los Estados Unidos y la creencia en que se podía frenar la competencia poniendo trabas al acceso a chips.
Pero quizás el “momento Sputnik” más inquietante fue la llegada en abril del modelo Mythos de Anthropic, que con su capacidad para identificar vulnerabilidades en sistemas financieros, redes de pago y otras infraestructuras críticas, señaló un aparente cambio cualitativo en lo que los modelos de IA pueden hacer. Mythos acerca la IA a la “superinteligencia”: parece inminente el surgimiento de modelos con posibilidad para el autoaprendizaje, con los consiguientes límites al control humano. El hecho de que la decisión de hacer un despliegue controlado del nuevo modelo haya surgido de Anthropic, en vez de algún organismo gubernamental (Estados Unidos demoró hasta hace muy poco tomar medidas tras el lanzamiento público) pone de relieve la flagrante ausencia de gobernanza en el área de la IA.
Las consecuencias pueden ser terribles. Basta pensar en EternalBlue, una técnica de explotación de vulnerabilidades de software desarrollada por la Agencia de Seguridad Nacional de los Estados Unidos. Poco después de que se filtrara en 2017, un grupo de hackers la usó para el ataque de ransomware WannaCry contra el Servicio Nacional de Salud del Reino Unido, que obligó a cancelar casi 7 mil citas. EternalBlue también estuvo detrás del ciberataque NotPetya contra el gigante mundial de transporte marítimo Maersk, que causó daños del orden de los 10 mil millones de dólares. Si ese fue el resultado de una sola vulnerabilidad revelada, mejor no pensar lo que pasaría si Mythos (que ya detectó más de 10 mil vulnerabilidades) cayera en manos equivocadas.
La respuesta gubernamental a estos hechos ha sido muy insuficiente. Es verdad que diversos organismos internacionales han tratado de dar orientaciones para un uso responsable de la IA; por ejemplo la Recomendación de la UNESCO sobre la Ética de la IA, el Convenio Marco del Consejo de Europa sobre IA y Derechos Humanos, los Principios de la OCDE sobre IA y el Pacto Digital Global de las Naciones Unidas. Estas iniciativas (a las que hemos contribuido) reconocen que de nada sirven innovaciones que no respeten los derechos humanos y la dignidad de las personas.
Pero hasta ahora, la Unión Europea es la única jurisdicción que convirtió esas enseñanzas en legislación, con su Ley de IA de 2024. Sin embargo, su implementación ya va por mal camino. El «código de buenas prácticas» que ofrece a las empresas tecnológicas pautas para el cumplimiento de dicha ley (incluidos compromisos específicos para proveedores de modelos con riesgo sistémico) es de aplicación voluntaria. Además, el paquete ómnibus digital postergó hasta diciembre de 2027 la aplicación de las obligaciones vinculantes para sistemas autónomos de alto riesgo (que estaba prevista para agosto de 2026).
Las cumbres sobre seguridad de la IA convocadas por el Reino Unido, Francia y la India generaron algunos resultados útiles, en particular la creación de institutos de seguridad a los que se ha dado el mandato de colaborar en una red global. Además, la orden ejecutiva emitida en 2023 por el presidente Joe Biden introdujo políticas razonables para garantizar la seguridad y protección de los sistemas de IA. Pero estas iniciativas sufrieron un importante revés con la llegada de la administración Trump, que revocó la orden ejecutiva y redobló la apuesta por los mismos incentivos (búsqueda de beneficios y competencia por la ventaja geopolítica) que impulsaron la carrera de la IA desde el principio.
La llegada de Mythos puso de relieve las incoherencias y contramarchas del gobierno estadounidense. En junio, Trump firmó una orden ejecutiva para ampliar la supervisión federal de los modelos de vanguardia, una medida razonable, que pide a agencias y desarrolladores colaborar en la realización de pruebas de ciberseguridad antes de los lanzamientos. Pero la participación en el marco es voluntaria.
Unas semanas después, el Departamento de Comercio impuso controles a la exportación de los últimos modelos de Anthropic, sin pruebas claras ni consultas previas. La decisión, que se presentó como una medida de seguridad nacional, limita la supervisión democrática, genera malestar en socios de Estados Unidos y realza el atractivo de los modelos de código abierto (un regalo para China). Además, el gobierno no explicó por qué puso en la mira a los modelos de Anthropic y no los de OpenAI (que son igual de potentes), lo que generó suspicacias, en momentos en que esas empresas preparan su salida a bolsa.
En todos estos episodios, lo que llama la atención es la falta de previsión. En vez de prepararse para perturbaciones futuras, las autoridades corren a responder a la última. Pero las capacidades de autoaprendizaje de los modelos de vanguardia sugieren que los próximos avances no serán graduales; por el contrario, lo más probable es que sean repentinos y con efectos acumulativos, lo que dejará menos tiempo para adaptarse que antes. Los marcos voluntarios, las autoevaluaciones de la industria y las cumbres que terminan con declaraciones en vez de compromisos vinculantes no nos prepararon para lo que se avecina.
El “momento Sputnik” original generó una reorientación real de prioridades, instituciones y recursos. El gobierno estadounidense creó la NASA y aumentó la inversión pública en ciencia y tecnología; y once años después, llevó una misión tripulada a la Luna.
Por supuesto, las condiciones geopolíticas actuales son muy diferentes a las de la Guerra Fría. Pero las autoridades deben prestar atención a las enseñanzas de estos avances en IA (cada uno de ellos más potente que el anterior). Para que los modelos de IA (sobre todo aquellos con capacidad para trastornar los mercados laborales y transformar los sistemas sanitarios y educativos) estén en línea con los valores sociales, los gobiernos deben fomentar el debate democrático e instituir mecanismos de protección significativos. No hacerlo sería invitar al desastre. Copyright: Project Syndicate, 2026.
Gabriela Ramos, copresidenta del Grupo de Trabajo sobre Desigualdades y Divulgación de Información Financiera de Carácter Social, fue subdirectora general de Ciencias Sociales y Humanas de la UNESCO, donde supervisó la elaboración de la Recomendación sobre la Ética de la IA, y jefa de gabinete y «sherpa» de la OCDE ante el G20, el G7 y la APEC.
Emilija Stojmenova Duh, profesora asociada de Ingeniería Eléctrica en la Universidad de Liubliana, es integrante del consejo directivo de la Fundación Globethics y del panel científico para la IA de la UE y exministra de transformación digital de Eslovenia.