PRINCETON—El papa León XIV se acaba de pronunciar sobre el tema más acuciante de nuestro tiempo: el auge de la inteligencia artificial y el reconocimiento de que la capacidad tecnológica de la humanidad avanza más rápido que las instituciones diseñadas para regularla. En su primera encíclica, Magnifica Humanitas, León advierte que la IA sin restricciones corre el riesgo de subyugar a la humanidad; con medidas de seguridad, puede garantizar su prosperidad. Pero, por muy poderosas que sean las palabras de León desde un punto de vista moral, parece improbable que la Iglesia Católica pueda marcar la agenda tecnológica global.
La intervención gubernamental tampoco parece prometedora. La IA encarna un problema transnacional que exige un marco de gobernanza multilateral. Sin embargo, esto es poco probable en un momento en que Estados Unidos está renunciando a su liderazgo global, en que Estados Unidos y China compiten por dominar las tecnologías de vanguardia, en que India persigue la autonomía estratégica y en que la mayor parte del mundo en desarrollo se centra en el crecimiento, no en la limitación. Simplemente, no existen las condiciones políticas para un “Bretton Woods de la IA”.
Sin embargo, aún queda una poderosa herramienta por utilizar, y que no depende de la cooperación de rivales ni de la capacidad de respuesta de gobiernos en dificultades. El capital, y las instituciones que lo controlan a gran escala, pueden ser los actores de gobernanza más importantes y menos comprendidos de nuestra era.
Los fondos soberanos, los sistemas de pensiones públicas y las grandes fundaciones gestionan en conjunto más de 75 billones de dólares, lo que representa alrededor del 70% del PIB mundial. Tienen la obligación fiduciaria de buscar rendimientos a largo plazo, lo que requiere un sistema económico estable que pueda generar esa rentabilidad.
Para las empresas tecnológicas individuales, asumir un mayor riesgo puede ser racional si les reporta una ventaja competitiva. Para los estados-nación, acelerar la capacidad tecnológica a cualquier precio puede ser racional si modifica el equilibrio de poder (pensemos en el Proyecto Manhattan de Estados Unidos para desarrollar la bomba atómica). Pero para las instituciones de inversión que controlan una participación mayoritaria en la economía mundial, un fracaso catastrófico en cualquier ámbito conlleva pérdidas en todas partes, lo que supone una amenaza directa a su mandato.
Si los estados no pueden coordinarse eficazmente y las empresas no pueden autorregularse bajo la presión de la competencia, lo que se necesita es un pacto global en el que un número significativo de grandes propietarios de activos considere el riesgo existencial como un factor vinculante en la gobernanza de las inversiones. En consecuencia, el acceso a su capital estaría supeditado al cumplimiento de estándares de supervisión definidos en IA. Estos requisitos se aplicarían no solo a sus inversiones de cartera, sino también a los gestores de activos a los que recurren y a través de los cuales se invierte su capital.
Esta idea tiene precedentes. Los Principios de Sullivan, articulados por el reverendo León Sullivan en 1977 y adoptados por importantes inversores institucionales, utilizaron la asignación de capital para influir en las normas laborales y de derechos civiles de las empresas estadounidenses que operaban en la Sudáfrica del apartheid. (Sullivan renunció a los Principios en 1987 y abogó por un boicot total y la desinversión corporativa, aunque más tarde colaboró con el secretario general de las Naciones Unidas, Kofi A. Annan, en una versión ampliada -Principios Globales de Sullivan- para promover la responsabilidad social corporativa en todo el mundo). El Proyecto de Divulgación de Carbono, que hoy constituye un estándar de información para miles de empresas, surgió de una coalición de inversores institucionales que buscaban datos climáticos comparables. En ambos casos, se unieron suficientes inversores como para influir en las condiciones de todo el mercado.
El pacto de capital comenzaría con un grupo fundador de fondos soberanos, pensiones públicas y fondos patrimoniales de fundaciones. Si bien estas instituciones difieren políticamente, todas enfrentan una combinación única de pasivos a largo plazo, exposición sistémica y marcos de gobernanza que ya han comenzado a considerar factores que van más allá de la mera maximización de la rentabilidad.
Desde un punto de vista operativo, el pacto se centraría en la divulgación estandarizada, la evaluación comparativa y el cumplimiento normativo. Los miembros acordarían un conjunto básico de métricas que se deben seguir (como auditorías de seguridad independientes y la supervisión humana del papel de los sistemas de IA en decisiones críticas) y establecerían requisitos de información para cada gestor de activos que reciba su capital. Posteriormente, los miembros del pacto recopilarían esos datos de toda su cartera y presentarían los resultados a una organización sin fines de lucro, neutral e independiente, que ellos mismos constituirían.
La organización sin fines de lucro anonimizaría y agruparía las presentaciones, publicando indicadores que le permitirían a cada miembro evaluar su exposición en relación con sus pares. Los miembros divulgarían públicamente sus propios resultados comparativos y cómo han variado sus exposiciones a lo largo del tiempo. Por encima de ciertos umbrales, la divulgación requeriría una verificación independiente. Las empresas de sectores de alto riesgo se someterían a auditorías de seguridad independientes y tendrían que demostrar el cumplimiento de los protocolos de gestión de riesgos establecidos como condición para acceder al capital.
La infraestuctura de datos que respalda esto también tiene un precedente. En 1971, un grupo de compañías de seguros estadounidenses creó la organización sin fines de lucro Insurance Services Office (ISO) mediante la fusión de las agencias de calificación estatales, regionales y nacionales para seguros de propiedad y responsabilidad civil. Esto estableció un intermediario neutral para datos anonimizados de pérdidas aportadas, que más tarde se convirtió en la empresa con fines de lucro Verisk Analytics.
La premisa en la que se basaba la ISO era que ninguna aseguradora por sí sola disponía de datos suficientes para valorar con precisión riesgos complejos y correlacionados, pero que el sector, en su conjunto, sí los tenía. La ISO les permitía a los competidores comparar su propia exposición con los patrones del sector e identificar riesgos sistémicos que ningún análisis individual podía discernir. La gobernanza se basaba en la agregación imparcial por parte de una entidad sin fines de lucro establecida de mutuo acuerdo, estándares compartidos y la evaluación comparativa entre pares, un modelo que el pacto de capital replicaría para el riesgo tecnológico existencial.
Esta propuesta inevitablemente invitará a la comparación con la inversión ambiental, social y de gobernanza (ESG), la cual merece reconocimiento por entender que las decisiones de inversión tienen externalidades y que las empresas tienen un interés financiero en gestionarlas. Sin embargo, la ESG abordó un abanico demasiado amplio de objetivos y adoleció de una estandarización insuficiente, métricas superfluas y la vulnerabilidad de ser percibida como una defensa de valores disfrazada de lenguaje fiduciario -capitalismo woke según sus críticos-.
Pero el pacto de capital propuesto no es una iniciativa basada en valores. Les exige a las instituciones que gestionen una categoría específica y cuantificable de riesgo financiero que amenaza el valor a largo plazo de todos sus activos. Una institución que se niega a medir su exposición a las tecnologías con mayor probabilidad de socavar sus objetivos fundamentales no está eludiendo la ideología; está eludiendo su responsabilidad.
A diferencia de las coaliciones de inversores centradas en el clima que fracasaron, como la Net Zero Asset Owner Alliance y la Glasgow Financial Alliance for Net Zero, donde los compromisos parecían ir en detrimento de la rentabilidad financiera, la lógica fiduciaria del pacto de capital se basa en la gestión de riesgos. Asimismo, no existe riesgo de competencia desleal: la estructura del pacto, con su divulgación estandarizada y la evaluación comparativa a través de una organización neutral sin fines de lucro (sin decisiones de cartera coordinadas entre competidores), es análoga al modelo ISO, no a un cártel.
La IA puede ser la mayor oportunidad y el mayor riesgo para la humanidad. Cuando los estados no logran ponerse de acuerdo, los actores con exposición sistémica y alcance transfronterizo se convierten en las únicas entidades capaces de imponer las restricciones necesarias a gran escala. En la economía global actual, se trata de grandes propietarios de activos diversificados. Les corresponde a ellos hacer lo que la religión y el gobierno no pueden.
El autor:
Alex Friedman, exdirector financiero de la Fundación Bill y Melinda Gates, es cofundador y codirector ejecutivo de Novata.
Enlace imagenAlex Friedman, exdirector financiero de la Fundación Bill y Melinda Gates, es cofundador y codirector ejecutivo de Novata.Especial
Copyright: Project Syndicate, 2026.
www.project-syndicate.org