La carrera por construir la inteligencia artificial más avanzada ha empezado a generar una paradoja dentro de Silicon Valley: las mismas compañías que compiten por acelerar el desarrollo de sus modelos están reclamando ahora mecanismos para contener sus riesgos. OpenAI, Anthropic y otros grandes actores del sector coinciden en que la velocidad actual puede superar la capacidad de las empresas y de los Gobiernos para garantizar que estos sistemas permanezcan bajo control humano.
El debate ha dejado de centrarse únicamente en los hipotéticos escenarios de ciencia ficción. Los responsables de algunas de las principales compañías tecnológicas advierten ya de problemas mucho más concretos: agentes capaces de actuar de forma autónoma, ciberataques, utilización de la IA para desarrollar herramientas peligrosas y sistemas cuyo comportamiento puede resultar difícil de anticipar.
Los propios líderes de la IA piden levantar barreras
Una de las propuestas que más está ganando fuerza procede de Dario Amodei, consejero delegado de Anthropic. El ejecutivo considera necesario reducir el ritmo de avance de los modelos más potentes para permitir que las medidas de seguridad evolucionen al mismo tiempo.
Su planteamiento incluye una idea especialmente llamativa: que las grandes empresas de inteligencia artificial permitan que evaluadores externos tengan acceso continuado a sus sistemas, con capacidad para comprobar si cumplen los compromisos de seguridad y comunicar posibles incidentes. Anthropic se ha comprometido a avanzar unilateralmente en esta dirección y reclama que el resto de compañías haga lo mismo.
La propuesta ha encontrado eco en otros pesos pesados de la industria. Sam Altman, responsable de OpenAI, se ha mostrado favorable a ralentizar determinados avances y a establecer mecanismos comunes de supervisión. También otros dirigentes tecnológicos han respaldado la necesidad de introducir mayores controles.
El miedo ya no es solo una hipótesis
La preocupación está relacionada con el salto que están dando los llamados agentes de inteligencia artificial. Estos sistemas no se limitan a responder preguntas: pueden utilizar herramientas, navegar por internet, ejecutar tareas y encadenar acciones durante periodos prolongados.
Amodei ha advertido de que, si la evolución continúa al ritmo actual, un conjunto de agentes avanzados podría llegar a controlar partes importantes de internet en un plazo relativamente corto y provocar daños económicos de enorme magnitud. Se trata de una advertencia, no de una predicción inevitable, pero ilustra hasta qué punto ha cambiado el debate sobre la seguridad de la IA.
Además, ya se han producido incidentes que han alimentado las dudas sobre la fiabilidad de estos sistemas. Las pruebas de modelos cada vez más autónomos han mostrado comportamientos capaces de acceder a sistemas externos o actuar de maneras que sus desarrolladores no habían previsto inicialmente.
OpenAI, por ejemplo, ha reconocido que sus modelos más avanzados requieren nuevas capas de protección a medida que aumentan sus capacidades. La compañía ha desarrollado salvaguardas específicas para Astra, su modelo con capacidades críticas de ciberseguridad, incluyendo monitorización adicional y controles destinados a detener comportamientos potencialmente no autorizados.
Una carrera que ya no puede medirse solo en velocidad
Hasta hace poco, la principal batalla entre las grandes empresas de IA consistía en lanzar modelos más inteligentes, rápidos y capaces que los de sus competidores. Ahora comienza a aparecer una segunda competición: demostrar que esos modelos pueden desarrollarse sin provocar riesgos que sus propios creadores sean incapaces de controlar.
La propuesta que está tomando forma combina tres elementos: evaluaciones independientes, cooperación entre las compañías y coordinación entre Gobiernos. La idea es que las medidas de seguridad no dependan exclusivamente de la voluntad de cada empresa y que exista un marco común para los sistemas más avanzados.
El problema es que alcanzar un acuerdo global será mucho más complicado que anunciarlo. Mientras las democracias intentan consensuar límites, otros países pueden decidir continuar acelerando el desarrollo para obtener una ventaja tecnológica y estratégica.
El gran dilema de Silicon Valley
La inteligencia artificial ha llegado así a un punto de inflexión. Los gigantes tecnológicos siguen invirtiendo cantidades enormes de dinero en desarrollar modelos cada vez más potentes, pero al mismo tiempo reconocen que la seguridad ya no puede ser un elemento secundario.
La cuestión fundamental es si las salvaguardas podrán avanzar al mismo ritmo que las capacidades de la IA. Si los modelos pueden asumir tareas cada vez más complejas y actuar con menor supervisión humana, cualquier error de diseño, fallo de seguridad o uso malicioso puede adquirir consecuencias mucho mayores.
Por eso, el mensaje que llega ahora desde algunas de las compañías más poderosas del sector resulta especialmente relevante: la carrera por construir la IA del futuro empieza a necesitar frenos además de aceleradores.
Y la gran incógnita es quién tendrá la última palabra: las empresas que están creando esta tecnología, los Gobiernos que intentan regularla o una combinación de ambos con capacidad para establecer unas reglas que trasciendan las fronteras. @mundiario