La empresa tecnológica Anthropic propuso que las principales compañías de inteligencia artificial del mundo desarrollen un mecanismo coordinado para pausar el avance de los sistemas más sofisticados de IA. Además, advirtió que esta tecnología evoluciona a tal velocidad que podría surgir el riesgo de que los seres humanos pierdan el control sobre ella.
La firma responsable del chatbot Claude señaló el jueves, en una publicación de blog, que conforme la inteligencia artificial de vanguardia incrementa su capacidad para ejecutar tareas complejas, “sería bueno para el mundo tener la opción de desacelerar o pausar temporalmente” su desarrollo.
Anthropic indicó que su instituto interno de investigación explorará este tema en colaboración con otras organizaciones y buscará impulsar mecanismos que permitan una desaceleración o pausa creíble del desarrollo de la IA, aunque no ofreció detalles adicionales.
La compañía explicó que los modelos de inteligencia artificial aumentan cada vez más su velocidad para realizar tareas de software, incluida la programación autónoma.
Con base en las tendencias actuales y con suficiente capacidad de cómputo, un sistema de IA podría diseñar y desarrollar a su propio sucesor, proceso conocido como “automejora recursiva”.
Anthropic reconoció que una inteligencia artificial capaz de construirse a sí misma representaría un avance tecnológico de enorme relevancia para áreas como la ciencia y la atención médica. Sin embargo, advirtió que este escenario también podría incrementar el riesgo de que los humanos pierdan el control sobre estos sistemas.
Expertos alertan sobre nuevos riesgos de la inteligencia artificial
Diversas figuras de la industria tecnológica mantienen desde hace años advertencias sobre escenarios relacionados con una IA fuera del control humano.
La publicación de Anthropic surgió después de otra advertencia difundida esta semana por investigadores de la Universidad de Toronto, quienes mostraron cómo herramientas de inteligencia artificial podrían facilitar la creación de un nuevo tipo de “gusano” informático capaz de adaptar su estrategia de ataque conforme se propaga entre dispositivos y toma control de amplias redes informáticas.
“Creo que es realmente importante que la gente entienda que no son solo los modelos de lenguaje más grandes y potentes los que plantean las preocupaciones de seguridad”, afirmó en una entrevista el investigador principal Nicolas Papernot.
¿Por qué Anthropic plantea una pausa en el desarrollo de la IA?
Los autores de la publicación, Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del instituto de investigación de la empresa, explicaron que una pausa temporal permitiría que las estructuras sociales y las investigaciones sobre alineación tecnológica mantengan el ritmo frente a los avances de la inteligencia artificial.
La alineación es el concepto que utiliza la industria para garantizar que los sistemas de IA actúen conforme a los valores e intenciones humanas.
La propuesta contempla mecanismos de coordinación internacional para que los laboratorios de IA avanzada puedan verificar que sus competidores también detuvieron o ralentizaron sus desarrollos.
Según Anthropic, este modelo reduciría el riesgo de que algún actor aproveche una pausa global para avanzar en secreto y obtener ventajas competitivas.
La compañía sostuvo que un mecanismo coordinado resulta indispensable porque, sin él, una desaceleración unilateral podría permitir que actores menos cautelosos alcancen a los líderes tecnológicos y aumenten la presión sobre gobiernos y empresas durante la toma de decisiones relacionadas con la seguridad de la IA.
La publicación aparece en un momento en que Anthropic compite directamente con OpenAI, creadora de ChatGPT, y analiza una oferta pública inicial que podría valorar a la compañía en cerca de un billón de dólares.