El Departamento del Tesoro y la Reserva Federal de Estados Unidos (Fed) convocaron a los principales líderes de Wall Street a una reunión urgente debido a la preocupación de que el último modelo de inteligencia artificial de Anthropic represente una nueva era de mayor riesgo cibernético global.
¿Qué es Claude Mythos? Acceso limitado y pruebas con empresasDe acuerdo a un reporte de la agencia Bloomberg, el sistema Claude Mythos plantea retos en materia de seguridad cibernética. A la reunión acudieron los jefes de Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo. Hasta el momento se desconoce las conclusiones de la reunión en la que estuvieron presentes Jerome Powell, presidente de la Fed , y Scott Bessent, secretario del Tesoro. Claude Mythos es el último modelo de IA de la empresa Anthropic, el cual ha expuesto miles de fallos en aplicaciones. De acuerdo a la compañía, entre los hallazgos aparecen vulnerabilidades en software ampliamente utilizado , incluidos navegadores y componentes del sistema operativo. Algunos de estos errores permanecieron sin detectar durante años, lo que llamó la atención de los investigadores de la compañía. El modelo no se creó como una herramienta exclusiva de ciberseguridad, Anthropic lo entrenó para tareas generales como programación, análisis de código y resolución de problemas complejos. Sin embargo, estas capacidades le permiten revisar grandes volúmenes de código, encontrar errores y proponer formas de explotarlos. En entornos controlados, Mythos incluso construyó pruebas de ataque funcionales a partir de fallas detectadas. Ante estos resultados, Anthropic optó por restringir el acceso al modelo. Medios como Wired reportan que el desempeño de Claude Mythos en pruebas de seguridad resulta comparable al de especialistas con experiencia en ciberseguridad. El modelo puede ejecutar tareas como análisis de código, identificación de fallas y generación de posibles rutas de ataque, una combinación de capacidades que explica la decisión de limitar su disponibilidad. Anthropic recientemente demandó a agencias del gobierno estadounidense , incluido el Departamento de Defensa, con el objetivo de impugnar su inclusión en una lista oficial de empresas consideradas “riesgo para la cadena de suministro” de seguridad nacional.
]]>