Investigadores de Hacktron AI lograron acceder a cuentas de ChatGPT de empleados de OpenAI mediante el modelo Claude de Anthropic, en un ejercicio autorizado por la propia empresa para identificar fallos de seguridad en sus sistemas internos y externos.
Anthropic advierte que sus sistemas de IA ya desarrollan futuras versiones de sí mismos, lo que incrementa los riesgos de seguridad. El chatbot Claude colabora en el 90% de tareas de I+D, impulsando el llamado a ralentizar el desarrollo tecnológico.
Anthropic creó discretamente un laboratorio para llevar a cabo investigaciones en biología física, mientras extiende sus ambiciones en materia de inteligencia artificial al ámbito de la investigación farmacológica.
Mark Zuckerberg sostiene que cada laboratorio de IA debe gestionar su propia seguridad, distanciándose de propuestas para frenar el avance tecnológico. Su posición se expuso en Nueva Jersey.
Dario Amodei (Anthropic) propone pausar el desarrollo de IA mediante controles externos y coordinación con China, pero enfrenta escepticismo político y rechazo de Trump, quien califica el riesgo como 'HOAX' mientras las tecnológicas aumentan su inversión masiva.
