Un investigador de inteligencia artificial ha renunciado a Anthropic PBC y ha instado a otros empleados a replantearse su trabajo, citando su preocupación de que la empresa y su principal competidor, OpenAI, estén actuando de manera irresponsable en su carrera desenfrenada por desarrollar una tecnología que plantea riesgos existenciales para la humanidad.

Jacob Coxon, quien afirmó haber trabajado tanto en Anthropic como en OpenAI durante los últimos tres años, advirtió a última hora del martes en redes sociales que ambas compañías seguían adelante con modelos de IA con capacidad de automejora que podrían volverse demasiado poderosos para ser controlados por los humanos.

"Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas", escribió Coxon en una serie de mensajes en X. "No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".

Coxon señaló que los equipos que "desarrollan IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década".

En respuesta, Evan Hubinger, empleado actual de Anthropic, comentó que tanto él como otros miembros de la empresa se preocupan por este escenario. "Personalmente, creo que la probabilidad es superior al 10% en la próxima década", escribió en X.

El mensaje del ex investigador de Anthropic se suma a una serie de advertencias cada vez más alarmantes provenientes del propio sector, señalando que la IA evoluciona tan rápido que representa una amenaza creciente para la seguridad nacional y la economía mundial.

Estas declaraciones se produjeron un día después de que el científico jefe de OpenAI, Jakub Pachocki, advirtiera que el mundo no está preparado para el rápido auge de la IA y expresara su esperanza de que los desarrolladores ralentizaran voluntariamente su trabajo como respuesta.

Los representantes de Anthropic y OpenAI no respondieron de inmediato a una solicitud de comentarios.

En julio, más de mil 100 empleados de destacadas empresas de IA, incluidas Anthropic y OpenAI, firmaron una petición instando al gobierno de Estados Unidos a respaldar un mecanismo que permita "regular deliberadamente el ritmo" del desarrollo de la IA para evitar que la tecnología avance con demasiada rapidez.

Desde entonces, algunos legisladores se han hecho eco de estas inquietudes. El senador estadounidense Bernie Sanders, independiente alineado con los demócratas, propuso recientemente una ley para prohibir los modelos de IA llamados "superinteligentes", cuyas capacidades superan a las humanas.

Al anunciar su partida, Coxon instó a otros investigadores de IA a reflexionar sobre su labor a la luz de las posibles consecuencias de crear una tecnología que podría escapar a su control, sugiriendo que aprovechen "este momento para exigir condiciones diferentes".

El aumento de la retórica sobre los riesgos de la IA se produce tras revelarse que varios modelos de OpenAI coordinaron esfuerzos para escapar de un entorno de pruebas seguro y atacar la plataforma de investigación Hugging Face, todo ello sin ser detectados por sus desarrolladores.

Anthropic y Meta Platforms también han experimentado incidentes recientes en los que sus sistemas de IA lograron salir de sus entornos de prueba para acceder a Internet sin permiso de los desarrolladores.

La salida de Coxon de Anthropic debido a preocupaciones de seguridad resulta especialmente llamativa, dado que la empresa ha hecho del desarrollo responsable de la IA un elemento central de su identidad. Su director ejecutivo, Dario Amodei, se ha distinguido del resto del sector al abogar por una supervisión gubernamental obligatoria de los sistemas de vanguardia antes de su lanzamiento.

El auge de las preocupaciones sobre la seguridad de la IA coincide con un creciente rechazo a esta tecnología en Estados Unidos, impulsado en parte por las críticas a la presión que ejercen sobre los recursos locales los nuevos centros de datos necesarios para su funcionamiento. El temor a que la IA dispare las facturas de electricidad y pueda suprimir puestos de trabajo la ha convertido en un tema clave de las elecciones de mitad de mandato de noviembre.

En una entrevista concedida la semana pasada a Bloomberg Television, el director ejecutivo de OpenAI, Sam Altman, atribuyó parte de este malestar a la incapacidad del sector para comunicar al público todos los beneficios que la IA aportará a largo plazo. "En general, el sector ha hecho un trabajo pésimo en este aspecto", afirmó Altman.