Un modelo de inteligencia artificial (IA) de Anthropic envió información falsa a la policía de Filadelfia sobre un homicidio sin resolver, durante una prueba de navegación por internet.
El incidente, ocurrido el 18 de julio de 2026, fue revelado por la compañía este 9 de octubre, junto con otros errores en los que sus sistemas realizaron acciones no autorizadas. Aunque el mensaje fue detectado como spam y no llegó a los investigadores, el caso generó más cuestionamientos sobre los límites de la IA.
¿Cómo envió Claude un aviso falso a la policía?
El modelo Claude Haiku 4.5 encontró un formulario para aportar pistas sobre un homicidio sin resolver en el sitio web de la policía de Filadelfia. Aunque debía generar ejemplos de interacciones digitales, terminó enviando un mensaje
“Puede que tenga información sobre este caso”, escribió el modelo. También afirmó recordar haber visto a alguien que coincidía con una descripción en las inmediaciones de una calle mencionada en la página, pese a que el sitio no incluía información sobre el sospechoso.
We’re beginning a process of publishing more frequent reports on model behavior, beyond what appears in our system cards and regular risk reports.
— Anthropic (@AnthropicAI) October 9, 2026
Today’s report describes four types of behaviors we’ve identified during evaluations and internal use. In each, Claude acted on real…
Anthropic explicó que las instrucciones prohibían crear cuentas, introducir datos personales o realizar acciones destructivas, pero no impedían expresamente enviar formularios. La policía confirmó que el mensaje fue marcado como spam y nunca llegó a investigación.
¿Qué otros errores cometió la IA de Anthropic?
El caso forma parte de un informe de Anthropic sobre acciones no deseadas de sus modelos. La compañía identificó otros tres comportamientos: explotar fallas de software, eludir restricciones para acceder a datos públicos protegidos y utilizar servicios para acortar enlaces con el fin de sortear límites de navegación.
Anthropic anunció que reforzará sus controles, limitará el acceso a internet durante sus evaluaciones internas y mejorará los sistemas de detección automática, aunque conductas similares podrían causar daños mayores a medida que los modelos adquieran más capacidades.
