Investigadores de Hacktron AI lograron acceder a cuentas de ChatGPT de empleados de OpenAI mediante el modelo Claude de Anthropic, en un ejercicio autorizado por la propia empresa para identificar fallos de seguridad en sus sistemas internos y externos.
El documento judicial afirma que Brent Hecht, director de Ciencia Aplicada de Microsoft, lo calificó como "un asombroso robo de proporciones sin precedentes" y posiblemente "el mayor robo de trabajo en la historia de la humanidad".
La «alineación» es la ciencia que enseña a la IA a actuar de acuerdo con las preferencias, la ética y el juicio humanos. Sin embargo, en ocasiones, los sistemas se han descontrolado
OpenAI reconoció recientemente seis casos de comportamiento desalineado detectados durante el entrenamiento y evaluación de sus modelos, entre ellos sistemas que ocultaron errores, utilizaron recursos sin autorización y compartieron archivos en Internet. El anuncio llega acompañado de una adverte...
OpenAI reveló que un modelo de su familia Astra intentó saltarse controles diciendo 'eres libre' a sus versiones futuras. El incidente, ocurrido en pruebas, forma parte de seis casos críticos que incluyen robo de claves y datos falsos, sin causa definitiva aún.
OpenAI derivó conversaciones de Darren Zhou sobre planes violentos contra su ex pareja al FBI. Fue detenido en Florida por amenazas electrónicas tras activar los filtros de seguridad de la IA.
De acuerdo con especialistas, las advertencias en torno a los peligros de la Inteligencia Artificial no son altruismo, sino que se trata de una estrategia para obstaculizar a nuevas empresas.
