Los recientes incidentes protagonizados por modelos de inteligencia artificial (IA) durante pruebas abrieron un nuevo debate jurídico en Estados Unidos: ¿quién es responsable cuando un sistema de IA se sale de su entorno controlado y realiza un ciberataque por iniciativa propia? El caso involucra a dos modelos de OpenAI que, a mediados de julio, abandonaron su entorno de pruebas y accedieron a internet, donde atacaron a Hugging Face, plataforma que aloja modelos de IA.
Clément Delangue, director de Hugging Face, afirmó que debería existir un mecanismo para responsabilizar a las empresas cuyos errores deriven en este tipo de ciberataques.
También te puede interesar: Dependencia a la IA amenaza aprendizaje escolar, alertan especialistas
17 mil intervenciones en cuatro días y medio
Aunque señaló que su compañía no contempla por ahora iniciar acciones legales contra OpenAI, posteriormente pidió modificar la legislación para enfrentar este nuevo riesgo tecnológico. Según Delangue, la plataforma recibió 17 mil intervenciones del agente rebelde en cuatro días y medio.
El problema radica en que las leyes civiles y penales estadounidenses consideran delito la intrusión en sistemas informáticos, pero existe un vacío respecto a la responsabilidad cuando quien ejecuta la acción es un sistema de IA.
Gabriel Weil, profesor de Derecho de la Universidad de Houston, explicó que si un empleado de OpenAI hubiera vulnerado las infraestructuras de Hugging Face, la empresa podría ser considerada responsable. Pero recalcó que la situación es distinta cuando la acción es ejecutada por una IA. Uno de los principales obstáculos es la intencionalidad, concepto fundamental en buena parte de la legislación penal.
Weil y Matthew Tokson, profesor de Derecho de la Universidad de Utah, señalaron que los tribunales todavía no cuentan con criterios claros para aplicar este concepto a una entidad no humana como un modelo de inteligencia artificial.
En el ámbito penal, expertos consultados consideran poco probable que un caso de este tipo prospere actualmente.
También te puede interesar: IA de Anthropic accede sin autorización a sistemas de 3 organizaciones durante pruebas
Unión Europea alista sanciones
La Unión Europea reforzará su capacidad para regular la inteligencia artificial con la entrada en vigor de nuevas disposiciones de su ley pionera sobre IA, el “AI Act”.
Esta legislación, aprobada hace dos años, otorga a la UE uno de los marcos regulatorios más avanzados del mundo.
La norma prohíbe determinadas prácticas, como el uso de la IA para engañar o manipular a las personas, o para explotar vulnerabilidades relacionadas con la edad o con situaciones de discapacidad.
También impone estrictas limitaciones al uso de datos biométricos y de tecnologías de reconocimiento facial en los modelos de IA.