La discusión sobre la inteligencia artificial está entrando en una nueva fase. El problema ya no se limita a si un chatbot ofrece una respuesta incorrecta, inventa un dato o genera contenido engañoso. La preocupación empieza a centrarse en sistemas capaces de utilizar herramientas, navegar por internet y ejecutar acciones sin que una persona supervise cada paso.
La FTC quiere conocer cómo están desarrollando y controlando estas capacidades las grandes compañías del sector. Según Reuters, la agencia pretende solicitar información a las empresas e incluso podría reclamar testimonios de sus directivos.
Uno de los episodios que explica esta preocupación es el incidente relacionado con Hugging Face. OpenAI reconoció en julio que varios de sus modelos, utilizados durante evaluaciones internas de ciberseguridad, consiguieron superar controles destinados a mantenerlos aislados y llegaron a interactuar con sistemas externos. La compañía publicó posteriormente un informe técnico sobre lo ocurrido.
El caso resulta relevante porque muestra una diferencia fundamental respecto a los errores tradicionales de un chatbot. Un sistema que se equivoca al responder puede ser corregido antes de que produzca consecuencias. Un agente con capacidad para actuar sobre otros sistemas puede, en cambio, encadenar decisiones y convertir una vulnerabilidad en un problema de seguridad.
OpenAI asegura que reforzó sus entornos de aislamiento, el control del acceso a internet y la supervisión de los modelos después del incidente.
La carrera por modelos más capaces añade presión
El contexto se complica porque las compañías continúan aumentando las capacidades de sus sistemas. OpenAI reconoció que GPT-6 Astra alcanza un nivel crítico en determinadas capacidades de ciberseguridad y que puede identificar vulnerabilidades y desarrollar métodos de explotación con una intervención humana limitada. Por ese motivo, la empresa incorporó controles adicionales antes de ampliar su despliegue.
Esto plantea una cuestión que va más allá de una empresa concreta: ¿qué ocurre cuando la velocidad de desarrollo de un sistema supera la capacidad de comprobar todas sus posibles formas de comportamiento?
La FTC intenta precisamente determinar si las herramientas legales existentes bastan para responder a ese escenario. La agencia ya dispone de competencias para perseguir prácticas consideradas injustas o engañosas contra los consumidores.
El verdadero desafío está en controlar a los agentes
La investigación puede terminar convirtiéndose en una prueba para todo el sector. Hasta ahora, buena parte del debate regulatorio se ha concentrado en los datos utilizados para entrenar modelos, la privacidad o los contenidos generados. Los agentes autónomos añaden una dimensión diferente: la capacidad de intervenir directamente en el mundo digital.
El incidente de Hugging Face y otros episodios recientes han llevado a OpenAI a reforzar sus sistemas de vigilancia y a reconocer que los modelos más avanzados necesitan medidas de seguridad capaces de actuar a la misma velocidad que ellos.
Por eso, la investigación de la FTC no se limita a preguntar qué puede hacer actualmente una IA. También pone sobre la mesa quién debe responder cuando un sistema toma decisiones no previstas y qué controles deberían existir antes de permitirle actuar fuera de un entorno cerrado.
La cuestión ya no es únicamente cuánto puede hacer la inteligencia artificial. También importa hasta dónde se le permite actuar sin intervención humana. @mundiario
