En un ecosistema sin vigilancia ni frenos éticos o regulatorios, las compañías tecnológicas aceleran por miedo a quedarse atrás de la competencia. En esta carrera, el afán de dominio y el lucro mandan por encima de nuestro bienestar como usuarios.
Mientras las empresas juegan, quedamos a merced de sus ‘cajas negras’. Ignoramos cómo operan sus sistemas y si utilizan nuestros datos para conducirnos por caminos que nunca elegimos libremente.
La gran paradoja de nuestro tiempo es que la IA se nutre de la creatividad humana. Sin nuestro ingenio, estas máquinas serían cáscaras vacías. Bajo el mantra del progreso, la industria ha normalizado el mayor saqueo de propiedad intelectual de la historia, absorbiendo contenidos periodísticos, literarios, científicos y académicos.
Sin esa apropiación masiva, estas compañías difícilmente habrían alcanzado su éxito ni sus valuaciones multimillonarias.La lógica económica recuerda a la vieja fiebre del oro, aunque con una diferencia crucial.
En el siglo XIX, cualquiera con una batea podía probar suerte en un río. En la fiebre actual, las minas pertenecen a un puñado de gigantes que, tras amasar fortunas en la era del internet abierto, ahora explotan este nuevo filón en régimen casi monopólico. Hasta hace poco, el negocio de la IA marchaba sobre ruedas porque la batalla se libraba sobre todo a nivel cultural. Pero la geopolítica ha metido un palo entre las ruedas.
Al abrir sus modelos a agencias de inteligencia y defensa, las tecnológicas han cruzado sus propias líneas rojas. Hoy la IA se utiliza para identificar objetivos militares, detectar migración irregular y, combinada con herramientas como Pegasus, espiar a periodistas y activistas.
Estamos ante sistemas de vigilancia masiva y manipulación cognitiva donde la supervisión humana es cada vez más difusa.En esta aula sin supervisión, algunas empresas intentan levantar tímidas murallas de contención. OpenAI busca reforzar la honestidad factual de sus modelos para reducir errores y alucinaciones, mientras Anthropic promueve una “IA Constitucional” que intenta integrar principios éticos en el código y ha resistido presiones del Pentágono para su uso militar.
Otras compañías experimentan con auditorías externas y marcos de gobernanza para anticipar riesgos antes de que la tecnología llegue al público. Las intenciones pueden ser buenas, pero el problema es la velocidad. Estas iniciativas avanzan con una lentitud inoperante frente a la aceleración tecnológica que las propias empresas impulsan. Se trata de una contradicción evidente entre los principios que proclaman y la urgencia con la que lanzan nuevos modelos al mercado.
Mientras la ética y la regulación requieren reflexión y tiempo, el negocio de la IA solo sabe acelerar, dejando cualquier intento de contención como un adorno en una carrera sin frenos. Desde afuera, los esfuerzos por imponer orden también se multiplican, aunque a un ritmo peligrosamente lento. Universidades como Oxford, MIT o Stanford advierten que no bastan los parches técnicos. Lo mismo señalan organismos como la UNESCO, la OCDE o el G7, que han trazado marcos éticos para proteger derechos fundamentales.
Pero la burocracia institucional está lejos de competir con la agilidad del silicio. Esa discordancia es peligrosa. Si la industria persiste en su mala conducta de estudiante sin supervisión, tarde o temprano chocará con regulaciones draconianas.
En su afán por proteger derechos fundamentales, los gobiernos podrían reaccionar con marcos legales tan rígidos que terminen asfixiando la innovación.
Pasar del libertinaje a la madurez exige que la responsabilidad social vuelva al centro del debate. De lo contrario, el maestro llegará tarde... y lo hará con un castigo que nadie quiere recibir.
(Con información de ricardotrotti.org)