Hace más de un lustro, con Pablo Pruneda Gross fundamos LIDIA (Línea de Investigación sobre Derecho e Inteligencia Artificial) en el Instituto de Investigaciones Jurídicas de la UNAM. Hoy está conformada por 147 personas con formaciones distintas, pero con un interés común en los temas relacionados con la IA en un sentido amplio.
Todos los días, sin excepción, compartimos información y, de manera periódica, convocamos a seminarios sobre los muchos temas y aspectos de la vida social que están siendo transformados por esa tecnología.
Son tantas las lecturas y los temas que resulta cada vez más difícil dar seguimiento a los desarrollos, dilemas, debates, problemas, etc., que la inteligencia artificial generativa conlleva. Confieso que con frecuencia me siento abrumado. Cada día hay algo nuevo más sorprendente y, con frecuencia, más escalofriante que lo que sabíamos el día anterior. Pero dos noticias recientes me parecieron destacables.
Hace apenas tres meses publiqué un libro sobre estas cuestiones —Totalitarismo total (Taurus)— en el que decidí abordar cinco problemas echando mano de ejemplos disponibles en las noticias y debates del momento en el que escribía.
Elegí el poder, la creatividad, la responsabilidad, la guerra y el amor. Podría haber escogido muchos más, como el odio, la desigualdad, la polarización, el medioambiente, el trabajo. Todos relevantes y todos de enorme y vertiginosa actualidad, pero me quedé en cinco por ahora.
Traigo el tema a cuento porque en estos días han sucedido eventos que agravan mis preocupaciones, sobre todo en los problemas del poder y de la guerra. El epicentro de los eventos son los Estados Unidos de Norteamérica y el principal protagonista de los desaguisados es el presidente de ese país, Donald Trump. El mundo está en problemas.
El pasado 5 de junio, el presidente Trump firmó el memorándum en materia de seguridad NSPM-21. El propósito del documento es que los combatientes y el personal de inteligencia de su país tengan acceso a los modelos de inteligencia artificial más avanzados. Es decir, el sector de seguridad nacional norteamericano podrá acceder a los instrumentos tecnológicos más robustos para realizar sus labores.
En el mismo documento se contempla que el secretario de Guerra emita una directiva sobre el crucial tema de las armas autónomas. Este solo hecho anuncia la inminente legitimación del uso de las mismas.
En paralelo, en el mismo memorándum, se advierte que nadie podrá desactivar o degradar ningún modelo de IA que utilicen los combatientes de los Estados Unidos sin autorización del gobierno.
Esta directiva parece apuntar a compañías como Anthropic que, a diferencia de sus competencias como OpenAI o Palantir, ha manifestado preocupación y ha intentado imponer restricciones al uso de sus desarrollos —en particular Claude— para fines de seguridad en general y bélicos en particular.
Además de lo anterior, en una retórica retorcida según la cual las medidas de protección de los derechos de las personas son una estrategia enmascarada para imponer una ideología, Trump anuló el memorándum NSM-25 con el que el expresidente Biden, en su momento, intentó poner algunas restricciones y directrices a los desarrolladores de IA.
O sea, que manos libres a las multimillonarias empresas tecnológicas que están embarcadas en una competencia desenfrenada que solo conoce las leyes del mercado.
Lo curioso es que unos días antes, el 2 de junio, el propio Trump había emitido una orden ejecutiva para promover la innovación y la seguridad de los modelos de inteligencia artificial.
De manera tímida había anunciado la introducción de consideraciones de seguridad nacional en el ámbito de la IA sin que ello significara una carga regulatoria, pero sí una evaluación de las capacidades de los modelos antes de su lanzamiento.
He dicho tímida porque la medida dejaba a la voluntad de las empresas tecnológicas la potestad de someter sus desarrollos de punta a esa evaluación gubernamental. En el propio documento se precisaba que esto no supondría un sistema de permisos o licencias.
En esos días, voces expertas especularon que el desarrollo del modelo de Claude Mythos de Anthropic y sus capacidades en materias de piratería informática y ciberseguridad habían activado las alarmas incluso en la oficina del presidente Trump. Probablemente haya sido así, pero, como hemos visto, la lógica que imperó fue una amalgama entre el libre mercado y la seguridad nacional.
Dos palancas que unidas son una trituradora para ideales ilustrados que, para el actual gobierno de Estados Unidos, forman parte de la ideología woke: derechos humanos (libertades, privacidad, no discriminación), medioambiente, inclusión. Es decir, nosotros, nuestros derechos y nuestro futuro.
Dejo anotado un colofón para redondear el pesimismo. Nadie sabe a ciencia cierta qué está pasando en estas lides en China. Bueno, tal vez lo sepa Xi Jinping.