En una pequeña sala de conferencias contigua a la cafetería de las oficinas de OpenAI en San Francisco, un equipo de más de una docena de personas trabaja sin descanso para evitar que el chatbot ChatGPT sea utilizado para perturbar las elecciones de mitad de mandato de este año, revela un reporte publicado por The New York Times.
Este centro de operaciones representa una expansión sustancial respecto a los esfuerzos iniciales de la compañía durante las elecciones presidenciales de 2024, cuando la tecnología era menos potente y el chatbot contaba apenas con una quinta parte de los mil millones de usuarios que registra en la actualidad
"En 2024, la tecnología más disponible era el análisis de texto", declaró a The New York Times Josh Lawson, director de riesgos cívicos y estratégicos de OpenAI y responsable de la sala de operaciones
"Ya no nos limitamos a monitorizar textos".
De acuerdo con la investigación del diario estadounidense, el espectro de amenazas actuales abarca falsificaciones profundas (deepfakes), ciberataques y operaciones de influencia tanto nacionales como extranjeras activadas mediante secuencias de comandos (prompts).
El periódico destacó que también Anthropic, desarrolladora del chatbot Claude, instaló por primera vez su propia sala de crisis reuniendo analistas en San Francisco, Nueva York y Washington, mientras que Google y Meta también asumieron compromisos para contrarrestar el uso de sus herramientas de Inteligencia Artificial (IA) en detrimento del proceso democrático.
Pese a estos despliegues, las firmas tecnológicas enfrentan críticas por no hacer lo suficiente para limitar el contenido malicioso.
Un estudio del Centro Brennan para la Justicia de la Escuela de Derecho de la Universidad de Nueva York, citado por The New York Times, halló que aunque los chatbots más populares rechazan responder a consultas sobre teorías conspirativas electorales, generan con frecuencia textos, imágenes y videos aptos para minar la confianza en los procesos electorales.
El despliegue de estos centros evoca la sala de crisis establecida por Meta para los comicios de mitad de mandato de 2018 tras la interferencia rusa en Facebook durante 2016.
No obstante, el rotativo neoyorquino subrayó que Meta y otras plataformas redujeron posteriormente sus equipos de seguridad e integridad electoral tras recibir presiones de republicanos y de la administración de Donald Trump, que las acusaron de censurar opiniones conservadoras.
Este debilitamiento en las plataformas de redes sociales ha coincidido con la rápida proliferación de la IA y el desmantelamiento de los equipos gubernamentales que combatían los intentos de perturbar las votaciones durante el mandato de Trump.
"Creo que sería una tontería pensar que la amenaza se ha disipado y que la tecnología no está haciendo que las amenazas sean más potentes y creíbles", advirtió para el Times Lauren Protentis, exfuncionaria del Consejo de Seguridad Nacional durante la administración de Joseph R. Biden Jr.
El centro electoral de OpenAI, inaugurado el jueves pasado, opera desde San Francisco en coordinación con un centro satélite en Washington. Según explicaron funcionarios de la compañía al diario, el personal analiza las peticiones en ChatGPT marcadas automáticamente por intentar generar textos o imágenes falsas sobre las elecciones. E
Esto incluye incitaciones para diseñar campañas de manipulación -como falsedades sobre el relleno de urnas- para su difusión en redes sociales mediante cuentas ficticias, ante lo cual OpenAI notifica a las plataformas correspondientes.
Asimismo, la empresa ha expuesto previamente intentos de origen ruso, chino e iraní para ejecutar operaciones de influencia mediante ChatGPT, incluyendo dos campañas desarticuladas el mes pasado, aunque hasta el momento no ha revelado incidentes específicos enfocados en las elecciones de mitad de mandato.
"Hemos estado intentando detectar estas operaciones antes de que tengan la oportunidad de afianzarse", concluyó Ben Nimmo, investigador jefe de OpenAI, en entrevista con The New York Times.
