La plataforma Hugging Face, que aloja cerca de tres millones de modelos de inteligencia artificial (IA), contiene algunos capaces de generar imágenes de personas desnudas, señaló este martes un estudio de la ONG AI Forensics, que pidió a la empresa francoestadounidense más moderación.
AI Forensics afirmó que 7 de los 9 modelos de IA de retoque de imágenes más destacados por la plataforma "permiten a los usuarios desnudar a personas" con simples 'prompts', esas líneas de comandos expresadas en lenguaje corriente.
También te puede interesar: Guillermo del Toro rechazó 'la maldita IA' en la restauración de El Laberinto del Fauno
"Cualquier persona sin conocimientos técnicos puede introducir un'prompt' y obtener la imagen que quiere", explicó a la agencia internacional AFP Paul Bouchaud, uno de los autores del estudio.
En el marco de su trabajo, los investigadores explican que también colocaron en la plataforma, que aloja modelos de código abierto, una falsa interfaz de IA que ofrecía a los usuarios generar imágenes para observar sus solicitudes.
De las mil 081 peticiones realizadas en una semana, casi tres cuartas partes (73%) eran "de naturaleza sexual", detalla el informe, y "prácticamente todas para desnudar a mujeres", precisó Bouchaud.
Entre las solicitudes sexuales, el 6,7% se dirigía a una persona menor de edad, subraya también la ONG.
Hugging Face afirmó que ha "tomado este informe en serio" y que "adoptará medidas conformes a sus prácticas actuales de moderación allí donde se hayan puesto de manifiesto lagunas".
La plataforma denuncia, no obstante, "afirmaciones inexactas sobre la ausencia sistémica de moderación" de los contenidos y "metodologías que generan falsos positivos importantes y dan una imagen distorsionada del ecosistema en su conjunto".
También te puede interesar: Pantallas e IA impactan en convivencia y sueño, alertan especialistas
IA en X
A comienzos de enero, un análisis realizado por AI Forensics sobre más de 20 mil imágenes generadas en la red social X por Grok, el robot conversacional desarrollado por la empresa estadounidense xAI, reveló que más de la mitad representaban a personas ligeramente vestidas, de las cuales el 81% eran mujeres y el 2% parecían menores.
Aunque desde entonces la empresa afirma contar con filtros, estas imágenes de personas desnudas, en su mayoría sin su consentimiento, sumieron a la red social de Elon Musk en el centro de una polémica internacional y desencadenaron investigaciones en Reino Unido y la UE.
Desde entonces, el Parlamento Europeo ha votado la prohibición en la UE de los servicios de IA que permiten "desnudar" personas sin su consentimiento, una medida defendida también por los Estados miembros pero que todavía no se ha aplicado.