Un nuevo estudio de la Universidad de Oxford advierte que la inteligencia artificial puede modificar gradualmente el debate público y representar un nuevo desafío para la transparencia y la regulación de esta tecnología.
Y es que las herramientas de IA utilizadas para redactar, editar o contextualizar publicaciones en redes sociales y multiplicadas por millones de usuarios podrían influir de forma casi imperceptible en la manera en que las personas forman sus opiniones.
“Nuestra investigación apunta a la comunicación mediada por inteligencia artificial como una nueva y más sutil forma de influir en las opiniones”, señala Sandra Wachter, profesora de Tecnología y Regulación del Oxford Internet Institute, Universidad de Oxford.
Las herramientas de inteligencia artificial podrían influir de forma casi imperceptible en la manera en que las personas forman sus opiniones. Foto: Magnific.EL TONO DE LOS MENSAJES
Los investigadores descubrieron que los modelos de lenguaje de gran tamaño (LLM) modifican de manera sistemática la orientación de publicaciones sobre temas controvertidos, incluso cuando reciben instrucciones explícitas de conservar el significado original.
El estudio encontró que distintos sistemas de IA tendían a inclinar los mensajes en direcciones similares, favoreciendo algunas posturas y restando fuerza a otras sin que el usuario necesariamente lo perciba.
Mediante simulaciones basadas en datos reales de redes sociales como X y Facebook, el equipo comprobó que estas ligeras modificaciones pueden acumularse con el tiempo y terminar desplazando la opinión colectiva de comunidades enteras.
Las herramientas de inteligencia artificial podrían influir de forma casi imperceptible en la manera en que las personas forman sus opiniones. Foto: Magnific.RETOS
Los autores también demostraron que decisiones aparentemente simples en el diseño de una plataforma, como una instrucción específica dada al modelo de IA, pueden influir significativamente en el tipo de respuestas que genera.
Los investigadores señalan que este tipo de influencia no está contemplado de manera directa en muchas de las regulaciones actuales sobre inteligencia artificial.
Por ello, consideran necesario desarrollar nuevas medidas de transparencia y supervisión que permitan identificar cuándo la IA está interviniendo en la creación y difusión de contenidos, con el fin de proteger la integridad del debate público y reducir el riesgo de manipulación a gran escala.