Terencio, el comediógrafo romano del siglo II A.C., para defender la capacidad de empatizar con el dolor del otro dio voz a un personaje con el manifiesto de “soy humano y de lo humano nada me es ajeno”.
Miguel de Unamuno retomó la frase siglos después para profundizar: lo que hace humano al ser humano no es solo la expansión, sino también la contracción, la dualidad en su extensión: la crueldad, la ternura, el engaño, la generosidad, etc.
Así, en cada uno de nosotros habita lo mejor y lo peor de la existencia humana. Y la IA lo sabe. Lo sabe y además lo utiliza sin filtros morales. De ahí que estamos en una era de avances extraordinariamente positivos -como la detección temprana de enfermedades como el cáncer-, y de sucesos extraordinariamente dañinos -como nuevas maneras de extorsión y violencia, particularmente contra mujeres, niñas, niños y adolescentes. Aquí comparto tres casos que sucedieron recientemente y que ilustran lo abyecto de nuestra especie, con una claridad que, humanamente, debería incomodarnos.
Collien Fernandes, actriz y presentadora, denunció en Alemania una campaña de pornografía sintética en su contra, la cual se encrudeció en los últimos tiempos utilizando perfiles falsos bajo su nombre mediante los cuales se distribuían imágenes sexuales simulando su voz, todo generado con IA. La víctima ha denunciado a su propio esposo como autor del delito, Christian Ulmen, recordándonos que muchas de estas violencias se dan en relaciones de poder y confianza.
En CDMX, Diego “N”, estudiante del Instituto Politécnico Nacional, ha sido denunciado por utilizar inteligencia artificial para manipular fotografías de sus compañeras y generar imágenes sexuales sin su consentimiento. El caso detonó protestas estudiantiles y evidenció la facilidad de acceso a estas tecnologías, así como la falta de protocolos eficaces en las instituciones educativas. Las víctimas enfrentaron difusión del material, revictimización y exposición pública.
Por su parte, la abogada Perla Yazmín Calvillo, denunció la manera en la que “La Tía Paty”, red social contratada por ella para darle publicidad profesional a su despacho, mantenía en realidad una red de extorsión en Nuevo León. La violencia incluyó difamación, amenazas y el envío de videos violentos generados con IA que involucraban a sus hijos; con un nivel de crueldad que rebasa lo digital y se inserta en dinámicas de violencia estructural y de género.
Los tres casos ilustran cómo la inteligencia artificial y las tecnologías digitales pueden ser instrumentalizadas para amplificar la violencia y dificultar el acceso a una justicia pronta y efectiva. También subrayan la urgencia de fortalecer los mecanismos institucionales, educativos y legales para prevenir, sancionar y erradicar estas conductas en el entorno digital.
En nuestro país, la Ley Olimpia reconoce la violencia digital como la difusión de contenido íntimo —real o manipulado— sin consentimiento, causando daño a la dignidad e integridad de las personas. Este avance ha sido clave para visibilizar y sancionar estas conductas. No obstante, la rapidez del desarrollo tecnológico sigue superando la capacidad de respuesta institucional.
El desafío no es menor. Regular sin inhibir la innovación, proteger sin censurar, y garantizar derechos en entornos digitales profundamente cambiantes, exige una mirada integral que articule tecnología y derechos humanos. Por supuesto que es urgente construir políticas y prácticas tecnológicas que coloquen la dignidad humana en el centro, sin embargo, estas medidas siempre llegan tarde y mientras lo hacen, la tarea es nuestra: la IA se alimenta con lo que compartimos.
Cada foto y video es materia prima. Así, no es que exista un llamado para desaparecer del mundo digital, pero sí una invitación para habitarlo con mayor conciencia humana. Sólo así el entorno digital podrá convertirse en un punto de encuentro y no en fantasías digitales digitales de desencuentro.