Analizan sanciones por modificar contenido sexual con IA

Diputados integrantes de la Comisión de Justicia en el Congreso del Estado analizan imponer sanciones de cárcel a quienes usen sistemas de inteligencia artificial para la manipulación, difusión, almacenamiento de contenido sexual íntimo sin consentimiento o lo utilice con fines de extorsión.
En la propuesta, enviada para su estudio legislativo, se contempla imponer una sanción de cuatro a ocho años de prisión y 500 a mil días de multa.
Además, cuando las conductas descritas se realicen contra personas menores de edad o se empleen tecnologías de inteligencia artificial para generar imágenes, videos o representaciones sintéticas de carácter sexual, la pena se incrementará hasta en una mitad de la pena máxima.
Aparte, tratándose de delitos cometidos mediante IA, se ordenará el decomiso, eliminación o bloqueo inmediato de los instrumentos tecnológicos, programas o algoritmos utilizados, así como la supresión de los archivos digitales generados.
En caso de funcionarios públicos, podrían hacerse acreedores de inhabilitación temporal o definitiva en su trabajo para las personas jurídicas que hayan utilizado o empleado el uso de tecnologías digitales o sistemas de inteligencia artificial para la comisión de delitos.
Actualmente, el Código Penal en el estado contempla de manera general las consecuencias jurídicas del delito y disposiciones sobre violencia digital; sin embargo, no existe un marco específico que regule el uso de IA en este ámbito, lo que genera una brecha frente a las nuevas formas en que los agresores utilizan la tecnología para amplificar el daño causado.
En México, el 22.4 por ciento de las mujeres de 12 años o más informaron haber sufrido ciberacoso en 2021, cifra equivalente a casi 9.8 millones de mujeres, informó el Instituto Nacional de Estadística y Geografía (Inegi). Además, las tendencias globales muestran que los ataques generados o potenciados por inteligencia artificial ya son parte del crimen organizado moderno.
La Haya, Países Bajos, a través de la agencia de aplicación de la Ley de la Unión Europea, advierte que la IA está “turboalimentando” el tráfico de personas, el lavado de dinero, los ataques cibernéticos y las estafas en línea, que socavan a la sociedad y al Estado de Derecho.
[email protected]