La creación y distribución de imágenes falsas de desnudos, realizadas con herramientas de inteligencia artificial (IA), se ha convertido en una forma más de ciberacoso. Muchas de estas imágenes son utilizadas contra mujeres y menores de edad. En este sentido, la Unión Europea está trabajando para poner coto a esta práctica y, en un nuevo marco legislativo, tendrán consideración de delito, con el fin de atajar la violencia contra la mujer y el abuso contra menores.

Recientemente hemos conocido casos de este tipo de ciberacoso, como el de las menores de Almendralejo o el de la cantante internacional Taylor Swift, de la que se difundieron imágenes de carácter pornográfico, generadas con IA, en varias redes sociales.

Cada vez hay más herramientas de IA generativa que permiten crear clones de personas, tanto en formato de imagen como de video, sin ningún tipo de consentimiento. Así, tanto la UE como los EEUU están avanzando en aprobar nuevas leyes que prohíban la creación de estas imágenes con IA.

Medidas a nivel europeo contra las imágenes falsas creadas con IA

El Parlamento Europeo aprobó, el pasado 13 de marzo, el nuevo Reglamento de Inteligencia Artificial, que se espera que pueda ser refrendado por el Consejo Europeo y que se publique a finales de abril. Con esta nueva normativa, la Eurocámara fija una serie de obligaciones para la IA, en función de sus riesgos potenciales y su nivel de impacto, además de establecer las directrices para garantizar la seguridad y el respeto de los derechos fundamentales, al tiempo que impulsa la innovación.

Por su parte, la Comisión Europea anunció hace unas semanas un ambicioso plan para combatir la cibercriminalidad dirigida específicamente contra las mujeres, con medidas que van desde la tipificación de nuevos delitos hasta la promoción de la alfabetización digital. Dentro de esta hoja de ruta, la Comisión prevé establecer un marco legislativo que incluya los “falsos desnudos”, generados con inteligencia artificial, como delito penal. Con esta medida, la UE pretende abordar el creciente problema de la distribución no autorizada de imágenes manipuladas digitalmente que pueden causar un grave daño a la reputación y la intimidad de las víctimas.

El nuevo marco legislativo también abordará otras formas de cibercriminalidad, como el ciberacoso, el ciberhostigamiento, el discurso de odio en línea contra las mujeres y el envío no solicitado de contenido sexual (conocido como «cyberflashing»).

Otras actuaciones contra las imágenes irreales

De la misma manera, la Comisión también ha adoptado una propuesta para actualizar las normas sobre abuso sexual de menores y su explotación sexual. El objetivo es ampliar la definición de aquellos delitos relacionados con el abuso sexual de menores, incluyendo los materiales generados mediante inteligencia artificial, introduciendo penas más altas para este tipo de delitos y ampliando los requisitos en materia de prevención y asistencia a las víctimas.

Además de establecer sanciones penales para estos delitos, la UE también se centrará en la educación digital, con el objetivo de capacitar a los usuarios para identificar y prevenir la ciberviolencia contra las mujeres y menores de edad.. Se espera que esta iniciativa no sólo proteja a las víctimas, sino que también contribuya a crear una cultura en línea más segura y respetuosa.

Medidas en EEUU

El Congreso de Estados Unidos ha presentado una nueva iniciativa legislativa con el objetivo de combatir los deepfakes de inteligencia artificial. Uno de los aspectos más preocupantes de esta tecnología es su uso en la difusión de falsos desnudos, agravando así el serio problema del acoso en línea que afecta a muchos jóvenes en centros de educación.

A pesar del crecimiento en la popularidad de sitios web y aplicaciones dedicadas a la creación de estos deepfakes, hasta ahora no ha habido una legislación federal en Estados Unidos que prohíba específicamente la producción de estas imágenes por inteligencia artificial. La propuesta regulatoria, presentada por legisladores de ambos partidos, tiene como objetivo establecer una definición legal clara, respecto a los derechos sobre la imagen y voz propias, lo que implicaría la prohibición del uso de deepfakes de IA para imitar a cualquier persona, viva o fallecida, sin su consentimiento explícito.