Volkswacht Bodensee - La UE quiere ilegalizar la IA que genera falsas imágenes sexuales

Los representantes de los 27 países del bloque en Bruselas aprobaron una enmienda a un proyecto de ley sobre inteligencia artificial, cuyo objetivo es prohibir estos servicios en toda la UE.

La disposición aprobada "prohíbe los servicios de IA para la generación de imágenes sexuales e íntimas no consentidas, o pornografía infantil", según un comunicado del Consejo Europeo, el órgano de la UE que reúne a los Estados miembros.

El Parlamento Europeo trabaja en una enmienda similar, que podría ser aprobada en comisión la próxima semana.

El objetivo es prohibir los servicios de IA y otras aplicaciones que permiten a los usuarios "desnudar" a adultos o menores, o crear imágenes sexualmente explícitas de ellos sin su consentimiento, utilizando fotos o vídeos reales.

Hace unos meses Grok introdujo una función que permite a los usuarios crear imágenes de personas simulando desnudez a partir de fotos reales, lo que provocó indignación en muchos países y dio lugar a una investigación de la UE.

X, la plataforma donde está disponible Grok, declaró en enero su política de "tolerancia cero" ante los deepfakes sexualizados de niños y mujeres y afirmó haber tomado medidas para detener la creación de estas imágenes.

"No se trata de tomar medidas contra escándalos individuales como el de Grok, sino de limitar el poder que otorgamos a la IA", subrayó el eurodiputado alemán Sergey Lagodinsky, miembro de Los Verdes y una de las figuras clave de esta iniciativa.

R.Kloeti--VB