Volkswacht Bodensee - El regulador británico investiga a la red social X por imágenes de carácter sexual generadas con IA

"Se han recibido informes muy preocupantes sobre el uso" de Grok en X "para crear y compartir imágenes de personas desnudas, lo que podría constituir una ofensa a la decencia o pornografía, así como imágenes de carácter sexual de niños, que podrían constituir material pedopornográfico", indicó Ofcom en un comunicado.

La imágenes, tras pedidos a Grok para que desnudara a personas reales a partir de fotos o videos, han generado protestas en todo el mundo.

Indonesia, el sábado, y Malasia, el domingo, suspendieron el acceso a este asistente.

Tras las críticas, Grok desactivó el viernes su función de creación de imágenes para los usuarios no suscriptores.

Un portavoz del primer ministro británico, Keir Starmer, señaló que dicha medida "simplemente convierte una función que permite la creación de imágenes ilegales en un servicio premium" y constituye "un insulto a las víctimas de misoginia y violencia sexual".

Ofcom precisó el lunes que la semana pasada solicitó explicaciones a X, añadiendo que la red social "respondió dentro del plazo estipulado".

La investigación deberá "determinar si X ha incumplido sus obligaciones legales", que le imponen, entre otras cosas, "evaluar el riesgo de que personas en Reino Unido accedan a contenidos ilegales".

La medida también busca "eliminar los contenidos ilegales" y "evaluar los riesgos que representa para los niños británicos".

El regulador puede imponer multas de hasta el 10% de la facturación mundial de la empresa afectada y recurrir a la justicia para solicitar el bloqueo del sitio en Reino Unido.

H.Kuenzler--VB