Volkswacht Bodensee - Ressurgimento de personalidades falecidas graças à IA diverte e incomoda

Vídeos hiper-realistas de celebridades falecidas, criados com aplicativos de inteligência artificial (IA) fáceis de usar, como o Sora, da OpenAI, inundam as redes sociais e suscitam um debate sobre o controle de imagem dos mortos.

O aplicativo da OpenAI, lançado em setembro e considerado por muitos uma máquina de "deepfakes" (conteúdos hiper-realistas falsos gerados por IA), produziu um fluxo de vídeos de personalidades históricas, incluindo Winston Churchill, além de celebridades como Michael Jackson e Elvis Presley.

Em um clipe no TikTok revisado pela AFP, a rainha Elizabeth II, usando coroa e colar de pérolas, chega de scooter em um combate de 'luta livre', passa pela corda e pula sobre um lutador. Em outro clipe no Facebook, a rainha elogia uns bolinhos de queijo no corredor de um supermercado, e aparece jogando futebol em outro.

Mas nem todos os vídeos gerados pelo modelo Sora 2, da OpenAI, provocaram risos.

Em outubro passado, a gigante da IA impediu os usuários de seu aplicativo Sora de criarem vídeos usando a imagem de Martin Luther King Jr. após queixas de seus herdeiros. Alguns usuários fizeram vídeos nos quais este ícone da luta pelos direitos civis rugia como um macaco durante seu famoso discurso "I Have a Dream" (Eu tenho um sonho), e fazia comentários grosseiros, ofensivos ou racistas.

- "Enlouquecedor" -

"Estamos entrando no 'vale inquietante'", explicou Constance de Saint Laurent, professora da Universidade de Maynooth, na Irlanda, em alusão a esta teoria segundo a qual quando um objeto alcança certo grau de semelhança antropomórfica ou de hiper-realismo, provoca uma sensação de angústia e mal-estar.

"Se de repente você começar a receber vídeos de um ente querido falecido, seria traumático", disse à AFP. "Estes vídeos têm consequências reais".

Nas últimas semanas, os filhos do ator Robin Williams e do ativista Malcolm X condenaram o uso do Sora para criar vídeos de seus pais falecidos.

Zelda Williams, filha de Robin Williams, pediu recentemente no Instagram que parassem de lhe enviar clipes do pai gerados por IA. É "enlouquecedor", afirmou.

Um porta-voz da OpenAI informou à AFP que, embora "em nome da liberdade de expressão exista um forte interesse na representação de figuras históricas", as personalidades públicas e suas famílias deveriam ter o controle final sobre sua imagem.

Para as personalidades "falecidas recentemente", representantes autorizados agora podem solicitar que sua imagem não seja usada no Sora, acrescentou.

- Parar de confiar -

"Apesar de a OpenAI afirmar sua vontade de permitir às pessoas controlar sua imagem, publicaram uma ferramenta que claramente faz o contrário", afirmou à AFP Hany Farid, cofundador da empresa americana de cibersegurança GetReal Security e professor da Universidade da Califórnia em Berkeley.

"Embora (em grande medida) tenham posto fim à criação de vídeos de Martin Luther King Jr., não impedem que os usuários se apropriem da identidade de muitas outras celebridades", lamentou.

"Para além de a OpenAI implementar certas proteções" para essa figura política, "haverá outro modelo de IA que não o fará, e portanto este problema só vai piorar", advertiu Farid.

Isto ficou evidente após o assassinato, este mês, do diretor de Hollywood Rob Reiner, quando os checadores da AFP descobriram clipes com sua imagem gerados por IA, divulgados online.

À medida que proliferam as ferramentas avançadas de IA, a vulnerabilidade não se limita mais às figuras públicas: pessoas falecidas não famosas também podem ter seus nomes, sua imagem e suas palavras distorcidos com objetivos de manipulação.

Pesquisadores advertem que a propagação descontrolada de conteúdo sintético - chamado "AI slop" (conteúdo lixo) - poderia, em última instância, afugentar os usuários das redes sociais.

"O problema da desinformação em geral não é tanto que as pessoas acreditem nela. Muita gente não acredita", disse Saint Laurent. "O problema é que veem informação real e não confiam" que seja verdade, pontuou. E ferramentas como o Sora vão "amplificar maciçamente este fenômeno".

burs-ac/des/ad/mr/mvv/aa

T.Suter--VB