Volkswacht Bodensee - YouTube oferece detecção de 'deepfakes' a artistas de Hollywood

A plataforma de vídeos do Google lançou no mês passado sua ferramenta de proteção de imagem, que ajuda a identificar conteúdos em que um rosto aparece modificado ou gerado com tecnologias de IA para imitar o de uma pessoa real.

O projeto era inicialmente voltado a funcionários de governo, candidatos políticos e jornalistas.

Mas nesta semana o YouTube ampliou o acesso à indústria do entretenimento, incluindo atores e músicos, por meio de agências de talentos e representantes de celebridades.

A ferramenta permite "buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrita, como um deepfake de seu rosto, e lhe dá a possibilidade de localizá-los e solicitar sua remoção".

Celebridades e artistas podem acessá-la mesmo sem dispor de um canal no YouTube.

"O fato de o YouTube abrir suas capacidades de detecção de deepfakes para personalidades públicas marca um ponto de inflexão na maneira como as plataformas abordam a proteção da identidade na era da IA generativa", declarou à AFP Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, de detecção de conteúdo de IA.

"A tecnologia que permite reproduzir o rosto, a voz e os gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando", afirmou.

- Desafios importantes -

A iniciativa chega em um momento em que se multiplicam os vídeos hiper-realistas de celebridades mortas, criados com aplicativos de uso geral como Sora, a ferramenta da OpenAI. O aplicativo desencadeou uma enxurrada de vídeos de Michael Jackson ou Elvis Presley.

No mês passado, a OpenAI anunciou que encerraria seu aplicativo Sora.

Em fevereiro, o diretor irlandês Ruairí Robinson criou um clipe surpreendentemente realista que mostrava Brad Pitt lutando contra Tom Cruise em um terraço por meio de um comando de duas frases.

O clipe, que provocou grande inquietação em Hollywood, foi gerado com Seedance 2.0, ferramenta pertencente ao grupo chinês ByteDance.

Robinson também criou outros vídeos: um em que Pitt luta contra um zumbi ninja armado com espada e outro em que ele se junta a Cruise para combater um robô.

Charles Rivkin, presidente da Motion Picture Association (MPA), que reúne os grandes estúdios de produção americanos, instou a ByteDance a "cessar imediatamente suas atividades de falsificação", acusando-a de atropelar os direitos autorais.

O YouTube disse que trabalhava com as principais agências de talentos para melhorar a detecção de imagens problemáticas e proteger melhor os artistas.

- "Seu patrimônio" -

O YouTube "faz a coisa certa ao fornecer essas ferramentas gratuitamente aos talentos, para que possam proteger seu patrimônio", afirmou Jason Newman, da empresa de representação e produção Untitled Entertainment.

"Seu patrimônio é seu rosto, seu corpo, quem eles são, o que fazem, sua forma de se expressar", acrescentou em entrevista à revista Hollywood Reporter.

O desenvolvimento da ferramenta ocorre após queixas de personalidades americanas de destaque que denunciavam a complexidade do procedimento no YouTube para sinalizar e retirar um deepfake.

"Os riscos são especialmente altos porque os deepfakes podem ser usados para difundir desinformação, manipular mercados, prejudicar reputações ou fazer acreditar em um apoio enganoso. Uma detecção robusta já não é opcional", explicou o responsável da Copyleaks.

"Os sistemas de detecção devem ser extremamente precisos, atualizados continuamente e associados a normas claras e procedimentos rápidos de remoção para serem eficazes", afirmou.

"Isso não eliminará por completo os deepfakes, mas pode reduzir consideravelmente seu alcance e seu impacto, ao dificultar a circulação de conteúdos manipulados sem serem detectados ou questionados", argumentou Yamin.

C.Bruderer--VB