Volkswacht Bodensee - Procurador da Califórnia abre investigação contra Grok por caso de imagens de caráter sexual

Nos últimos dias, Indonésia e Malásia bloquearam o acesso ao Grok, e o órgão regulador do Reino Unido iniciou sua própria investigação, depois que usuários criaram imagens pornográficas ou obscenas dando instruções simples à ferramenta de IA.

A empresa "xAI parece facilitar a produção em larga escala de montagens íntimas não consentidas [deepfakes], utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", disse o procurador-geral da Califórnia, Rob Bonta. Em consequência, será aberta "uma investigação sobre a xAI para determinar se, e como, a xAI violou a lei", acrescentou.

"Exorto a xAI a tomar medidas imediatas para que isso não volte a acontecer", afirmou o procurador. "Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico", disse Bonta.

Um movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que oferece de modificar imagens, em particular as publicadas na rede social X, também de Musk.

Alguns usuários aproveitaram essa função para publicar ou responder a mensagens que continham fotografias de mulheres, juntamente com a instrução "Coloque-a de biquíni", a fim de gerar uma imagem falsa hiper-realista (deepfake).

Desde o último dia 9, a função foi desativada para os usuários que não pagam o X. A plataforma afirmou que vai tomar medidas para remover o conteúdo ilegal e suspender as contas envolvidas.

No Reino Unido, o primeiro-ministro, Keir Starmer, disse hoje no Parlamento ter sido informado de que o "X está tomando medidas para garantir o total cumprimento da legislação britânica". "Se for o caso, é algo bom, mas não vamos recuar", afirmou, ressaltando que a investigação em andamento será mantida.

O porta-voz da Comissão Europeia Thomas Regnier informou hoje que a autoridade estava atenta a "medidas adicionais tomadas pelo X para evitar que o Grok gere imagens sexualizadas de mulheres e crianças". Se essas "mudanças não forem efetivas, a Comissão não hesitará em usar todo" o seu arsenal legislativo, acrescentou.

Questionado pela AFP, o Grok gerou a seguinte resposta: "A xAI impôs restrições à geração de deepfakes sexualizadas pelo Grok após a indignação mundial e as investigações, mas nenhuma proibição total foi anunciada."

Uma análise de mais de 20 mil imagens geradas pelo Grok feita na semana passada pela organização sem fins lucrativos AI Forensics, sediada em Paris, revelou que mais da metade delas representavam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam ser menores de idade.

A.Ammann--VB