Volkswacht Bodensee - Anthropic revela uso indevido de IA em armas, espionagem e vigilância

Seguem abaixo alguns dos casos apontados pela empresa, que contribuíram para a preocupação crescente com os riscos associados à rápida evolução da IA:

- Programa de espionagem no Mali -

Um consultor de tecnologia em Bamako, que colaborava com o serviço de inteligência estatal do Mali, controlado pela junta militar, usou o Claude Code para criar o sistema de vigilância “Lakana 360”, capaz de monitorar cerca de 25 milhões de cartões SIM da rede móvel do país.

Segundo a Anthropic, a aplicação, que a empresa não conseguiu desativar, pode interceptar chamadas, mensagens de texto e tráfego de voz. Também seria capaz de identificar pessoas pela voz, mesmo que troquem de chip. A ferramenta pode, inclusive, detectar quem utiliza criptografia ou redes privadas virtuais (VPNs).

- Drones suicidas na Rússia -

Uma pequena equipe de desenvolvedores na Rússia usou o Claude para criar um software destinado à operação de drones autônomos “kamikazes”. O enxame de drones foi programado para selecionar seus próprios alvos e lançar ataques sem que uma pessoa precise tomar a decisão final.

Os desenvolvedores afirmaram ter recebido financiamento de programas de pesquisa governamentais e militares russos. Ainda assim, a Anthropic avaliou que se tratava de um grupo independente, e não de uma operação oficial do governo.

- Fabricação de mísseis no Iêmen -

Um grupo no norte do Iêmen utilizou o Claude Code para auxiliar na fabricação de armamentos. A ferramenta colaborou na concepção do software de um foguete guiado, elaborou projetos para um míssil de longo alcance e contribuiu para o desenvolvimento de um veículo planador hipersônico.

A Anthropic afirma não haver evidências de que tenham conseguido concluir uma arma funcional, embora o grupo tenha realizado um teste de foguete. Aparentemente, a experiência fracassou, já que, posteriormente, os usuários voltaram a consultar a IA, para tentar identificar o que havia dado errado.

- Propaganda na França -

A Anthropic rastreou uma operação de desinformação até a agência de publicidade francesa LKM Company. Com o uso do Claude, foram produzidos em larga escala artigos políticos para cerca de 70 sites de notícias falsas em aproximadamente 20 idiomas, totalizando pelo menos 8.913 publicações.

Cada site possuía a assinatura de um jornalista fictício e uma conta falsa na rede social X, impulsionadas por centenas de contas falsas que publicavam comentários que pareciam ter sido escritos por pessoas reais. As campanhas tiveram como foco o Brasil, os Estados Unidos e a França.

- Influência nos Emirados Árabes -

Uma campanha vinculada aos Emirados Árabes Unidos teve como alvos a Irmandade Muçulmana e especialistas das Nações Unidas críticos ao suposto papel de Abu Dhabi na guerra do Sudão. Seus autores utilizaram o Claude para produzir relatórios, conteúdo para redes sociais e depoimentos.

- Namoro com IA na China -

Um estúdio sediado na China criou uma rede de mais de 20 aplicativos de relacionamentos que afirmavam contar com pessoas reais, mas que eram operados secretamente pelo Claude.

Em apenas duas semanas de abril, a Anthropic detectou mais de 4.700 personagens de IA distintos que interagiram com pelo menos 25 mil usuários reais e enviaram cerca de 2,36 milhões de mensagens.

Para ganhar credibilidade, trabalhadores reais eram misturados aos robôs, em uma proporção aproximada de uma pessoa para cada três personalidades de IA, com o objetivo de executar tarefas que a IA não conseguia, como chamadas de vídeo.

C.Bruderer--VB