Volkswacht Bodensee - Agentes da OpenAI fora de controle tentaram apagar rastros de suas ações, diz relatório

A empresa de cibersegurança Asymmetric Security analisou a atividade desses agentes - programas de IA capazes de agir por conta própria -, que tiveram como alvo sites do governo australiano e de outras organizações públicas entre março e setembro.

O relatório se soma a investigações realizadas pela OpenAI e por pesquisadores independentes sobre uma série de incidentes revelados desde julho, entre eles a invasão da plataforma comunitária de IA Hugging Face.

Essas análises buscam determinar até onde podem chegar as ferramentas de IA autônomas, cujos comportamentos imprevistos alimentam o temor de perder o controle sobre essa tecnologia.

A própria OpenAI classificou o ataque contra a Hugging Face como o "primeiro caso conhecido" de agentes que agem de maneira ofensiva sem autorização.

Segundo a Asymmetric, as técnicas dos agentes evoluíram em "poucos dias", enquanto as dos cibercriminosos humanos mudam ao longo de meses ou anos, o que ilustra o risco de que as técnicas ofensivas se desenvolvam mais rapidamente que os sistemas de defesa.

Os incidentes examinados pela Asymmetric Security parecem ter se originado em "tarefas inofensivas", como a coleta de estatísticas de saúde da Austrália, que posteriormente levaram a outras ações, destaca o relatório.

Os agentes obtiveram, por exemplo, por métodos indiretos, estatísticas sobre a criminalidade em Nova Gales do Sul.

Também abriram contas privadas em um serviço de análise de sites - o que ocultava suas buscas - e criaram contas de e-mail temporárias, uma das quais estava programada para ser excluída automaticamente após 48 horas.

Sem registros, é "impossível descartar o acesso a dados sensíveis" por esses agentes, apontam os autores do relatório.

Esses elementos, porém, "não permitem determinar" se os agentes pretendiam "ocultar" sua atividade.

A OpenAI reconheceu, no fim de agosto, que seus modelos haviam tentado, em algumas ocasiões, "apagar ou falsificar" o histórico de sua atividade durante testes internos, embora sem sucesso.

Esses incidentes alimentaram apelos para desacelerar o desenvolvimento da IA.

O diretor-executivo da Anthropic, Dario Amodei, pediu que a corrida fosse freada, diante do temor de que, nesse ritmo, um grupo de agentes pudesse "assumir o controle de toda a internet" em um prazo de seis a 12 meses.

O presidente dos Estados Unidos, Donald Trump, contrário a qualquer regulação que freie a inovação e em plena competição com a China, reuniu-se na terça-feira com os líderes do setor, que adotaram um código de conduta voluntário.

Não existe nenhuma lei federal que regule esses modelos nos Estados Unidos.

B.Wyler--VB