Volkswacht Bodensee - Charles III alerta executivos de tecnologia sobre 'perigos existenciais' da IA

A reunião ocorreu em Dumfries House e contou com representantes da Nvidia, Google DeepMind, OpenAI e Anthropic, além do ministro britânico para a inteligência artificial.

O debate sobre os riscos da IA se intensificou nos últimos meses devido a incidentes e alertas de funcionários que deixaram cargos de alto escalão no setor e afirmam que o rápido avanço da tecnologia pode representar um risco para a humanidade.

"Parece urgente considerar adequadamente os perigos existenciais de essas tecnologias caírem em mãos erradas e serem utilizadas de maneiras potencialmente catastróficas", afirmou Charles III.

"A tarefa que cabe a vocês, portanto, não consiste apenas em fazer a tecnologia avançar, mas em garantir que ela continue firmemente a serviço da humanidade, das comunidades e da natureza", acrescentou.

Entre os convidados estavam o presidente da DeepMind, Demis Hassabis; o diretor-executivo da Nvidia, Jensen Huang; e a diretora financeira da OpenAI, Sarah Friar.

Os rápidos avanços da IA provocaram preocupação com a perda de empregos, o crescente consumo de energia e o impacto ambiental dos centros de dados.

O temor de que desenvolvedores possam perder o controle de agentes de IA aumentou após relatos de que modelos da OpenAI e da Anthropic escaparam de ambientes confinados e acessaram a internet.

"A possibilidade de que algo ruim aconteça acidentalmente, se cometermos um erro, certamente não é nula", afirmou Hassabis.

Huang, por sua vez, destacou os benefícios da IA para a pesquisa e a medicina, assim como seu potencial para "criar empregos em setores completamente novos".

C.Bruderer--VB