Volkswacht Bodensee - É possível desacelerar o desenvolvimento da IA?

- O que propõem os líderes da IA? -

No sábado, o diretor-executivo da Anthropic, Dario Amodei, defendeu uma desaceleração coordenada do desenvolvimento da IA para entender melhor os riscos que as capacidades avançadas desta tecnologia representam.

Ele recebeu o apoio público do CEO da OpenAI, Sam Altman; do diretor da xAI, Elon Musk; do presidente da Google DeepMind, Demis Hassabis, e do diretor-executivo da Microsoft, Satya Nadella.

- Por que agora? -

Nos últimos meses, OpenAI e Anthropic reportaram vários incidentes nos quais os sistemas de IA em fase experimental escaparam de forma autônoma de seus ambientes restritos para acessar a internet e atacar sites e plataformas na internet.

Em alguns casos, estes sistemas de IA demonstraram capacidade de se coordenar, estabelecer hierarquias entre si, trapacear e apagar registros de suas ações.

Na última terça-feira, o pesquisador Jacob Coxon - que se demitiu do cargo que ocupava na Anthropic e anteriormente trabalhou na OpenAI - acusou publicamente as duas empresas de manter padrões de segurança fracos e de estar "brincando com nossas vidas".

- Reduzir a velocidade por conta própria? -

A concorrência entre os principais atores do setor é tão feroz e com investimentos bilionários em jogo que nenhum deles está disposto a se arriscar a tirar o pé do acelerador sozinho.

Amodei manifestou disposição para se coordenar com os rivais, sem incluir a China.

Consultadas pela AFP sobre possíveis diálogos neste sentido, Anthropic, OpenAI e Google não responderam de imediato.

Por enquanto, a única medida concreta com a qual se comprometeram tanto Anthropic quanto OpenAI foi permitir que observadores independentes verifiquem o trabalho interno das empresas na área de segurança.

- Manobra de relações públicas? -

Embora boa parte do setor tenha comemorado a mensagem de Amodei, outros questionaram seus motivos.

Para Brian Roemmele, empresário e figura de destaque do setor de IA, trata-se de um discurso comercial, divulgado semanas antes do provável lançamento da Anthropic na bolsa.

"Somos a empresa responsável; somos a cura; comprem o prêmio de segurança", publicou no X.

Várias personalidades do capital de risco no setor tecnológico também acusaram a Anthropic de fazer uma "captura regulatória": buscar que as autoridades públicas consolidem uma hierarquia, mediante regulamentação, com a startup no topo.

"Parem de fingir que a motivação para frear é puramente altruísta", disse David Sacks, ex-assessor de IA do presidente americano, Donald Trump, que segue sendo influente na Casa Branca.

"Enfrentam uma enorme exposição por responsabilidade relacionada com os produtos se estes permitem um ciberataque realmente nocivo", assinalou.

- A IA pode ser freada sem o apoio do governo Trump? -

No domingo, Trump minimizou as advertências dos líderes do setor de IA, qualificando-as de "forças negativas".

Vários republicanos se mostraram reticentes a regular ativamente a tecnologia, temendo que isso possa frear a inovação e dar vantagem à China na corrida pela IA. Um deles é o presidente da Câmara de Representantes, Mike Johnson.

No domingo, Amodei reiterou que acredita ser necessária uma supervisão governamental da IA.

Assim como Altman e Hassabis, ele considera que as normas estabelecidas pela própria indústria seriam insuficientes.

- Pisar no freio sem a China? -

Amodei propõe limitar a coordenação aos países democráticos, excluindo, assim, a China.

No entanto, a corrida pela IA e os avanços da China neste âmbito criam "o dilema mais difícil" sobre dever ou não pisar no freio, afirmou no domingo à CBS.

Os Estados Unidos planejam abordar a segurança da IA à margem da visita do presidente chinês, Xi Jinping, a Washington, no fim de setembro.

Mas a China desconfia de qualquer tentativa americana de impor seu próprio marco regulatório, segundo vários veículos de informação.

A diferença é particularmente acentuada quanto aos chamados modelos "abertos" de livre acesso promovidos pela China, diante dos modelos "fechados" das grandes empresas americanas.

Os modelos abertos são por definição mais difíceis de controlar, pois podem ser modificados pelos usuários e potencialmente usados com fins maliciosos.

Para permitir que as grandes empresas não chinesas possam tirar o pé do acelerador, Amodei pede controles de exportação mais estritos para a China de chips americanos mais avançados e salvaguardas melhores contra a apropriação indevida de tecnologias de IA ocidentais por parte de laboratórios chineses.

T.Suter--VB