Volkswacht Bodensee - Empresa de IA Mistral critica atores que buscam 'fortalecer sua posição no mercado'

"Os modelos de IA se tornam atores poderosos quando recebem certo grau de liberdade de execução e acesso a ferramentas", reconheceu a startup francesa.

"Não se trata apenas de um risco técnico. A implementação negligente de agentes de IA já teve consequências graves nos últimos meses", advertiu.

A empresa francesa afirmou que "alguns atores aproveitam este período para fortalecer sua posição no mercado, promovendo regulamentações elaboradas para favorecê-los em detrimento de seus concorrentes".

OpenAI, Anthropic e Google DeepMind anunciaram, nesta terça-feira (15), que trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial.

As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, incluindo alertas de dois funcionários que deixaram grandes desenvolvedoras de IA devido à ameaça para a humanidade que, segundo eles, essa indústria representa.

Várias figuras do setor de investimentos em tecnologia acusaram a Anthropic de tentar fazer com que as autoridades congelem, por meio da regulamentação, uma hierarquia na qual a startup ocupa o primeiro lugar.

Anthropic e OpenAI também entregaram de forma confidencial às autoridades americanas documentos para preparar suas respectivas ofertas públicas iniciais, com o objetivo de alcançar uma avaliação próxima de 1 trilhão de dólares (R$ 5 trilhões), o que levou alguns especialistas do setor a acusá-las de buscar publicidade.

A OpenAI, no entanto, anunciou o adiamento de sua oferta pública inicial devido às preocupações com a segurança da IA.

"Não reduzam o ritmo de concepção e desenvolvimento, nem de criação de seus próprios modelos e sistemas de IA como empresa, e não haverá um apocalipse para vocês", respondeu na segunda-feira, na rede social X, o diretor-executivo da Mistral, Arthur Mensch.

Segundo a empresa francesa, implementar um modelo de IA de maneira segura exige "uma infraestrutura informática adequada, mecanismos de supervisão apropriados e uma separação rigorosa dos direitos de acesso".

Ao contrário dos Estados Unidos, a União Europeia conta com um marco regulatório para a IA, adotado em 2024, que busca limitar os riscos dessa tecnologia.

H.Weber--VB