Anthropic escolhe consultoria para avaliar segurança de sua IA / foto: © AFP
-
LSAP exige fim do turismo de combustível e critica reforma tributária
-
Polícia apreende pistola de gás e munição em Esch após incidente no Rathausplatz
-
Produção industrial brasileira cai 0,8% em setembro
-
Brasil gera 121,3 mil empregos formais em setembro
-
Setor produtivo critica manutenção da Selic em 13,75%
-
Dólar recua após eleições nos EUA; Ibovespa sobe
-
Governo publica MP com alíquotas do Imposto Seletivo para 2027
Anthropic escolhe consultoria para avaliar segurança de sua IA
A Anthropic informou nesta sexta-feira que se associou à consultoria Accenture para avaliar a segurança de seus modelos de inteligência artificial (IA), com o objetivo de cumprir a promessa do CEO Dario Amodei de que observadores independentes avaliariam os modelos mais potentes da empresa.
Embora a startup californiana considere que, a longo prazo, a revisão independente da IA deveria ser financiada pelo Estado ou por um fundo específico, "devido à importância e urgência desse trabalho" vai começar remunerando a Accenture.
A Anthropic deve destinar US$ 1 bilhão para a avaliação de sua IA nos próximos cinco anos. A Accenture planeja investir um valor equivalente nessa atividade no mesmo período.
Como prometeu Amodei, a Anthropic vai dar aos consultores da Accenture os mesmos acessos aos seus sistemas que os de seus funcionários. Os profissionais envolvidos serão da Faculty, subsidiária de Accenture dedicada à IA, empresa adquirida neste ano pelo grupo de consultoria.
"Os avaliadores integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos", explicou a Anthropic. "Também podem relatar incidentes e fornecer uma prestação de contas mais bem documentada em relação aos benefícios e riscos."
Segundo a Anthropic, a colaboração não é exclusiva e acordos com outros avaliadores externos devem ser anunciados nas próximas semanas.
A.Kunz--VB
