Anthropic lidera ranking, mas setor de IA falha em segurança global

A Anthropic, uma proeminente empresa americana no setor de inteligência artificial, obteve a maior pontuação em um ranking semestral de segurança, mas o setor como um todo enfrenta dificuldades para lidar com ameaças de natureza 'existencial'. Essa conclusão é parte de um relatório divulgado pelo Future of Life Institute nesta terça-feira, 7.

No estudo, foram analisadas nove das principais companhias de IA do mundo mediante critérios que abrangeram a avaliação de riscos, danos já causados, estruturas de segurança, segurança existencial, governança, transparência e compartilhamento de informações. Embora a Anthropic tenha conseguido a nota geral de 'C+', nenhuma das empresas avaliadas recebeu a classificação máxima de 'A' em qualquer das categorias.

Além disso, o documento menciona que várias empresas, que anteriormente estabeleciam restrições ao uso militar de suas tecnologias, estão lentamente alterando suas posturas. A Anthropic, em particular, tem enfrentado críticas por seus compromissos com aplicativos militares, especialmente em relação ao uso de sua tecnologia em operações do governo dos EUA na Venezuela e Irã.

Apesar de alguns avanços e tentativas de abordar os riscos, o consenso é que os esforços coletivos são insuficientes para evitar o uso indevido da IA em atividades potencialmente prejudiciais, incluindo ciberataques.