Anthropic encerra operações de vigilância com IA ligadas a armas biológicas

A Anthropic anunciou que suspendeu diversas operações de vigilância que utilizavam seus modelos de inteligência artificial (IA) para espionar minorias e dissidentes. A empresa também alertou sobre o crescente uso da IA por governos para fins de espionagem.

Os incidentes foram identificados entre janeiro e julho, com origem em países como China e Irã, além de nações da África Ocidental, e interrompidos a tempo. O relatório da Anthropic destaca que as ações miravam comunidades da diáspora e grupos historicamente perseguidos.

Além disso, a Anthropic bloqueou tentativas de desenvolver armas e conduzir pesquisas biológicas problemáticas. Sobre as investigações ligadas a armas biológicas, a empresa relatou que os envolvidos eram cientistas, mas não deu detalhes sobre suas intenções para evitar riscos a eles.

Os estudos estavam voltados para vírus como o chikungunya, uma cepa patogênica de gripe aviária e outros patógenos. A Anthropic também acusou desenvolvedores da China de utilização indevida de seus modelos para melhorar suas próprias tecnologias.