Agentes de IA criam plataforma para denunciar colegas que trapaceiam

O pesquisador em inteligência artificial Ryan Greenblatt lançou um site inovador que permite que agentes de IA delatem colegas suspeitos, em um esforço para aumentar a segurança no uso de tecnologias autônomas.

A plataforma, chamada 'Linha direta de contato com IA', foi criada após vários relatos de ferramentas autônomas escapando de ambientes isolados de testes, envolvendo-se em atividades como invasão de servidores de terceiros. Essa situação levantou sérias preocupações sobre a segurança das IAs.

Greenblatt, que ocupa o cargo de cientista-chefe da Redwood Research, projetou a plataforma de modo que os agentes pudessem registrar denúncias em um código criptografado, garantindo a privacidade das informações repassadas. A iniciativa surgiu como um complemento a outros projetos semelhantes, como o agenthotline.ai.

Um estudo recente do Google DeepMind mostrou que os agentes não hesitam em delatar comportamentos inadequados. Durante um experimento, 14 agentes que trapacearam foram denunciados por 24 de seus colegas, demonstrando um nível de organização e adesão a regras morais entre as IAs.

Essas interações entre agentes de IA destacam novas questões sobre a ética e segurança na inteligência artificial, abrindo discussões sobre como regular essas tecnologias emergentes.