A Anthropic revelou ter impedido tentativas de utilização dos seus sistemas de inteligência artificial em ciberataques, campanhas de propaganda e investigação biológica com potencial para desenvolver agentes patogénicos mais perigosos.
Num relatório divulgado esta quinta-feira, a empresa descreve casos identificados entre dezembro de 2025 e agosto de 2026. Entre eles estão pedidos relacionados com investigação de ganho de função sobre o vírus chikungunya e operações de influência através de centenas de contas falsas nas redes sociais.
A empresa admite que os modelos mais avançados aumentam os riscos de utilização indevida e afirma ter reforçado as salvaguardas para limitar determinados pedidos de investigação biológica. A Anthropic diz também ter partilhado informações sobre os casos com autoridades e outras empresas do setor.
O relatório surge dois dias depois da saída do investigador Jacob Coxon, que deixou a empresa por considerar que a indústria está a avançar demasiado depressa no desenvolvimento de sistemas de IA capazes de se aperfeiçoarem autonomamente.