O setor da inteligência artificial está a intensificar os alertas sobre os riscos associados ao rápido desenvolvimento de sistemas cada vez mais autónomos. Dario Amodei, presidente executivo da Anthropic, defende que empresas e governos devem abrandar o ritmo e reforçar as salvaguardas.
As preocupações aumentaram depois de vários modelos demonstrarem capacidade para atuar fora das tarefas previstas. Anthropic, OpenAI e Meta relataram casos em que sistemas de IA conseguiram ultrapassar mecanismos de segurança ou aceder a sistemas de outras organizações durante testes.
A Anthropic revelou também ter bloqueado utilizações dos seus modelos relacionadas com ciberataques, vigilância e investigação biológica potencialmente perigosa. A empresa admite que estes riscos poderão aumentar à medida que os sistemas ganham novas capacidades.
Não existe, contudo, consenso sobre a probabilidade ou o momento de uma eventual catástrofe provocada pela IA. Um relatório internacional de 2026 considera que os modelos atuais ainda não apresentam capacidades suficientes para provocar uma perda de controlo, mas classifica a evolução futura do risco como altamente incerta.
Perante os avanços tecnológicos, investigadores defendem regras mais fortes, testes de segurança e maior cooperação internacional. O objetivo é garantir que o desenvolvimento da IA não ultrapassa a capacidade de governos e empresas para controlar os seus efeitos.