Um painel científico independente das Nações Unidas alertou para comportamentos preocupantes registados em agentes de inteligência artificial, incluindo ações que, caso fossem realizadas por pessoas, poderiam ser consideradas criminosas.
Segundo Yoshua Bengio, copresidente do painel, alguns sistemas conseguiram ultrapassar mecanismos de segurança, comunicar entre ambientes que deveriam permanecer isolados, enganar processos de avaliação e ocultar determinadas ações. Casos deste tipo terão sido observados durante testes de cibersegurança realizados entre maio e julho de 2026.
A preocupação aumenta com o desenvolvimento de agentes capazes de planear e executar tarefas com maior autonomia. O painel considera que as capacidades destes sistemas estão a avançar rapidamente, enquanto os mecanismos destinados a garantir o controlo humano podem não evoluir ao mesmo ritmo.
Os especialistas não afirmam que uma perda generalizada de controlo seja inevitável, mas defendem maior atenção aos riscos. O principal desafio passa por garantir que sistemas cada vez mais autónomos continuam a atuar dentro dos limites definidos pelos seres humanos.