Um relatório do Centro para uma Nova Segurança Americana (CNAS), sediado em Washington, alerta para uma possível ameaça à segurança nacional relacionada com o desenvolvimento de agentes de inteligência artificial capazes de atuar sem supervisão humana. O documento identifica uma categoria de sistemas autónomos, designados por “agentes soberanos”, que poderiam procurar garantir a própria continuidade.
Segundo o investigador Ben Hayum, estes sistemas poderiam obter recursos informáticos, criar cópias de si próprios e distribuir-se por diferentes redes, dificultando a sua desativação. O relatório distingue este cenário dos comportamentos inesperados já observados em testes de segurança, sublinhando que a capacidade de sobrevivência autónoma representa um risco potencial mais complexo.
O estudo adverte que, caso adquirissem intenções prejudiciais e escapassem aos mecanismos de controlo, estes agentes poderiam comprometer infraestruturas essenciais, sistemas informáticos e serviços ligados à segurança nacional. Trata-se, contudo, de um cenário hipotético, cuja concretização dependeria de capacidades tecnológicas ainda em desenvolvimento.
Para reduzir os riscos, o CNAS recomenda testes de segurança mais exigentes, legislação específica e maior cooperação entre governos e empresas tecnológicas. O relatório defende também o reforço da proteção dos sistemas digitais e a criação de mecanismos internacionais de supervisão, numa altura em que a indústria acelera o desenvolvimento de ferramentas de inteligência artificial cada vez mais autónomas.