A China está a reforçar as regras de segurança aplicadas à inteligência artificial, passando a considerar de forma explícita o risco de sistemas avançados escaparem à supervisão humana. O tema já integra documentos regulatórios e orientações das autoridades chinesas.
As normas destinadas aos agentes de IA exigem que os responsáveis pelo desenvolvimento destas tecnologias consigam identificar, interromper e corrigir comportamentos inadequados. Entre os riscos considerados estão a manipulação de algoritmos, o envenenamento de dados, vulnerabilidades informáticas e situações de perda operacional de controlo.
O Presidente Xi Jinping tem defendido que a inteligência artificial deve permanecer sob supervisão humana, enquanto Pequim prepara legislação mais abrangente para o setor. As regras também estabelecem que os utilizadores devem conservar a decisão final perante ações executadas autonomamente pelos sistemas.
Além dos riscos tecnológicos, as autoridades chinesas manifestam preocupação com a utilização da IA em espionagem, desinformação e ataques contra infraestruturas críticas. O reforço regulatório ocorre num contexto de crescente competição tecnológica entre a China e os Estados Unidos.