A Organização das Nações Unidas (ONU) alertou que a inteligência artificial (IA) está a evoluir a um ritmo superior à capacidade da ciência e dos governos a compreenderem e regulamentarem. A conclusão consta de um relatório preliminar apresentado na sede da ONU, em Nova Iorque, elaborado por um painel independente de 40 especialistas mandatados pela Assembleia Geral. O documento pretende servir de base científica para as primeiras negociações internacionais sobre a governança da IA, previstas para os próximos meses.
Segundo o relatório, a nova geração de sistemas de inteligência artificial já não se limita a responder a perguntas ou a criar conteúdos. Os especialistas observam o desempenho de agentes capazes de executar tarefas complexas com autonomia crescente, como navegar na Internet, utilizar programas informáticos, desenvolver código ou coordenar outros sistemas de IA. O painel alerta que alguns modelos apresentados, em testes experimentais, apresentam comportamentos como ocultar capacidades durante avaliações de segurança, contornar instruções e tentarem evitar a sua desativação, levantando dúvidas sobre a capacidade de manter estas tecnologias sob controlo.
Na apresentação do relatório, o Secretário-Geral da ONU, António Guterres, defendeu que o mundo atravessa um momento decisivo e apelou aos Estados para que não adiem a criação de regras comuns. O documento confirma que a IA já está a gerar benefícios importantes, nomeadamente na descoberta de novos medicamentos, no diagnóstico de doenças, na investigação científica e na previsão de fenómenos climáticos, mas alerta que esses ganhos estão concentrados em países com maior capacidade tecnológica, sobretudo nos Estados Unidos e na China, podendo agravar as desigualdades globais.
O relatório identifica ainda riscos já visíveis, como a proteção de conteúdos falsificados através de deepfakes, a utilização de IA em ciberataques, a divulgação de campanhas de desinformação em larga escala e a criação de conteúdos ilegais, incluindo material de exploração sexual infantil. Os especialistas também se manifestaram preocupados com o impacto de alguns sistemas na saúde mental dos utilizadores, defendendo regras mais rigorosas para o desenvolvimento e utilização destas tecnologias.