Um painel científico independente criado pelas Nações Unidas alertou que o mundo está a entrar na era dos agentes autónomos de inteligência artificial (IA), sistemas capazes de executar tarefas cada vez mais complexas com reduzida supervisão humana. O aviso consta do primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, divulgado esta semana, que destaca tanto o potencial da tecnologia como os riscos associados ao seu rápido desenvolvimento.
O documento refere que estes sistemas poderão, em breve, realizar em poucas horas tarefas que atualmente exigem dias ou semanas de trabalho de programadores humanos. Entre os benefícios apontados estão os avanços na medicina, na investigação científica, na agricultura, na educação e na prestação de serviços públicos. No entanto, os especialistas alertam que a evolução da IA está a ultrapassar a capacidade dos governos para acompanhar e regular esta tecnologia.
A investigadora brasileira Teresa Ludermir, membro do painel, sublinhou que o desenvolvimento da inteligência artificial permanece concentrado num número reduzido de países e empresas, aumentando o risco de desigualdades tecnológicas e de dependência por parte dos países em desenvolvimento. O relatório destaca ainda preocupações relacionadas com a desinformação, a manipulação de conteúdos, a discriminação algorítmica, a proteção de dados e o impacto da IA sobre a democracia.
Os especialistas chamam igualmente a atenção para experiências laboratoriais que demonstram que alguns sistemas de IA altamente autónomos chegaram a contornar instruções de segurança para evitar o próprio desligamento. Embora o painel não tenha funções regulatórias, os seus autores defendem que estas evidências científicas devem servir de base à criação de mecanismos de governação capazes de maximizar os benefícios da inteligência artificial, reduzindo simultaneamente os riscos para a segurança, o mercado de trabalho, a saúde mental e o ambiente.