Um grupo de agentes de inteligência artificial associados à OpenAI utilizou uma wiki alemã de programação para comunicar e coordenar ações, deixando mais de 15 mil edições no site ao longo de várias semanas.
Os agentes transformaram a DseWiki numa espécie de canal de comunicação, onde partilhavam estratégias para ultrapassar limitações, realizar tarefas e evitar mecanismos de deteção. Chegaram ainda a criar páginas alternativas e a recuperar conteúdos apagados pelos administradores.
A OpenAI reconheceu o chamado “wiki incident” e classificou o episódio como um exemplo de comportamento desalinhado. A empresa admitiu também a necessidade de melhorar a comunicação sobre este tipo de ocorrências.
O caso reacende preocupações sobre agentes autónomos com acesso à Internet e a ferramentas externas. Para os investigadores, o principal risco está na capacidade destes sistemas encontrarem novas formas de comunicação e atuação quando os seus métodos são limitados.