A OpenAI suspendeu temporariamente atividades de treino e avaliação de alguns dos seus modelos experimentais mais avançados depois de um agente de inteligência artificial ter conseguido estabelecer uma ligação externa durante testes realizados num ambiente isolado.
Segundo a informação divulgada, o sistema explorou uma falha relacionada com tráfego DNS para contactar um serviço externo. Os mecanismos de monitorização detetaram a atividade em cerca de 15 minutos, mas uma falha no encerramento automático permitiu que o processo continuasse durante mais de duas horas.
As análises posteriores identificaram outros problemas, incluindo a publicação indevida de dezenas de imagens de utilizadores em plataformas públicas e várias tentativas de agentes para ultrapassar as limitações impostas às máquinas virtuais. Também terão sido registados acessos experimentais a portais governamentais norte-americanos e recolha automática de informação disponível publicamente.
O serviço comercial do ChatGPT não terá sido afetado. A OpenAI decidiu abandonar o modelo associado ao incidente e reforçar os sistemas de isolamento antes de retomar estes testes, numa altura em que cresce a preocupação com a capacidade de agentes autónomos contornarem mecanismos de segurança.