A OpenAI anunciou ter desmantelado duas operações de influência associadas à Rússia e ao Irão que utilizavam o ChatGPT para produzir conteúdos de propaganda e criar identidades falsas na Internet. Segundo a empresa, as campanhas procuravam influenciar a opinião pública sobre os conflitos na Ucrânia e no Médio Oriente.
A operação atribuída ao Irão recorria a sete perfis fictícios de jornalistas, apresentados como profissionais de países ocidentais, para publicar artigos em órgãos de comunicação internacionais. A OpenAI identificou cerca de 100 textos divulgados em aproximadamente uma dúzia de plataformas, além de comentários nas redes sociais relacionados com a guerra envolvendo os Estados Unidos e o Irão.
No caso da Rússia, a empresa identificou uma estrutura apresentada como centro de investigação, denominada Social Research Center, que utilizava colaboradores na América Latina para produzir conteúdos destinados a prejudicar a imagem da Ucrânia. Segundo a investigação, alguns desses trabalhadores desconheciam a alegada ligação da organização a operadores russos.
A OpenAI bloqueou as contas envolvidas e alertou para a utilização crescente de ferramentas de inteligência artificial em campanhas de manipulação da informação. Estas tecnologias permitem produzir artigos, relatórios e publicações nas redes sociais em grande escala, dificultando a identificação de operações coordenadas de desinformação.