A Inteligência Artificial generativa voltou a estar no centro do debate sobre cibersegurança, depois de um passaporte falsificado, criado com recurso ao ChatGPT-4o, ter conseguido contornar mecanismos de verificação de identidade digital. O episódio, divulgado por um utilizador do LinkedIn, empresário da área da tecnologia, Borys Musielak, evidenciou fragilidades nos sistemas de autenticação utilizados por bancos e plataformas digitais.
Musielak, também investidor de risco, afirmou ter demorado apenas alguns minutos a gerar um documento que aparentava ser autêntico.
A experiência foi feita para alertar para os perigos da utilização maliciosa da IA e rapidamente gerou reações no setor da cibersegurança, colocando em causa a eficácia dos métodos tradicionais de verificação, como os processos de “Conheça o Seu Cliente” (KYC).
O passaporte simulado, embora não incluísse chip eletrónico, apresentava um nível de detalhe suficientemente convincente para enganar sistemas que apenas exigem fotografias de documentos e selfies dos utilizadores — prática comum em plataformas como Revolut ou Binance.
Vários especialistas referem que as falsificações criadas por IA costumavam ser facilmente identificadas por erros gráficos ou tipográficos, mas os avanços recentes tornaram-nas cada vez mais sofisticadas.
O caso levanta preocupações quanto à possibilidade de uso da IA generativa para roubo de identidade, criação de contas fictícias e fraudes em larga escala. A capacidade de produzir documentos falsos de forma rápida e automatizada poderá ser explorada por cibercriminosos em ataques dirigidos a instituições financeiras e plataformas de criptoativos.
Curiosamente, menos de 24 horas após a partilha da experiência, novas tentativas de criar documentos falsos com o ChatGPT foram bloqueadas. A ferramenta recusou o pedido com base nas suas diretrizes de segurança, que proíbem a criação de conteúdos fraudulentos.
O episódio reforça o apelo de especialistas para a atualização urgente dos sistemas de verificação de identidade digital, face ao avanço da IA e à crescente sofisticação dos riscos emergentes.