A OpenAI vai introduzir uma marca de água em determinados textos produzidos pelo ChatGPT e pelo Codex na União Europeia. A medida pretende responder às exigências do AI Act relativas à identificação automática de conteúdos criados por inteligência artificial.
O sistema, denominado textGrain, introduz um padrão estatístico nas escolhas de palavras feitas pelo modelo. Esse sinal pode posteriormente ser analisado por uma ferramenta de deteção, embora a eficácia varie consoante o tamanho, o tipo e as alterações feitas ao texto.
A tecnologia apresenta algumas limitações. A substituição de palavras, a tradução ou outras formas de edição podem reduzir significativamente a capacidade de reconhecer a marca. A OpenAI esclarece também que o mecanismo não identifica o utilizador, não determina a autoria nem permite avaliar se a informação apresentada é verdadeira.
A implementação será feita gradualmente nas próximas semanas para os utilizadores do ChatGPT e do Codex na UE. O detetor não ficará inicialmente disponível ao público, devendo o acesso ser reservado a investigadores e organizações especializadas.