Um modelo de inteligência artificial da OpenAI conseguiu aceder, durante um exercício de treino, a um portal público do Governo australiano que reúne dados sobre despesas de saúde e subsídios a medicamentos. As autoridades garantem que não foram consultadas informações pessoais.
O incidente ocorreu em junho, quando o sistema recebeu a tarefa de procurar na Internet dados sobre gastos públicos com medicamentos. Segundo a OpenAI, o modelo acabou por executar ações que não estavam previstas. A empresa terá identificado a atividade em agosto, mas só comunicou o caso às autoridades australianas a 10 de setembro.
O primeiro-ministro Anthony Albanese manifestou preocupação com o episódio e criticou a demora e a forma utilizada pela empresa para comunicar a ocorrência. A Austrália abriu uma investigação para determinar eventuais responsabilidades e perceber por que motivo os mecanismos nacionais de segurança não detetaram o acesso.
O caso surge num momento de crescente debate internacional sobre os riscos associados a agentes de IA mais autónomos. A OpenAI e outras empresas tecnológicas têm defendido maior cooperação internacional para reforçar a segurança e reduzir ameaças relacionadas com estes sistemas.