Um antigo investigador da OpenAI e da Anthropic, Jacob Coxon, abandonou o setor por considerar que as empresas estão a avançar demasiado depressa no desenvolvimento de sistemas de inteligência artificial capazes de se aperfeiçoarem autonomamente.
Coxon afirma que alguns profissionais envolvidos no desenvolvimento da IA acreditam que estes sistemas poderão representar uma ameaça extrema para a humanidade ainda nesta década. O principal receio está na possibilidade de uma futura superinteligência desenvolver novas capacidades com cada vez menos intervenção humana.
O especialista defende que nenhuma empresa conseguirá gerir sozinha os riscos associados a sistemas superiores às capacidades humanas. Na sua opinião, será necessária regulação governamental e uma coordenação internacional que abrande o ritmo da corrida tecnológica.
A preocupação é partilhada por Evan Hubinger, responsável pela segurança da Anthropic, que estima em mais de 10% a possibilidade de a IA provocar consequências catastróficas na próxima década. O debate surge numa altura em que as principais empresas do setor continuam a investir fortemente no desenvolvimento de modelos cada vez mais avançados.