A Anthropic alertou para o aumento da capacidade dos sistemas de inteligência artificial para desenvolver versões futuras de si próprios, levantando novas questões sobre o controlo humano desta tecnologia.
Segundo a empresa, o chatbot Claude já era responsável por 26% do trabalho de investigação e desenvolvimento em agosto e colaborava com funcionários humanos em mais de 90% das tarefas. A Anthropic dispõe ainda de cerca de 30 mil agentes de IA envolvidos em trabalhos de investigação e engenharia.
A empresa considera que modelos capazes de acelerar o seu próprio desenvolvimento poderão dificultar a compreensão e supervisão dos sistemas. O objetivo da divulgação destes dados é acompanhar a proximidade do chamado autoaperfeiçoamento recursivo, em que um modelo conseguiria criar de forma autónoma o seu sucessor.
Apesar dos avanços, a Anthropic salienta que o Claude ainda não consegue operar totalmente sozinho. O alerta surge num contexto de crescente debate sobre os riscos da IA, incluindo possíveis impactos no emprego, consumo energético e segurança dos sistemas. O próprio diretor executivo da empresa, Dario Amodei, já defendeu um abrandamento do ritmo de desenvolvimento.