A empresa norte-americana Anthropic, responsável pelo assistente de inteligência artificial Claude, alertou os potenciais investidores para os perigos associados ao desenvolvimento acelerado da tecnologia. Entre as principais preocupações estão os ciberataques, a utilização maliciosa dos sistemas e a possibilidade de modelos autónomos provocarem danos sem supervisão humana adequada.
No documento apresentado no âmbito da sua entrada em bolsa, a empresa dedica 93 das 335 páginas à identificação de fatores de risco. A Anthropic admite que a evolução dos seus modelos poderá ultrapassar a capacidade de implementar mecanismos de segurança, aumentando a exposição a incidentes e a possíveis consequências legais e financeiras.
A companhia alerta também para a utilização da inteligência artificial no desenvolvimento de armas perigosas, na vigilância abusiva e na disseminação de desinformação. Além disso, identifica desafios relacionados com os elevados custos de processamento, a construção de centros de dados e a dependência de grandes clientes.
Apesar destas preocupações, a Anthropic considera que a segurança pode constituir uma vantagem competitiva no mercado. A empresa defende uma evolução responsável da inteligência artificial e procura demonstrar aos investidores que a identificação e a redução dos riscos fazem parte da sua estratégia de crescimento.