A empresa norte-americana Anthropic apresentou aos legisladores dos Estados Unidos uma proposta de regulamentação destinada a estabelecer critérios de segurança para os modelos mais avançados de inteligência artificial. O documento define condições restritas para as autoridades impedirem a disponibilização destas tecnologias.
Segundo o projeto, a suspensão de um modelo apenas seria possível perante riscos iminentes de prejuízos superiores a mil milhões de dólares ou de morte ou ferimentos graves de mais de 50 pessoas. As situações previstas incluem ameaças biológicas, ciberataques e perda de controlo sobre sistemas de IA.
A proposta estabelece ainda avaliações independentes, relatórios de transparência, mecanismos de proteção de denunciantes e comunicação obrigatória de incidentes graves. Qualquer decisão de bloqueio teria de ser solicitada pelo Departamento do Comércio e autorizada judicialmente.
O documento gerou críticas de especialistas e responsáveis políticos, que consideram insuficientes as salvaguardas previstas. A possibilidade de substituir determinadas leis estaduais por regras federais também suscitou contestação, levando a Anthropic a admitir alterações ao texto.