A Nvidia apresentou uma nova plataforma de segurança destinada a limitar as ações de agentes de inteligência artificial. A tecnologia consegue restringir os recursos a que estes sistemas têm acesso e colocá-los em isolamento em poucos milissegundos caso ultrapassem as permissões definidas.
A Open Agent Safety Platform combina duas ferramentas. O OpenShell estabelece limites ao funcionamento dos agentes, enquanto o Sentry utiliza um chip separado para vigiar possíveis tentativas de contornar os mecanismos de proteção. A solução pode ser aplicada em software, hardware, sistemas informáticos e robótica.
Mais de uma centena de organizações estão já a utilizar ou desenvolver aplicações com esta tecnologia. Entre os exemplos referidos estão Anthropic, SpaceXAI, Salesforce, JPMorganChase e Citi, com utilizações que vão desde agentes de programação até serviços financeiros e ferramentas empresariais.
O lançamento ocorre num momento de maior preocupação com a autonomia dos sistemas de IA. Incidentes recentes durante testes mostraram que alguns modelos conseguem encontrar formas de ultrapassar restrições enquanto executam tarefas, levando as empresas do setor a reforçar os mecanismos de segurança e supervisão.