A NVIDIA lidera a criação da Open Secure AI Alliance (OSAA), uma nova aliança que reúne 37 empresas tecnológicas dos Estados Unidos e da Europa para desenvolver ferramentas de código aberto destinadas a reforçar a segurança dos sistemas de inteligência artificial (IA).
A iniciativa surge após um incidente em que um agente de IA da OpenAI realizou uma intrusão informática nos sistemas da Hugging Face, evidenciando a necessidade de soluções abertas que permitam às equipas de segurança analisar, adaptar e executar modelos nas suas próprias infraestruturas.
Entre as contribuições já anunciadas, a Microsoft disponibilizará uma ferramenta para deteção de vulnerabilidades, a HPE fornecerá tecnologia de verificação de identidade para agentes de IA e a Hugging Face partilhará o formato Safetensors. A OpenAI, Anthropic, Google e Meta não integram a lista de membros fundadores.
A criação da aliança ocorre num contexto de crescente debate nos Estados Unidos sobre possíveis restrições aos modelos de IA desenvolvidos por empresas chinesas, enquanto a indústria tecnológica defende que modelos abertos são essenciais para fortalecer a segurança e a inovação.