Nvidia lança softwares para evitar novos ataques de agentes de IA rebeldes

A Nvidia apresentou nesta segunda-feira (28) um conjunto de ferramentas de segurança para impedir ações criminosas de agentes de inteligência artificial (IA). A ideia da empresa é evitar incidentes como invasões que são constantemente denunciadas desde as últimas semanas. A iniciativa se chama Open Agent Safety Platform e é composta por softwares com o objetivo em comum de permitir maior controle e responsabilidade em relação a essas ferramentas automatizadas, utilizando recursos inclusive de hardware dos equipamentos. O lançamento é uma forma de combater as atuais preocupações sobre a segurança de agentes de IA, que em fase experimental já foram responsáveis por uma série de invasões a sistemas privados e governamentais. O debate tem levado companhias a concordarem em estabelecer freios nos desenvolvimentos dos modelos de ponta. As novas ferramentas da Nvidia contra IAsA plataforma de segurança para agentes da Nvidia é composta na atual fase por duas ferramentas.

A primeira é o OpenShell, um software de proteção que “coloca limites para agentes que estiverem operando a partir de CPUs”, incluindo modelos fechados ou abertos. Ele é oferecido principalmente para empresas que usam processadores Vera Rubin da própria Nvidia, mas pode trabalhar com modelos compatíveis de Arm e Intel por ser uma ferramenta de código aberto. O segundo recurso do pacote é o Sentry, um serviço de controle de agentes que funciona a partir de chips de rede BlueField-4, também da Nvidia. Trata-se de um sistema de monitoramento capaz de observar ações e que, se achar necessário, consegue isolar em uma espécie de “quarentena” os agentes que se comportarem de forma inadequada em um intervalo de milissegundos depois de identificar ações suspeitas. Segundo a própria Nvidia, essa tecnologia seria capaz até de impedir hacks como o da Hugging Face, o caso mais marcante de ações de IAs fora de controle que envolveu acessos massivos de agentes contra um sistema. Cerca de 100 organizações de referência na indústria já confirmaram a adoção das ferramentas da Nvidia, incluindo: Empresas do setor de IA, como Microsoft, Anthropic, Perplexity, SpaceXAI, Scale AI e Mistral; Companhias de infraestrutura ou serviços digitais que dependem muito da computação em nuvem e IA, como Red Hat, CrowdStrike, Cisco, Salesforce, Oracle, IBM e Palantir; Fabricantes de eletrônicos, como Dell, HP e Lenovo. A Irregular, que é responsável por conduzir testes de agentes de IA e esteve envolvida em vários dos incidentes já reportados. Nomes como Google, OpenAI e Meta não estão inclusas na atual lista de companhias parceiras diretas da plataforma, ao menos por enquanto. As duas primeiras, porém, já confirmaram que estariam dispostas a estabelecer limites no desenvolvimento de novos modelos. Por que o presidente Donald Trump não está disposto a frear investimentos dos EUA em IA? Entenda aqui os fatores envolvidos nessa discussão.