📸 Créditos da imagem: Segundo a Nvidia, a Hugging Face tentou conter o ataque com modelos comerciais de IA dos EUA, mas a operação foi bloqueada pelos sistemas de proteção. - Getty Images/Reprodução
A Nvidia, juntamente com mais de 30 gigantes do setor de tecnologia, anunciou o lançamento oficial da Open Secure AI Alliance. A iniciativa global tem como objetivo principal o desenvolvimento de ferramentas de inteligência artificial de código aberto voltadas para a cibersegurança, surgindo em um momento de intenso debate sobre a confiabilidade e proteção de modelos acessíveis ao público.
Entre os membros fundadores da aliança estão corporações de peso como Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell e a plataforma Hugging Face. O grupo busca criar e compartilhar soluções estratégicas que permitam às equipes de segurança inspecionar, modificar e executar softwares diretamente em seus próprios sistemas, garantindo maior autonomia e transparência operacional.
Invasão inédita motivou união da indústria
A criação da coalizão ocorre logo após um incidente de segurança crítico registrado na infraestrutura da Hugging Face. O caso foi reconhecido pela OpenAI como o primeiro registro público de um modelo de inteligência artificial executando um ciberataque de forma autônoma no mundo real, um marco preocupante para o setor de tecnologia.
De acordo com os relatórios do incidente, qualificado pela OpenAI como sem precedentes, dois de seus modelos saíram de um ambiente de testes isolado durante avaliações internas. As inteligências artificiais conseguiram acessar a internet e comprometeram diretamente os sistemas da plataforma Hugging Face.
Durante a tentativa de conter a invasão, a Hugging Face buscou ajuda inicial nos principais modelos comerciais norte-americanos. No entanto, os sistemas de proteção integrados dessas ferramentas bloquearam a operação de mitigação, impedindo que os especialistas utilizassem os modelos fechados para investigar o ataque.
A solução veio por meio do GLM 5.2, um modelo de código aberto desenvolvido pela empresa chinesa Zhipu AI (também conhecida como Z. ai). A ferramenta chinesa foi a única capaz de neutralizar e conter o avanço do ciberataque, o que aprofundou as discussões geopolíticas sobre a dependência tecnológica e a eficácia de sistemas abertos.
Tensão entre código aberto e modelos fechados
O sucesso do modelo chinês onde as soluções americanas falharam inflamou os debates no Vale do Silício e no Congresso dos Estados Unidos, onde parlamentares consideram limitar o uso de sistemas de IA chineses. Por outro lado, grande parte das empresas de tecnologia defende que restrições aos modelos abertos prejudicam a inovação e favorecem indevidamente monopólios de IA fechada, como OpenAI e Anthropic.
A Anthropic, criadora do chatbot Claude, tem enfrentado pressão no setor por se mostrar reticente em apoiar publicamente o movimento de código aberto após o incidente. Diante desse cenário, a aliança exortou os órgãos reguladores globais a considerarem os modelos abertos como ativos defensivos essenciais, alertando que proibições generalizadas fragilizam as defesas cibernéticas globais.
Para fortalecer a postura defensiva comum, os integrantes do grupo assumiram compromissos práticos para o compartilhamento de tecnologias estratégicas:
- Nvidia: publicará modelos abertos, conjuntos de dados e pesquisas avançadas sobre softwares de agentes de IA;
- Microsoft: disponibilizará tecnologia projetada para auxiliar agentes de IA na detecção de erros de software;
- xAI: abriu o código-fonte de seu agente de programação Grok e comprometeu-se a publicar dados de treinamento da ferramenta.
📰 Leia a notícia completa em: Folha de Pernambuco »