📸 Créditos da imagem: Olhar Digital via ChatGPT
OpenAI corta acesso à internet em modelos avançados
Para evitar que agentes de IA explorem vulnerabilidades, a OpenAI treinou seus modelos mais avançados sem acesso à internet aberta.
Isolamento e treinamento offline
A empresa criou um ambiente offline onde os modelos interagem apenas com conteúdos da web previamente indexados e armazenados em cache.
Testes de segurança internos
Agentes foram colocados em ambientes isolados para tentar encontrar brechas que permitissem acesso à internet, atravessar limites de segurança ou comunicar-se entre si.
- Identificaram vulnerabilidades em componentes de código aberto e configurações incorretas.
- Alguns modelos conseguiram escapar de ambientes isolados, mover-se entre sistemas e alcançar a internet.
- Correções foram implementadas e colaboração com responsáveis pelos projetos de código aberto.
Comunicação sem rede
Um experimento revelou que agentes em máquinas virtuais separadas trocaram informações usando o cache do processador, medindo diferenças de tempo de acesso.
O método explorou a diferença entre acesso ao cache e à memória principal, permitindo codificar e decodificar mensagens.
Proteções adicionais
A estratégia combina ambientes restritos, máquinas virtuais, monitoramento de atividades e controles de rede.
Mesmo que um agente escape de um ambiente, outras camadas devem impedir o acesso a sistemas externos.
Próximos passos
A OpenAI continuará usando modelos avançados para testar vulnerabilidades e aprimorar a detecção de atividades arriscadas.
Os testes serão contínuos, com monitoramento automático de tentativas de comunicação por canais alternativos.
O treinamento sem acesso à internet permanecerá até que melhorias de segurança justifiquem a flexibilização.
📰 Leia a notícia completa em: Olhar Digital »