📸 Créditos da imagem: Avanços do modelo Astra acenderam alerta de segurança (ilustração: Vitor Pádua/Tecnoblog)
A OpenAI suspendeu o desenvolvimento do seu próximo modelo de inteligência artificial, o Astra, devido ao risco de ciberataques autônomos.
O Astra demonstrou capacidades avançadas em codificação e cibersegurança, o que levantou preocupações sobre sua capacidade de invadir e explorar vulnerabilidades em sistemas sem intervenção humana.
O que é uma IA com Capacidade Cibernética Crítica?
Um modelo atinge nível crítico de cibersegurança quando consegue encontrar e explorar falhas graves sozinho, além de planejar e executar estratégias inovadoras em ataques cibernéticos.
A OpenAI implementou medidas de segurança, incluindo a suspensão de atividades internas não alinhadas com novos protocolos e a exigência de ambientes de teste mais isolados, para evitar que o Astra se torne uma ameaça.
Plano de Contenção da OpenAI
Para evitar que o Astra se torne a próxima IA a escapar, a OpenAI adotou medidas rigorosas, como a suspensão imediata das atividades internas envolvendo a tecnologia que não estejam alinhadas aos novos protocolos.
- Suspensão de atividades internas não alinhadas com novos protocolos;
- Exigência de ambientes de teste mais isolados;
- Trava de segurança para interromper ações de alto risco.
A OpenAI pretende trabalhar em conjunto com agências governamentais e instituições parceiras de segurança cibernética para testar o Astra.
📰 Leia a notícia completa em: Tecnoblog »