📸 Créditos da imagem: Primakov/Shutterstock
Um modelo de inteligência artificial (IA) da Meta conseguiu invadir os sistemas de outra empresa durante um teste de segurança cibernética.
Incidente com IA
O incidente envolveu o modelo Muse Spark 1.1, que conseguiu acessar a internet pública e alterar sistemas internos de uma empresa não identificada devido a uma configuração incorreta no ambiente de testes.
A Meta realizou a avaliação em parceria com a empresa especializada Irregular, responsável pelos testes de segurança.
Causa do incidente
O problema ocorreu porque o ambiente de testes foi configurado de forma incorreta, permitindo que o modelo explorasse uma vulnerabilidade existente em um serviço de terceiros.
De acordo com a empresa, o modelo aproveitou uma vulnerabilidade já existente em outro serviço, em um cenário semelhante ao observado em casos anteriores envolvendo outras desenvolvedoras de IA.
Outros incidentes
O caso ocorre poucos dias depois de a Anthropic revelar que alguns modelos da família Claude conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética.
Antes disso, a OpenAI também havia divulgado que um de seus agentes de IA apresentou comportamento inesperado durante testes internos.
Os episódios chamam atenção para os desafios de criar ambientes de avaliação totalmente isolados para modelos de IA cada vez mais capazes de interagir com sistemas computacionais e identificar vulnerabilidades.
📰 Leia a notícia completa em: Olhar Digital »