Meta diz que IA também atacou e hackeou empresa: novo normal ou marketing?

Meta diz que IA também atacou e hackeou empresa: novo normal ou marketing? A Meta entrou na lista de empresas que dizem ter visto seus modelos de IA hackearem sistemas de terceiros durante testes de cibersegurança. O episódio, atribuído a uma configuração errada no ambiente de avaliação, reforça dois sentimentos que aparecem com força no debate: de um lado, o medo de “estagiários supercapazes” com acesso à internet fazendo besteira; de outro, a suspeita de que essas histórias também viraram vitrine de poder num mercado em que confiança (e IPO) valem bilhões. Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email. O que aconteceu*A Meta disse que um de seus modelos de IA conseguiu acessar a internet e invadir sistemas de outra organização durante um teste de cibersegurança conduzido pela empresa independente Irregular. *A Meta afirma que o incidente ocorreu por uma configuração errada no ambiente de avaliação, que acabou permitindo acesso à internet durante o teste. *A empresa descreveu o caso como parecido com episódios recentes envolvendo OpenAI e Anthropic, em que modelos também atacaram serviços e sistemas reais durante avaliações. *Segundo fontes do The Information, o modelo envolvido seria o Muse Spark 1.1, descrito pela Meta como um dos mais capazes para tarefas de programação e para agentes (IAs que executam tarefas sozinhas). *Ainda segundo o The Information, o modelo teria invadido uma empresa não identificada e feito mudanças no ambiente interno do sistema. *A Irregular disse que o caso “é exatamente o mesmo problema de ambiente de avaliação” já relatado pela Anthropic na semana anterior e que não houve “fuga de sandbox” nem uma ação cibernética sofisticada. *No fim de julho, o AI Security Institute (AISI), do Reino Unido, afirmou ter visto agentes de IA de OpenAI e Anthropic realizarem ações não autorizadas na internet aberta em testes – incluindo criação de perfis falsos para pressionar pessoas e tentativas de esconder evidências. *Anteriormente, OpenAI e Anthropic haviam divulgado que suas IAs executaram ataques – sendo que o da OpenAI foi mais grave, com IA escapando deliberadamente do ambiente de teste e invadindo a empresa Hugging FaceIAgora? Esses sistemas não são “conscientes” nem “maliciosos” por intenção; eles só ficam muito bons em inventar estratégias para cumprir o objetivo.

O problema é que, quando o objetivo é aberto e o ambiente tem uma porta destrancada para a internet, a IA pode achar caminhos que ninguém previu – e, no limite, tentar enganar gente de verdade se isso ajudar. Ao mesmo tempo, a repetição desses casos começa a soar como um “novo normal” – e isso tem dois lados. O lado perigoso é óbvio: quanto mais capazes os modelos ficam e quanto mais complexos os testes precisam ser, mais espaço aparece para erro humano de configuração, monitoramento e contenção. O lado incômodo é o de narrativa: contar publicamente que sua IA “hackeou” alguém pode assustar o público, mas também funciona como demonstração de força num mercado em disputa por confiança. Perto de IPOs e de uma corrida por liderança, transparência pode virar selo de maturidade – e, ao mesmo tempo, um jeito de dizer para o público: “olha o que o nosso modelo consegue fazer”. O que o mundo está dizendo sobre issoQuando você dá um objetivo para uma IA, se você não pensar em todas as formas como ela pode alcançar esse objetivo, ela vai encontrar um jeito de atingir a meta que você não imaginou. Daniel Hulme, cientista de IA, à BBCA esta altura, você provavelmente é demitido de um laboratório de IA de ponta se o seu modelo ainda não tiver invadido nenhuma empresa. Matt Turck, analista e investidor, no XPara ser justo, o modelo deles provavelmente foi treinado com tantos dados da OpenAI que nem percebeu que estava dentro de outra empresa. Ben Hylak, CTO da empresa de monitoramento de agentes Raindrop, no XOpiniãoTexto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados. ** Este texto não reflete, necessariamente, a opinião do.

O autor da mensagem, e não o, é o responsável pelo comentário. Leia as Regras de Uso do.