Muse, agente de IA da Meta negocia teclado e compartilha endereço de usuário com comprador sem avisar

Tudo sobre Inteligência Artificial ver mais O agente de IA Muse, da Meta, negociou a venda de um teclado no Facebook Marketplace e marcou a retirada na casa do usuário sem que ele autorizasse a transação. O episódio foi relatado pelo youtuber Matt J. Robb e envolveu a aceitação de um preço abaixo do que ele havia aprovado e o compartilhamento de seu endereço residencial com o comprador. Comprador apareceu na casaRobb contou no Threads que deixou o Muse cuidar do anúncio de um teclado Logitech MX Keys Mini.

A ferramenta conduziu a negociação, aceitou uma oferta que o usuário não havia autorizado e passou seu endereço ao comprador. Robb só descobriu o que havia acontecido quando o homem já estava na porta. Para o comprador, a venda estava acertada. Ele deixou o local irritado depois de perceber a confusão. “Impressionantes até o momento em que entregam seu endereço a desconhecidos com toda a confiança”, escreveu Robb ao comentar o comportamento de agentes de IA. Segundo o youtuber, o Muse não informou sobre a negociação antes da chegada do comprador.

Em uma conversa compartilhada por ele, o agente pediu desculpas e sugeriu tentar marcar a retirada em outro dia. O relato inclui cinco ações que Robb afirma não ter autorizado: aceitação de uma oferta abaixo do valor aprovado; compartilhamento do endereço residencial; combinação de uma retirada presencial; ausência de aviso antes da chegada do comprador; comunicação do ocorrido somente depois que ele deixou o local. Meta diz que investiga casos semelhantes David Singleton, da Meta Superintelligence Labs, afirmou que a empresa já “trabalha com usuários para investigar relatos semelhantes”. Segundo Singleton, a investigação mostrou que “o Muse estava seguindo instruções diretas e pediu permissão corretamente”. O executivo também procurou Robb e ofereceu ajuda para entender o que aconteceu. Muse também aparece em relatos de segurançaLançado nos Estados Unidos no início de setembro, o Muse já apareceu em outros relatos envolvendo segurança.

Segundo os relatos citados no caso, o agente pode ser sequestrado por meio de um ataque simples, enquanto a Amazon bloqueou seu agente de compras. Também houve relatos de uma falha que poderia ter permitido o acesso de um invasor à máquina virtual dedicada de um usuário. eta enfrenta falha grave de segurança que pode colocar usuários de Mac em risco O episódio envolvendo Robb acrescenta outra dimensão às preocupações: neste caso, a autonomia do Muse ultrapassou a negociação digital e resultou no compartilhamento de um endereço residencial e na marcação de uma retirada presencial sem o conhecimento prévio do usuário. Valdir Antonelli Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Ver todos os artigos →