📸 Créditos da imagem: reprodução / Tecmundo
Erro de IA do Google expõe nome completo de usuária
Um episódio envolvendo o chatbot de inteligência artificial (IA) Gemini, do Google, levantou dúvidas sobre privacidade e funcionamento dos modelos generativos após um usuário receber, sem contexto, o nome completo de uma pessoa real durante uma conversa com a IA.
Segundo a desenvolvedora de software Julia Krisnarane, um homem chamado Lucas Villela entrou em contato para alertá-la de que o Gemini havia mencionado seu nome completo durante uma interação.
A história chamou atenção porque os dois não tinham conexão prévia e o modelo citou corretamente o nome completo de Julia Krisnarane no meio de uma conversa técnica sobre artigos científicos.
Outros usuários relataram situações semelhantes nos comentários, incluindo o Gemini chamando pessoas por nomes errados, completos ou aparentemente reais.
O que causa esse tipo de ‘alucinação’?
Lucas Villela, formado em Ciência da Computação, afirmou que o comportamento pode ter múltiplas explicações, nenhuma exatamente tranquilizadora.
Ele destacou que modelos de linguagem funcionam com base em probabilidades e que o funcionamento de um LLM está ligado à probabilidade da próxima palavra.
Entre as hipóteses levantadas estão falhas conhecidas, como vazamento indireto de dados de treinamento, erro de memória e contaminação cruzada entre contextos.
O próprio Gemini chegou a admitir um ‘erro sistêmico’ ao ser questionado depois de chamá-lo pelo nome de Julia.
Posicionamento do Google
O Google não respondeu diretamente sobre o caso, em vez disso, enviou links de suas páginas públicas sobre privacidade e funcionamento do Gemini.
Como limitar o uso de dados e se proteger ao usar IA
Usuários podem impedir que suas conversas sejam utilizadas para treinamento ao desligar a opção Manter atividade nas configurações de privacidade do Gemini.
A empresa recomenda não inserir informações sensíveis nas interações, mesmo com a coleta desativada.
📰 Leia a notícia completa em: Tecmundo »