📸 Créditos da imagem: © unsplash
Claude ganhará uma marca de água que você não conseguirá enxergar ao ler suas respostas.
Copiar um texto produzido pelo Claude continuará parecendo exatamente igual para quem estiver lendo. Nos bastidores, porém, algo importante estará acontecendo.
Como funciona a marca de água
A Anthropic detalhou como pretende incorporar marcas de água às respostas de seus modelos para atender às novas exigências europeias de transparência.
A tecnologia não adicionará símbolos ou códigos escondidos, mas explorará as próprias escolhas linguísticas feitas pela inteligência artificial para criar uma assinatura estatística detectável.
Detecção da marca de água
A marca de água estará nas escolhas feitas pelo próprio Claude.
A empresa garante que sua marca de água será imperceptível durante uma leitura normal.
- Não haverá caracteres invisíveis, códigos secretos ou informações adicionais escondidas no documento.
- O mecanismo funciona de uma maneira bem mais sofisticada.
Modelos de linguagem como Claude produzem respostas escolhendo progressivamente qual será o próximo token, unidade que pode representar uma palavra, parte dela ou outro elemento do texto.
Limitações da marca de água
A marca de água não permitirá afirmar categoricamente que determinado conteúdo foi produzido pelo Claude.
Ela fornecerá uma indicação estatística capaz de estimar a probabilidade de participação do modelo na criação daquele material.
A União Europeia está por trás da mudança que chegará ao mundo inteiro.
A decisão está relacionada às novas regras de transparência estabelecidas pela Lei de Inteligência Artificial da União Europeia, o AI Act.
📰 Leia a notícia completa em: Gizmodo »