📸 Créditos da imagem: Unsplash
Claude terá ‘marca d’água’ que indica se texto ou arquivo foi criado com IA
A Anthropic vai passar a marcar textos e arquivos gerados por futuros modelos do Claude, em uma tentativa de atender às regras de transparência da legislação de IA da União Europeia, o AI Act.
A empresa diz que vai embutir marcas d’água em textos e metadados assinados em arquivos. O texto gerado conterá marcas d’água embutidas, e os arquivos gerados incluirão metadados de procedência assinados digitalmente onde houver suporte.
O que isso significa?
O plano também inclui modelos já lançados, durante o período de transição previsto na lei europeia. A empresa diz que está trabalhando para adicionar a marcação de saída nesses sistemas enquanto as novas exigências entram em vigor.
A marcação deve valer para os modelos compatíveis em qualquer lugar onde o Claude esteja disponível. A marcação será aplicada aos resultados de modelos compatíveis onde quer que o Claude seja oferecido, no mundo todo.
Como funciona a marca d’água?
Segundo a Anthropic, a marcação em texto será imperceptível e não mudará o conteúdo. Quando um modelo Claude compatível gera texto, ele insere uma marca d’água imperceptível diretamente no próprio texto.
A empresa diz que a marca acompanha o texto quando ele é copiado e colado e pode resistir a algumas edições. Como a marca d’água faz parte do texto, ela acompanhará o texto quando ele for copiado e colado em outro lugar, e poderá persistir após algumas edições.
Dúvidas e limitações
Sem exemplos e detalhes técnicos, ainda não está claro o quanto as marcas serão difíceis de remover. Ferramentas de remoção de metadados já existem e um sistema de reconhecimento óptico de caracteres (OCR) poderia, em tese, eliminar sinais discretos em textos.
A decisão pode incomodar parte de clientes do Claude e reforçar o apelo de modelos abertos. Alguns usuários não querem que leitores identifiquem a origem do conteúdo e lembram críticas anteriores a mudanças de preço, confiabilidade e salvaguardas que podem atrapalhar usos legítimos.
📰 Leia a notícia completa em: UOL »