📸 Créditos da imagem: reprodução / Tecmundo
Introdução
OpenAI anunciou a implementação de marcas d’água invisíveis em textos gerados pelo ChatGPT, utilizando a tecnologia textGrain. A iniciativa visa identificar a origem de textos produzidos por IA, especialmente na União Europeia.
Como funciona o textGrain
O textGrain insere um “sinal estatístico invisível” nas escolhas de palavras, mantendo a qualidade do texto. Diferentemente de abordagens que adicionam caracteres ou pontuações estranhas, essa técnica altera características estatísticas do conteúdo.
Desempenho e limitações
Testes mostraram que o textGrain igualou ou superou outras soluções, como o SynthID. Contudo, a detecção pode falhar em textos curtos, em conteúdos matemáticos e quando o texto é editado.
Implementação e disponibilidade
- Aplicação obrigatória na UE em respostas elegíveis do ChatGPT e Codex nas próximas semanas.
- Opção para clientes da API em todo o mundo.
- Detecção de marca d’água ainda em fase de avaliação.
Comparação com outras iniciativas
Enquanto a Anthropic aplicou a marca d’água de forma obrigatória em modelos Claude, a OpenAI mantém a abordagem limitada inicialmente.
Desafios dos detectores
- Textos curtos (<200 tokens) têm apenas 80% de detecção.
- Conteúdo matemático apresenta baixa taxa de detecção.
- Substituição de palavras reduz significativamente a eficácia.
Conclusão
A iniciativa reflete a crescente preocupação com a transparência de conteúdos gerados por IA, embora ainda haja desafios técnicos e de confiabilidade na detecção.
📰 Leia a notícia completa em: Tecmundo »