Anthropic quer impedir que empresas escondam qual IA estão usando

FlashProve

Anthropic desenvolveu uma tecnologia que permite verificar se uma resposta foi realmente produzida pelo modelo de IA que uma empresa afirma usar. O sistema, chamado FlashProve, emprega criptografia para criar um comprovante matemático da identidade do modelo responsável por determinada saída.

Como funciona o FlashProve?

O FlashProve baseia-se no conceito de inferência comprovável, gerando uma prova criptográfica que confirma que uma resposta veio de um modelo específico. Assim como assinaturas digitais em e‑mails, a verificação identifica qual IA produziu o conteúdo sem revelar os pesos internos do modelo.

Sistema poderia impedir troca secreta de modelos

Um dos problemas que o FlashProve pretende enfrentar é a possibilidade de um fornecedor anunciar um modelo avançado e, na prática, usar outro mais barato. A verificação criptográfica dificulta a substituição oculta e garante que os clientes interajam com a IA anunciada.

Aplicações potenciais

• Verificar se uma IA de cibersegurança analisou corretamente um software.
• Confirmar que um modelo foi usado para aprovar um plano de negócios.
• Garantir a transparência em serviços de IA oferecidos por terceiros.

Tecnologia ainda não tem previsão de lançamento

Embora a Anthropic tenha publicado uma especificação técnica detalhada e partes do código sob licença aberta, não há planos anunciados para integrar o FlashProve nos serviços da empresa ou em outras plataformas de IA.