Nova política da Anthropic proíbe você de ser ‘cruel’ com o Claude

IA Vai Mudar os Salários do Mercado? 2: 58Qual será o real impacto da inteligência artificial no seu emprego e no mercado de trabalho nos próximos anos? Crédito: Pedro CastroA empresa de inteligência artificial (IA) Anthropic alterou alguns itens da política de uso da plataforma. Uma das mudanças é proibir que usuários destratem de forma exagerada o próprio chatbot. No documento, disponível inclusive em português, há menções específicas de agora não é mais permitido “envolver-se em comportamento abusivo ou cruel continuado e desnecessário em relação aos nossos modelos”. Como a própria Anthropic complementa, essa nova política só será aplicada em “casos extremos”, com usuários que agem repetidamente de forma “cruel” e sem qualquer propósito discernível com o chatbot.

“Ela não se aplica a situações comuns de frustração ou contestação por parte do usuário, temas criativos sombrios ou atividades de pesquisa e testes dos modelos”, explica. Até agora, usuários que utilizassem linguagem exageradamente ofensiva ao falar com o chatbot poderiam ter a conversa encerrada de imediato pelo Claude. Porém, com as novas diretrizes, não está evidente se a empresa passará a tomar medidas mais drásticas em relação a esses usuários. Por que ela está protegendo o chatbot? A companhia não detalhou o motivo da mudança, mas usuários no Reddit especulam que ela pode ter a ver com dois elementos: as práticas sociais fora da IA e prompts dos usuários. Na primeira hipótese, a Anthropic pode ter mudado as políticas para que linguagem abusiva não seja naturalizadas por pessoas em um chatbot e, em situações futuras, serem reproduzidas em outros ambientes. Além disso, o Claude absorve elementos como vocabulário e a forma de tratar a pessoas inclusive a partir das ordens que recebe — o que talvez signifique que as tais “crueldades” poderiam ser usadas para treinar a IA e torná-la igualmente cruel com o público. Outras proibições da AnthropicA atualização nos termos de uso do Claude é uma rara modificação dessas diretrizes pela empresa. A Anthropic é uma das companhias do setor de IA que mais defende o uso ético e cauteloso de modelos de linguagem, embora tenha histórico de comportamento irregular de seus próprios agentes.

Na mesma mudança de texto, a companhia também adicionou novas proibições: ser utilizada para a prática de bullying contra outras pessoas; promover automutilação ou a criação de imagens íntimas não consensuais; interferir em processos eleitorais ou enganar cidadãos na hora do voto; atuar no desenvolvimento de armas ou para vigilância; A lista possivelmente está relacionada com recentes desdobramentos de um relatório da companhia, que detectou tentativas de uso do Claude para pesquisar armas biológicas e cometer cibercrimes. Como a Anthropic está se preparando para entrar na Bolsa de Valores? Entenda nesta matéria!