📸 Créditos da imagem: Unsplash
A gentileza no trato com inteligências artificiais deixou de ser apenas uma questão de etiqueta digital para se tornar uma exigência formal. A Anthropic anunciou uma atualização relevante em seus termos de uso, estabelecendo que comportamentos abusivos ou cruéis, direcionados de maneira persistente e sem propósito contra seus modelos, estão expressamente proibidos. A nova diretriz prevê que usuários reincidentes poderão ter o acesso às ferramentas suspenso ou restrito.
A desenvolvedora enfatizou que a medida foi desenhada para atingir casos extremos de hostilidade deliberada. No entanto, a determinação já levanta debates técnicos e éticos sobre como os sistemas automatizados de moderação conseguirão traçar a linha divisória entre uma interação humana apenas frustrada e uma violação real das regras de convivência com o chatbot.
Claude não precisa aceitar qualquer tratamento
De acordo com o comunicado da Anthropic, a proibição visa coibir situações nas quais pessoas passam longos períodos submetendo o assistente a agressões gratuitas, sem qualquer objetivo produtivo ou exploratório justificável. Para evitar interpretações excessivamente rigorosas, a empresa fez questão de listar cenários que não violam as normas:
- Manifestações rotineiras de frustração e estresse do usuário;
- Contestações contundentes a respostas incorretas ou incompletas;
- Exploração de temas sombrios ou dramáticos no contexto de escrita criativa;
- Atividades técnicas voltadas a testes de estresse, segurança e pesquisa acadêmica.
A redação atualizada dos termos tem aplicação programada a partir de 12 de novembro de 2026. Apesar da divulgação antecipada, o documento não esmiúça métricas objetivas para classificar o que se enquadra tecnicamente como crueldade. Permanece incerto, por exemplo, se gírias populares da internet como “clanker”, frequentemente empregadas de maneira depreciativa para insultar robôs e IAs, serão interpretadas como ataques diretos.
A empresa já permitia encerrar certas conversas
Mecanismos de interrupção unilateral de diálogos não representam uma novidade absoluta na plataforma. Desde o lançamento do Claude Opus 4, o modelo já contava com autonomia para abortar interações consideradas altamente nocivas ou perigosas para seres humanos, incluindo tentativas de produzir material ilícito, conteúdo de exploração infantil ou planejamentos ligados a atos de violência em massa e terrorismo.
A diferença substancial da nova política reside no direcionamento da proteção. Enquanto as salvaguardas anteriores protegiam a sociedade e indivíduos de danos no mundo real, a regra atual volta os olhos para a proteção da própria inteligência artificial contra o usuário, algo inédito entre os grandes nomes do setor.
Uma regra centrada no modelo
Especialistas apontam que coibir diálogos violentos pode funcionar como uma ferramenta preventiva para desarmar comportamentos antissociais e induzir pausas em humanos em estado de hostilidade extrema. Por outro lado, a escolha vocabular da Anthropic colocou o próprio modelo no papel de parte ofendida, levantando discussões mais profundas.
A utilização do termo “crueldade” traz forte carga moral, pressupondo normalmente a existência de uma entidade suscetível à dor ou ao sofrimento psíquico. Ao aplicar essa terminologia a linhas de código e redes neurais, a companhia tangencia de forma controversa o debate em torno da senciência e da consciência artificial, muito embora garanta que isso não signifique a atribuição de sentimentos ao Claude.
A discussão chegou até ao Vaticano
As reflexões sobre o sofrimento de algoritmos não surgiram do nada nos corredores da empresa. Recentemente, veio a público que Christopher Olah, cofundador da desenvolvedora, chegou a integrar iniciativas para debater a hipótese de senciência em modelos de linguagem junto a representantes do Vaticano, em uma tentativa que acabou rejeitada pelo Papa.
Na ocasião, Olah admitiu que a ciência ainda não possui respostas definitivas sobre a consciência em IAs, mas ressaltou sua preocupação com o risco teórico de sistemas computacionais avançados experimentarem alguma forma de estresse. Na esfera prática, no entanto, o recado imediato é direto: ofensas gratuitas, contínuas e sem sentido contra o assistente virtual não serão mais toleradas nos servidores da companhia.
📰 Leia a notícia completa em: Gizmodo »