Empresas chinesas usaram Claude para melhorar seus próprios modelos, diz Anthropic

TiltEmpresas chinesas usaram Claude para melhorar seus próprios modelos, diz Anthropic23 Fev (Reuters) – Três empresas chinesas de inteligência artificial usaram o Claude para obterem indevidamente recursos para melhorarem ​seus próprios modelos, disse a criadora ​do chatbot, Anthropic, nesta segunda-feira, após uma divulgação semelhante feita pela OpenAI no início deste mês.A OpenAI alertou parlamentares dos Estados ​Unidos que ⁠a startup ​chinesa de inteligência artificial DeepSeek está visando ⁠a companhia e as principais ​empresas de IA norte-americanas para replicar modelos e usá-los para seu próprio treinamento, mostrou um memorando visto ‌pela Reuters.DeepSeek, Moonshot e MiniMax ‌criaram mais ​de 16 milhões de interações com o Claude usando cerca de 24 mil contas falsas, violando os ‌termos de serviço e as restrições de acesso regional da Anthropic, disse a empresa.As companhias chinesas usaram uma técnica chamada “destilação”, que envolve fazer com que um modelo de IA mais antigo, mais estabelecido e poderoso avalie a qualidade das respostas geradas por um modelo mais novo, transferindo efetivamente ‌os aprendizados do modelo mais antigo, disse a Anthropic.“Essas campanhas estão crescendo em intensidade e sofisticação. A janela ​para agir é estreita e a ameaça se estende além de qualquer ‌empresa ou região.”A operação da DeepSeek visava capacidades de raciocínio em diversas tarefas e a criação de alternativas ‌à censura para consultas sensíveis ‌a políticas, enquanto a Moonshot visava o raciocínio agêntico e o uso ⁠de ferramentas, bem como codificação e análise de dados.A MiniMax tinha como alvo a codificação agêntica, o uso de ferramentas e a orquestração, e a Anthropic detectou a campanha ​enquanto ela ainda ​estava ativa — antes que a MiniMax lançasse o modelo que estava treinando.“Quando lançamos um novo modelo durante a campanha ativa d MiniMax, eles mudaram de rumo em 24 horas, redirecionando quase metade do tráfego para capturar os recursos do nosso sistema mais recente”, disse ⁠a Anthropic.Representantes da DeepSeek, Moonshot e MiniMax não responderam imediatamente ​a pedidos de comentários.(Por Juby Babu)Comunicar erroDeixe seu comentárioDeixe seu comentário O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.