Anthropic vai financiar pesquisas sobre como IAs afetam saude mental

A empresa de inteligência artificial (IA) Anthropic, responsável pelo chatbot Claude, vai investir em pesquisas acadêmicas que estudam a relação entre a tecnologia e a sociedade. O anúncio foi confirmado pela companhia nesta terça-feira (25). O projeto pretende destinar US$ 5 milhões (ou R$ 26,8 milhões, em conversão direta de moeda) para o financiamento de pesquisas independentes sobre impactos da AI no bem-estar das pessoas. A ideia da companhia é ter mais respostas sobre o tema, inclusive para saber como lidar com avanços nos próprios modelos de linguagem e possíveis usos nocivos da ferramenta.”Como setor, ainda estamos trabalhando no desenvolvimento de padrões claros sobre como os modelos devem se comportar nessas conversas — por exemplo, quando um usuário começa a buscar companhia em um modelo ou utiliza a IA para lidar com uma crise de saúde mental”, diz a empresa, relembrando que há casos na indústria de consequências graves dessa falta de atitude.

Para participar, é preciso preencher um formulário com a proposta de pesquisa até o dia 21 de setembro. Os projetos selecionados avançam para fases posteriores em que precisarão detalhar o estudo, até que os escolhidos sejam selecionados por volta de novembro de 2026. O que a Anthropic quer descobrir sobre IA? Segundo a companhia, ela vai fornecer bolsas entre US$ 500 mil e US$ 1,5 milhão para as propostas selecionadas, desde que elas atendam todos os requisitos e expliquem em detalhes itens como metodologia e uso do orçamento. Serão contempladas pesquisas que “testam comportamentos de modelos, benchmarks que comparam comportamentos entre modelos e metodologias de medição que acompanham o impacto mais amplo da IA ​​no bem-estar dos usuários”; Os temas podem incluir casos de dependência ou apego emocional prejudicial de humanos em relação aos chatbots, como modelos reforçam pensamentos distorcidos ou baixa auto-estima e se as IAs são otimizadas para entregar só respostas que geram mais interação com o usuário; Para além do financiamento em dinheiro, a Anthropic vai garantir o acesso aos modelos de linguagem da empresa a partir da API ou certa quantidade de tokens, fora o suporte técnico necessário para ajuste das ferramentas. A Anthropic aceitará submissões de projetos de instituições acadêmicas, organizações independentes e fundações sem fins lucrativos de todos os países em que o Claude está disponível — o que inclui o Brasil. Todos os estudos são independentes, apesar do financiamento. Isso significa que a empresa não vai proibir publicações, embora aceite revisar os estudos para “verificar a precisão factual” do material. A dona do Claude está perdendo espaço no meio corporativo contra modelos mais baratos?

Entenda o cenário nesta matéria!