📸 Créditos da imagem: Unsplash
Inteligência artificialClaude ajuda a criar versão de IA mais inteligente de si próprioO Claude ajuda a Anthropic a desenvolver uma versão mais inteligente do próprio sistema de inteligência artificial, informou a NBC News. O que aconteceuO modelo lidera 26% da pesquisa e do desenvolvimento da Anthropic sob supervisão humana. A empresa afirma que, nesses casos, o Claude consegue concluir a maior parte de uma tarefa a partir de uma orientação geral. O Claude também participa de cerca de 90% das atividades de pesquisa e desenvolvimento da empresa. A Anthropic define essa participação como uma colaboração em que o sistema realiza partes extensas do trabalho sob orientação humana direta. O sistema ainda não trabalha de forma totalmente autônoma na criação de seu sucessor.
A empresa diz que o Claude não atingiu a capacidade de desenvolver sozinho uma nova versão de si mesmo. Participação do Claude cresceu em seis mesesEm fevereiro, o Claude não liderava nenhuma atividade de pesquisa e desenvolvimento da Anthropic. Seis meses depois, em agosto, o sistema passou a comandar um quarto dessas tarefas. A Anthropic mantinha cerca de 30 mil agentes de IA (inteligência artificial) em tarefas de pesquisa e engenharia em agosto. A empresa divulgou medidas de supervisão para identificar com que frequência os sistemas apresentam comportamentos inadequados detectados pelos mecanismos de monitoramento. Empresa pede divulgação de métricasA Anthropic defende que laboratórios divulguem regularmente métricas sobre o avanço de seus modelos.
Em publicação no blog, a empresa afirma que é preciso reduzir a distância entre o que os laboratórios de ponta sabem e o que o público sabe. A companhia alerta que modelos capazes de acelerar o próprio desenvolvimento podem dificultar a compreensão e o controle humano sobre esses sistemas. Ela propõe uma metodologia pública para comparar os dados ao longo do tempo e entre empresas. O anúncio ocorre durante um debate entre líderes do setor sobre a necessidade de desacelerar o desenvolvimento da IA por questões de segurança. O presidente-executivo da Anthropic, Dario Amodei, o presidente-executivo da OpenAI, Sam Altman, e Elon Musk apoiaram a ideia, enquanto outros executivos e o presidente Donald Trump se opuseram.
O autor da mensagem, e não o, é o responsável pelo comentário. Leia as Regras de Uso do.
📰 Leia a notícia completa em: UOL »