Meta lança IA de peso aberto que roda em Macs; veja como funciona

📡 Fonte: Olhar Digital 🏷️ Hardware 🤖 Auto
Meta lança IA de peso aberto que roda em Macs; veja como funciona

📸 Créditos da imagem: Primakov/Shutterstock

O que é o Muse Spark Open

Meta lançou o Muse Spark Open, um modelo de inteligência artificial de peso aberto com 816 bilhões de parâmetros e janela de contexto de até um milhão de tokens. Ele foi projetado para tarefas complexas de programação, raciocínio e execução de atividades por agentes de IA.

Arquitetura e desempenho

O modelo utiliza a arquitetura mixture of experts, mantendo cerca de 42 bilhões de parâmetros ativos por token. Isso permite foco em partes específicas da rede, mantendo o modelo completo em memória. A versão BF16 ocupa 1,65 TB, enquanto a compactada NVFP4 tem 537 GB.

Execução local em Macs

Em parceria com a Apple, a Meta otimizou o Muse Spark Open para rodar no MLX, framework da Apple. A configuração recomendada usa dois Mac Studio com chips M5 Ultra e 512 GB de memória unificada cada, totalizando 1 TB de RAM e largura de banda de 1,2 TB/s.

Compatibilidade e licenciamento

Os pesos são disponibilizados para download sob a Muse Model License, permitindo que desenvolvedores executem o modelo em infraestruturas próprias. O modelo funciona em diversas plataformas, incluindo SGLang, vLLM, TensorRT‑LLM, Hugging Face Transformers, MLX e llama. cpp, e pode ser usado em aceleradores AMD, Intel e Nvidia.

Aplicações práticas

Exemplos demonstrados incluem correção de código em aplicativos de código aberto, adição de recursos em Mastodon e análise de vídeo no DaVinci Resolve para seleção de trechos em formato vertical.

📰 Leia a notícia completa em: Olhar Digital »

⚖️ Direitos Autorais: Este site utiliza conteúdo agregado automaticamente de fontes públicas. Todas as imagens possuem crédito e fonte indicados conforme exigido pela legislação brasileira de direitos autorais (Lei 9.610/98).