Meta, 816B parametreli açık ağırlıklı Muse Spark Open modelini yayınladı
Meta, Muse Spark Open adlı açık ağırlıklı, çok modlu MoE modelini yayınladı. 816B toplam parametre ve 42B aktif parametre ile metin, görüntü, ses ve video girdilerini işler. 1M token bağlam penceresi ve ajanik kodlama odaklı eğitim, uzun görevlerde planlama ve hata düzeltme kapasitesi sunar. BF16 ve NVFP4 checkpoint formatları mevcuttur.
Bu yazıda
Ne değişti?
Meta'nın 816 milyar parametreli açık ağırlıklı modeli, token başına 42 milyar aktif parametre ile metin, görüntü, ses ve video girdilerini işler.
Model, 256 uzmanlı MoE mimarisiyle çalışır; token başına yalnızca 8 uzman seçilir, bu da 816B parametreli bellek ihtiyacıyla 42B hızını dengeler.
Neden önemli?
Muse Spark Open, ABD'deki en yetenekli açık ağırlıklı model olarak konumlanıyor. Ajanik kodlama ve çok modlu girdi desteği, geliştiricilere farklı veri türlerini tek bir arayüzde işlemek için esneklik sağlıyor. 1M token bağlam penceresi, uzun oturumlar ve karmaşık görevler için kritik bir avantaj sunuyor.
Geliştirici için ne anlama geliyor?
Geliştiriciler, kod tabanlarını okuma, hata ayıklama ve araç çağrısı gibi ajanik iş akışları için bu modeli kullanabilir. 1M token bağlam penceresi, uzun oturumlar ve çok dosyalı yeniden yapılandırmalar için tek bir arayüz sunar. Ancak BF16 checkpoint'in 1.5 TB boyutu ve 256 uzmanlı mimari, ciddi donanım altyapısı gerektirir; NVFP4 sürümü ise NVIDIA Blackwell GPU'ları için optimize edilmiştir.
Henüz neyi bilmiyoruz?
- BF16 checkpoint 1.5 TB boyutundadır ve 4 düğümde 8 H200 GPU gerektirir; NVFP4 sürümü yalnızca NVIDIA Blackwell GPU'ları için optimize edilmiştir.
- Modelin akıl yürütme özelliği kapatılamaz; düşük token tüketimi için 'low' seviyesinde tutulması gerekir, bu da bazı görevlerde gecikmeye neden olabilir.
Haberin kaynakları
Birincil kaynakWelcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Metahuggingface.coYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
