Mistral Large 4 açık ağırlıklı olarak yayımlandı
Mistral, 1 trilyon parametreli ve 52 milyar aktif parametreli Mistral Large 4 modelini v5.22.0 sürümüyle yayınladı. Model, 1M bağlam penceresi, çok modlu giriş ve 160'dan fazla dil desteği sunuyor. FP8 kuantize modellerde adaptör eğitimi desteği de eklendi.
Bu yazıda
Ne değişti?
Mistral Large 4, 1 trilyon parametreli ve 52 milyar aktif parametreli, yerel olarak çok modlu bir MoE mimarisine sahip.
FP8 kuantize modellerde adaptör eğitimi için geriye yayılım eklendi ve MoE katmanında tepe bellek kullanımı önemli ölçüde azaldı.
Neden önemli?
Mistral Large 4, açık ağırlıklı modeller arasında görsel yerelleştirme ve siber güvenlik görevlerinde sınır kapalı modelleri geride bırakıyor. 1M bağlam penceresi, uzun doküman analizi ve karmaşık ajan iş akışları için kritik bir altyapı sağlıyor.
Geliştirici için ne anlama geliyor?
Geliştiriciler, 1M bağlam penceresi ve yerleşik fonksiyon çağrısı desteğiyle karmaşık ajan iş akışlarını tek bir modelde çalıştırabilir. FP8 kuantize modeller üzerinde LoRA gibi adaptör eğitimi artık destekleniyor; bu sayede bellek kullanımı 8k token'da 28.9 GiB'den 2.8 GiB'e düşüyor. Ticari Model-as-a-Service sunumu için ayrı lisans gerekliliği bulunuyor.
Henüz neyi bilmiyoruz?
- Model, ticari Model-as-a-Service işleri için Mistral'dan ayrı bir ticari lisans gerektirir.
- Görsel yerelleştirme iddiası, açık ağırlıklı modeller arasında en iyi performans olarak belirtilmiştir.
Haberin kaynakları
Birincil kaynakv5.22.0: Mistral Large 4 (Le Chonk)github.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
