PyTorch 2.15 Mac'te FP8 ve MoE hızlanmasını getiriyor
PyTorch 2.15, Mac için MPS backend'ine FP8 desteği, MoE modellerde 5-6.5 kat hızlanan çözüm ve Wan2.2 video VAE'de 270 GiB'dan 8 GiB'a düşen bellek kullanımı getirir. Yeni Metal çekirdekleri, MPSGraph bağımlılığını azaltarak yerel model çalıştırma verimliliğini artırır.
Bu yazıda
Ne değişti?
MoE modeller M3 Ultra'da 5-6.5 kat daha hızlı çözümlenir; Qwen3.6-35B-A3B 9.4'ten 61.3 token/s'ye çıkar.
Wan2.2 video VAE çözümünde sürücü bellek zirvesi 270 GiB'dan 8 GiB'a düşer, bu da bellek darboğazını ortadan kaldırır.
Neden önemli?
MPS backend'i, Mac'leri PyTorch modelleri için birinci sınıf bir platform haline getirmeyi hedefler. Bu sürüm, desteklenmeyen işlemler ve performans düşüşleri gibi temel engelleri, özel Metal çekirdekleriyle çözerek yerel yapay zeka geliştirmesinin erişilebilirliğini artırır.
Geliştirici için ne anlama geliyor?
Mac üzerinde yerel dil modeli çalıştıran geliştiriciler, MoE modellerde belirgin hızlanma ve FP8 ile yarı bellek kullanımı elde eder. Wan2.2 video VAE çözümünde sürücü belleği 270 GiB'dan 8 GiB'a düşer, bu da düşük bellekli cihazlarda video üretimi için kritik bir eşiktir. macOS 15 ve Python 3.11 gereksinimleri mevcut kurulumları etkiler.
Henüz neyi bilmiyoruz?
- Performans metrikleri M3 Ultra ve torch.compile ile ölçülmüştür; farklı Apple silikonlarında sonuçlar değişebilir.
- PyTorch 2.15, macOS 15 ve Python 3.11 gerektirir; eski işletim sistemlerinde çalışmaz.
Haberin kaynakları
Birincil kaynakMPS in PyTorch 2.15huggingface.coYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
