NVIDIA DGX Spark sekiz düğümlü kümelerle sınır sınıfı modelleri destekliyor
NVIDIA, GTC Berlin'de DGX Spark için resmi sekiz düğümlü küme desteğini duyurdu. Bu yapı 1 TB birleşik bellek sunarak GLM 5.3 gibi sınır sınıfı modellerin yerel çalıştırılmasını sağlıyor. RoCEnante backend'i decode gecikmesini azaltırken, NeMo Switchyard çoklu model yönlendirmesiyle toplam verimliliği artırıyor.
Bu yazıda
Ne değişti?
Sekiz düğümlü DGX Spark kümesi 1 TB birleşik bellek sunarak 753B parametreli GLM 5.3 modelinin yerel çalıştırılmasını mümkün kılar.
RoCEnante backend'i, sekiz düğümlü switch topolojisinde Qwen3.8-27B için 4.43x decode hızlanma oranı sağlar.
Neden önemli?
Yerel yapay zeka geliştirme, sınırlı bellek nedeniyle büyük modellerle sınırlı kalıyordu. Sekiz düğümlü yapı, 1 TB bellek kapasitesiyle bu bariyeri kaldırıyor. Bu, geliştiricilerin en yeni ve en büyük açık kaynak modelleri bulut bağımlılığı olmadan, masaüstü ölçeğinde test etmesine ve üretkenlik kazanmasına olanak tanıyor.
Geliştirici için ne anlama geliyor?
Geliştiriciler 1 TB bellekle 753B parametreli GLM 5.3 gibi modelleri yerel olarak çalıştırabilir. RoCEnante, düşük gecikmeli çözümler için NCCL'ye alternatif sunar; Switchyard ise karmaşık istekleri büyük modellere, basitleri küçük modellere yönlendirerek toplam verimliliği artırır.
Henüz neyi bilmiyoruz?
- RoCEnante yalnızca switch bağlantılı topolojilerde çalışır; büyük ölçekli veya yüksek eşzamanlılıkta NCCL daha etkilidir.
- Performans verileri NVFP4 kuantizasyonu ve belirli model boyutlarıyla sınırlıdır; genel sonuçlar farklı modellerde değişebilir.
Haberin kaynakları
Birincil kaynakRunning Frontier-Class AI Models Across 8 NVIDIA DGX Spark Nodesdeveloper.nvidia.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
