Ana içeriğe geç

AscendGYM: Ascend NPU'lar için maliyet-farkındalıklı çekirdek optimizasyon benchmark'ı

AscendGYM, Ascend NPU'lar üzerinde büyük dil modelleri için çekirdek optimizasyonunu ölçen yeni bir benchmark'tır. Gerçek dünya iş yüklerinden türetilen 48 çekirdek ve maliyet-farkındalıklı STS metriği ile ajanların mevcut implementasyonları iyileştirme yeteneğini değerlendirir.

Yayın 1 dk okuma
Kaynak: arXiv
Bu yazıda
Öne çıkan noktalar

Ne değişti?

  • AscendGYM, gerçek eğitim ve çıkarım görevlerinden toplanan 48 çekirdek ve üç zorluk seviyesi içeren bir test seti sunar.

  • Yeni Speedup-Token Score (STS) metriği, performans kazancını token maliyetine göre değerlendirerek bütçe kısıtlı optimizasyonu ölçer.

Bağlam

Neden önemli?

Mevcut Ascend benchmark'ları genellikle yeni çekirdek üretimine odaklanır. AscendGYM ise gerçek iş yüklerindeki mevcut implementasyonların optimizasyonunu ölçerek, ajanların pratik senaryolardaki etkinliğini daha doğru yansıtan bir değerlendirme zemini sunar.

Kullanım alanları

Geliştirici için ne anlama geliyor?

Geliştiriciler, Ascend NPU'lar için mevcut çekirdekleri optimize eden ajanların maliyet ve hız dengesini STS metriğiyle ölçebilir. Bu, gerçek iş yüklerine doğrudan yansıyan performans iyileştirmelerini bütçe kısıtları altında değerlendirmeyi sağlar.

Açık kalan sorular

Henüz neyi bilmiyoruz?

  • Benchmark yalnızca Ascend NPU mimarisi için tasarlanmıştır ve farklı donanımlara doğrudan genellenemez.
  • STS metriğinin pratik bütçe eşikleri ve referans değerleri makalede detaylı olarak tanımlanmamıştır.
Kaynaklar

Haberin kaynakları

Birincil kaynakAscendGYM: A Cost-Aware Kernel Optimization Benchmark for Real-World Workloads on Ascend NPUsarxiv.org Araştırma keşfiHugging Face Daily PapersÖzgün sayfayı aç
Yayın tarihleri
blue'og yayını
Kaynak yayını
Bu yazı nasıl hazırlandı?

Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Kapak, konuyu anlatan bir illüstrasyondur. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.

← Tüm haberler

bluedev Asistanı

Ürünleri ve çalışmalarımızı keşfedin.

Neyi çözmek istersiniz?

İhtiyacınızı yazın; ilgili ürünleri ve çalışmalarımızı kaynaklarıyla birlikte inceleyelim.

Yanıtlar kaynak kataloğundan hazırlanır. Yapay zekâ desteği yalnız izninizle kullanılır.

Diğer görevler ve ayarlar

İki ürünü karşılaştırabilir veya fikrinizi iletişim formuna aktarabileceğiniz bir ihtiyaç özetine dönüştürebilirsiniz.

Kaynak kataloğu

AI desteği şu anda kullanılamıyor. Doğrulanmış projeleri keşfedebilir ve proje özeti hazırlayabilirsiniz.

Bu site görüşmenizi kalıcı olarak saklamaz.Gizlilik