Transformers v5.19.0, EmbeddingGemma 2 modelini ve uzman paralelliğinde token dağıtımını ekler. Kırıcı değişiklikler arasında MoE router logits çıktılarının standardize edilmesi ve sürekli toplu işlemede 'paged|' öneklerinin kaldırılması yer alır. Ayrıca katman bazlı önbellek yapılandırması ve nicelikli önbellek hatalarının düzeltilmesi ile geliştirme deneyimi iyileştirilir.
NVIDIA, TensorRT Model Connect projesini kodlama ajanları etrafında tasarladı. 128 model ailesini GB300 üzerinde test eden açık kaynak proje, yatay ölçeklenebilir işleri bağımsız birimlere ayırarak hata kaskadlarını önler. Doğrulama, insan okunabilir kanıtlar ve advers QA ile sağlanır.
NVIDIA Developer AI1 dk okuma
1–2 / 2 yayın
Nasıl hazırlıyoruz?
Kaynağı belli. Sınırları açık.
Resmî duyuruları, araştırma makalelerini ve açık kaynak projelerinin sürüm notlarını yapay zekâ ile Türkçe özetliyoruz. Her haberde kaynak bağlantılarına, kullanım alanlarına ve açıklanmayan noktalara yer veriyoruz.
Doğrudan kaynak
Araştırma makalesine, model duyurusuna veya projenin deposuna haberden ulaşabilirsiniz.
Bulgular ve yorumlar
Kaynakta açıklanan sonuçları, olası kullanım alanları ve bilinmeyenlerden ayrı sunuyoruz.
Görsellerin kaynağı
Görsel ve videoların kaynağını belirtiyoruz. Konuyu anlatmak için kullanılan illüstrasyonları da işaretliyoruz.
Araştırma kaynakları
Makaleleri kendiniz keşfedin.
Yeni çalışmalar bulabileceğiniz dizinler ve araştırma laboratuvarları. Bir görsel özet ilginizi çekerse sonuçları özgün makaleden okuyun.