Transformers v5.23.0: Yeni modeller ve hızlandırılmış çıkarım
Transformers v5.23.0, Inkling2, LFM3 ve IQuestCoder gibi yeni modelleri ekler. ExportedModel ile model dağıtımı basitleşir. OpenVINO ve ONNX Runtime entegrasyonları çıkarım hızını artırır. JEV karar hattı deneysel olarak sunulur.
Bu yazıda
Ne değişti?
ExportedModel sınıfı, modelin farklı arka uçlarda tutarlı çalışmasını sağlar.
OpenVINO ve ONNX Runtime ile çıkarım hızları belirgin şekilde artar.
Neden önemli?
Yeni model mimarileri ve hızlandırılmış çıkarım seçenekleri, geliştiricilere daha esnek ve performanslı yapay zeka çözümleri sunar. ExportedModel, model dağıtım sürecini standartlaştırarak farklı donanımlara uyumu kolaylaştırır.
Geliştirici için ne anlama geliyor?
ExportedModel arayüzü, farklı donanım hedeflerine yönelik model dağıtımını basitleştirir. OpenVINO ve ONNX Runtime entegrasyonları, belirli donanımlarda çıkarım hızını artırır. JEV ve karar hattı deneysel olduğu için üretimde dikkatli kullanılmalıdır.
Henüz neyi bilmiyoruz?
- JEV ve karar hattı deneysel olup API'leri değişebilir.
- Bazı performans artışları yalnızca belirli donanımlarda ölçülmüştür.
Haberin kaynakları
Birincil kaynakRelease v5.23.0github.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
