Vercel, AI Gateway'de sanal modelleri tanıttı
Vercel, AI Gateway üzerinde sanal modelleri tanıttı. Bu özellik, model kimliklerini soyutlayarak uygulama kodunda değişiklik yapmadan model ve yapılandırma güncellemelerini merkezi olarak yönetmeyi sağlar. Farklı görevler için ayrı sanal modeller oluşturulabilir.
Bu yazıda
Ne değişti?
Sanal model kimliği, model ve ayar değişikliklerini kod değişikliği gerektirmeden otomatik olarak uygulamayı sağlar.
Sanal model ayarları, istek seviyesindeki ayarların üzerine yazılarak merkezi güvenlik ve maliyet kontrolü sağlar.
Neden önemli?
Son 90 günde 125'ten fazla yeni modelin eklenmesi, model seçiminin karmaşıklığını artırıyor. Sanal modeller, bu karmaşıklığı yöneterek ekiplerin model geçişlerini hızlı ve güvenli bir şekilde yapmasını sağlıyor.
Geliştirici için ne anlama geliyor?
Geliştiriciler, model değişikliğini kodda yapmak yerine merkezi yapılandırmadan yönetebilir. Bu, yeniden dağıtım ihtiyacını ortadan kaldırır ve farklı görevler için ayrı model politikaları tanımlamayı kolaylaştırır.
Henüz neyi bilmiyoruz?
- Sanal model ayarları, sağlayıcı değiştiğinde otomatik olarak uyarlanmaz; sağlayıcıya özel seçenekler manuel olarak gözden geçirilmelidir.
- Yeni model geçişlerinde kalite düşüşü riski vardır; bu nedenle aday model üzerinde değerlendirme çalıştırılması önerilir.
Haberin kaynakları
Birincil kaynakIntroducing Virtual Models on AI Gatewayvercel.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Kapak, konuyu anlatan bir illüstrasyondur. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
