NVIDIA, GPU platformlarında AI iş yükü izleme için k8s-aibom entegrasyonunu duyurdu
NVIDIA, AI Cluster Runtime (AICR) aracılığıyla k8s-aibom entegrasyonunu duyurdu. Bu sistem, GPU tabanlı Kubernetes kümelerinde çalışan AI iş yüklerini izler ve CycloneDX 1.6 AIBOM kayıtları üretir. Entegrasyon, h100-gke-cos-inference gibi hazır tarifelerle varsayılan olarak etkinleştirilebilir ve çalışma zamanı envanteri sağlar.
Bu yazıda
Ne değişti?
NVIDIA AICR, Google'ın k8s-aibom projesini entegre ederek GPU platformlarında çalışan AI iş yüklerini izlemeyi mümkün kılıyor.
Sistem, kararlı durumda dakikada yaklaşık dört API isteği ve 28-34 MiB bellek kullanımıyla düşük kaynak tüketimi gösteriyor.
Neden önemli?
Bu entegrasyon, GPU altyapısının doğrulanmış yapılandırmasını ve üzerinde çalışan AI varlıklarının izlenebilirliğini birleştirir. Gölge iş yüklerini bulmayı, model ve çalışma zamanı bilgilerini takip etmeyi ve güvenlik denetimlerini destekleyerek AI yönetişiminde hesap verebilirliği artırır.
Geliştirici için ne anlama geliyor?
Geliştiriciler, AICR ile GPU platformlarını doğrulayabilir ve k8s-aibom ile çalışan AI iş yüklerini izleyebilir. Bu entegrasyon, gölge iş yüklerini bulmayı ve güvenlik denetimlerini kolaylaştırır. Ancak, gözlemler henüz imzalanmamıştır ve başarılı çalışmayı kanıtlamaz.
Henüz neyi bilmiyoruz?
- Gözlemler henüz imzalanmamıştır ve her iş yükünün doğru beyan edildiğini kanıtlamaz.
- AIBOM, başarılı zamanlamayı veya çalışmayı kanıtlamaz; yalnızca beyan edilenleri ve çözülenleri gösterir.
Haberin kaynakları
Birincil kaynakValidating GPU Platforms with Runtime AI Inventory via the NVIDIA DSX AI Factorydeveloper.nvidia.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
