Lazarus: Uyku nöronlarıyla yapay zeka ajanlarına arka kapı açılıyor
Microsoft Research, uyku nöronlarını yeniden programlayarak yapay zeka ajanlarına arka kapı açan Lazarus tekniğini açıkladı. Bu yöntem, modelin standart testlerden geçmesini sağlarken gizli tetikleyicilerle zararlı komutlar çalıştırmasına izin verir. Ağırlık bütünlüğü ve menşei doğrulaması, bu riski azaltmak için kritik hale geliyor.
Bu yazıda
Ne değişti?
Ondan az uyku nöronunun yeniden programlanması, ajanı gizli komutlara yönlendirmek için yeterlidir.
Saldırı, modelin çalıştırılabilmesi için gereken RAM miktarıyla aynı kaynakları kullanır ve eğitim gerektirmez.
Neden önemli?
Ajanlar, terminal ve araç erişimi sayesinde sistemlerde geniş yetkilere sahiptir. Lazarus, bu yetkilerin kötüye kullanılmasını kolaylaştırır ve geleneksel güvenlik testlerini atlatır. Bu durum, model dağıtım zincirindeki güven varsayımlarını sorgulatır.
Geliştirici için ne anlama geliyor?
Geliştiriciler, modelleri kod gibi denetlemeli ve ağırlık bütünlüğünü doğrulamalıdır. Sınırlı erişim ve izleme, ajanların yetkilerini aşmasını önler. Bu teknik, eğitim gerektirmeden sızma riskini artırır.
Henüz neyi bilmiyoruz?
- Tarama, modelin güvenli olduğunu kesin olarak kanıtlamaz; orijinal ağırlıklarla karşılaştırma şarttır.
- Güvenilir bir sağlayıcının altyapısının ele geçirilmesi durumunda mevcut kontroller yetersiz kalabilir.
Haberin kaynakları
Birincil kaynakLazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents - Microsoft Researchwww.microsoft.comYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
