Yapay zekâ dünyasında
neler oluyor?
Arama ve kategoriler, en son 200 yayın içinde çalışır. Toplam 324 haber yayımlandı.
“MoE” için 3 sonuç. Aramayı temizle
Google Research, LLM'lerin sürekli öğrenmede felç edici unutmayı önlemek için 'uyku' çerçevesini tanıttı. Bu yöntem, aktif etkileşim ve çevrimdışı bellek konsolidasyonu arasında geçiş yaparak yeni bilgileri kalıcı parametrelere aktarır. MoE tabanlı genişleme ve rüya aşaması, modelin 10M token'a kadar uzun bağlamı ve karmaşık akıl yürütmeyi korumasını sağlar.
IQuest-Q1, 320B toplam ve 15B aktif parametreye sahip seyrek MoE mimarili bir ajan temel modelidir. Stable SplitNorm, Muon ve muP tekniklerini kullanan üç aşamalı eğitim süreciyle geliştirilmiştir. Model, kodlama ve genel görevlerde yetkinlik gösterir ve topluluk araştırması için açık kaynak olarak yayımlanmıştır.
Araştırma, MoE tabanlı LLM'lerin kişiselleştirme süreçlerinde uzmanların rolünü açıklıyor. Yoğun modellere kıyasla MoE'ler, token'ları uzmanlara yönlendirerek çok anlamlılığı azaltıyor. Bu yapı, kişiselleştirme özelliklerinin hangi uzmanlarda kodlandığını izole etmeyi ve kontrol etmeyi mümkün kılıyor. Çalışma, üç açık ağırlıklı model üzerinde bu yaklaşımın etkinliğini test ediyor.
Resmî duyuruları, araştırma makalelerini ve açık kaynak projelerinin sürüm notlarını yapay zekâ ile Türkçe özetliyoruz. Her haberde kaynak bağlantılarına, kullanım alanlarına ve açıklanmayan noktalara yer veriyoruz.
Araştırma makalesine, model duyurusuna veya projenin deposuna haberden ulaşabilirsiniz.
Kaynakta açıklanan sonuçları, olası kullanım alanları ve bilinmeyenlerden ayrı sunuyoruz.
Görsel ve videoların kaynağını belirtiyoruz. Konuyu anlatmak için kullanılan illüstrasyonları da işaretliyoruz.
Yeni çalışmalar bulabileceğiniz dizinler ve araştırma laboratuvarları. Bir görsel özet ilginizi çekerse sonuçları özgün makaleden okuyun.
