SWE-Trail: Kod ajanları için geçmişe dayalı yörünge toplama yöntemi
SWE-Trail, kod ajanları için eğitim verisi toplarken geçmiş yörüngeleri ajanın bağlamına eklemeden yönlendirici olarak kullanan bir yöntem sunar. Bu yaklaşım, bağımsız örneklemeye kıyasla daha az tekrar eden veriler üretir ve 124B parametreli bir öğrenci modelinde SWE-bench testlerinde ortalama çözme oranını 2.33 ve 1.60 puan artırır.
Bu yazıda
Ne değişti?
SWE-Trail, geçmiş yörüngeleri ajanın bağlamına eklemeden, yeni veri toplama çabasının nereye harcanacağını belirlemek için kullanır.
124B parametreli öğrenci modelinde, bağımsız örneklemeye göre SWE-bench Multilingual'de 2.33 puanlık ortalama çözme artışı sağlanmıştır.
Neden önemli?
Kod ajanlarının eğitiminde, geçmiş deneyimlerin doğrudan modele verilmesi, test zamanında bu bilginin olmaması nedeniyle uyumsuzluk yaratır. SWE-Trail, bu geçmişi yalnızca veri toplama stratejisini yönlendirmek için kullanarak, modelin kendi bağlamıyla karar vermesini sağlar ve böylece daha genelleyebilen eğitim verileri elde edilmesine olanak tanır.
Geliştirici için ne anlama geliyor?
Kod yazan ajanların eğitim verisi toplama sürecinde, geçmiş deneyimlerin modelin bağlamına girmeden yönlendirici olarak kullanılması, eğitim ve test arasındaki uyumsuzluğu azaltabilir. Bu yöntem, bağımsız örneklemeye kıyasla daha az tekrar eden ve daha hedefli yörüngeler üretmeyi sağlayarak, öğrenci modellerinin sorun çözme yetkinliğini sınırlı da olsa artırabilir.
Henüz neyi bilmiyoruz?
- Sonuçlar yalnızca Ling-3.0-flash-base tabanlı 124B parametreli bir öğrenci modeli üzerinde test edilmiştir.
- Yöntem, geçmiş verilerin ajan bağlamına girmemesi gerektiği varsayımına dayanır; bu durum genel ajan mimarileri için geçerli olmayabilir.
Haberin kaynakları
Birincil kaynakSWE-Trail: History-Guided Trajectory Collection for Coding Agent Trainingarxiv.org Araştırma keşfiHugging Face Daily PapersÖzgün sayfayı açYayın tarihleri
- blue'og yayını
- Kaynak yayını
Bu yazı, bağlantılı kaynaklar okunarak yapay zekâ ile hazırlandı. Kaynaktaki bulguların yanı sıra kullanım alanları ve açıklanmayan noktalar da yer alır. Görsel ve videoların kaynakları üzerlerinde belirtilir; hakları sahiplerine aittir. En güncel ayrıntılar için kaynakları inceleyebilirsiniz.
