
LLM Ajan İş Yüklerinde Toplu İşlem Süresini Azaltma
Bu çalışma, LLM ajan iş yüklerinde toplu işlem süresini azaltmak için çıkarım ve çevre koordinasyonunu birleştirir. Hibrit modellerde kaynak ataması ve CAAS sıralaması, 10.4% ile 65.0% arasında süre tasarrufu sağlar.