Ajan Karması (Mixture of Agents)

Mixture of Agents nedir?

Elinde onlarca farklı büyük dil modeli var, hepsi farklı konularda güçlü ya da zayıf. Mixture of Agents (MoA), bunlardan tek birini seçip ona güvenmek yerine, birkaçını aynı anda çalıştırıp cevaplarını birleştiren bir teknik. 2024'te Together AI araştırmacılarının yayınladığı makalede tanıtıldı ve amaç şuydu: büyüyen LLM ekosisteminde tek bir modele bağlı kalmak yerine, birden fazla modelin ortak uzmanlığından nasıl yararlanılır?

Fikir aslında basit: modellerin birbirini tamamlayan güçlü yönleri var. Biri matematikte iyi, biri yazımda, biri mantık kurmada. Bunları tek tek sorup cevaplarını bir araya getirirsen, tek bir modelden alacağın cevaptan daha isabetli bir sonuç çıkabiliyor.

Nasıl çalışır?

MoA katmanlı (layered) bir yapı kullanıyor. İlk katmanda birkaç farklı "proposer" model aynı soruya bağımsız olarak cevap üretiyor — birbirlerinden habersiz, paralel çalışıyorlar. Sonraki katmanda bir "aggregator" model devreye giriyor: bir önceki katmandaki tüm cevapları yardımcı bağlam (auxiliary information) olarak alıyor ve bunları harmanlayıp yeni, daha olgun bir cevap üretiyor. Bu süreç birden fazla katman boyunca tekrarlanabiliyor — her katman bir öncekinin çıktısını iyileştiriyor, en sonunda tek bir nihai cevaba varılıyor.

Burada kritik nokta: aggregator model cevapları rastgele birleştirmiyor, onları karşılaştırıp en tutarlı, en doğru unsurları seçerek sentezliyor.

Neden önemli?

MoA'nın pratik değeri şurada: pahalı, kapalı kaynaklı dev bir modele bağımlı kalmadan, birkaç ucuz veya açık kaynaklı modeli birleştirerek üst düzey kalite yakalayabiliyorsun. Makalenin kendi test sonuçlarına göre, sadece açık kaynaklı modellerden oluşan bir MoA kurulumu, AlpacaEval 2.0 benchmark'ında %65,1 skorla dönemin GPT-4 Omni'sini (%57,5) geride bırakmış — yani doğru kurgulanmış bir "takım", tek başına en güçlü modelden bile daha iyi sonuç verebiliyor.

Kullanım alanları

MoA, özellikle kalitenin kritik olduğu ama tek bir modele güvenmenin riskli olduğu işlerde tercih ediliyor: karmaşık analiz, çok adımlı akıl yürütme gerektiren görevler, ya da bir API gateway'in arkasında birden fazla sağlayıcıyı birleştirdiği kurulumlar. Bedeli de var tabii — her istek birden fazla model çağırdığı için token maliyeti ve gecikme (latency) artıyor. Bu yüzden MoA her günlük soru için değil, sonucun gerçekten önemli olduğu görevler için seçici kullanılıyor.