Açgözlü Çözümleme (Greedy Decoding)

Açgözlü Çözümleme nedir?

Bir dil modeli metin üretirken her adımda bir sonraki token için bir olasılık dağılımı hesaplar. Açgözlü çözümleme (greedy decoding) bu dağılımdan en yüksek olasılığa sahip token'ı seçer, onu diziye ekler ve bir sonraki adıma geçer. "Açgözlü" denmesinin sebebi, o anki en iyi seçeneği anında kapıp ileriyi hesaba katmamasıdır. En basit ve en hızlı üretim (decoding) stratejisidir.

Nasıl çalışır?

Model her adımda softmax çıktısıyla tüm kelime dağarcığı üzerinde olasılıklar üretir. Greedy decoding argmax alır — yani en olası token'ı seçer. Örneğin "Bugün hava çok..." cümlesinde model "güzel" token'ına en yüksek skoru verdiyse onu seçer, alternatifleri (sıcak, soğuk) atar. Bu süreç bir durdurma koşuluna (stop-sequence veya maksimum uzunluk) kadar tekrarlanır. Rastgelelik yoktur; aynı prompt her seferinde aynı çıktıyı verir.

Neden önemli?

Hız ve belirlenebilirlik ister. Her adımda tek seçim yaptığı için hesaplama açısından ucuzdur ve tekrarlanabilir sonuç verir — bu yüzden test ve hata ayıklamada işe yarar. Ama bir bedeli var: anlık en iyi seçim, cümlenin bütünü açısından en iyi yol olmayabilir. Greedy decoding tekrara düşebilir ("çok çok çok...") ve yaratıcı, doğal metinlerde zayıf kalır. Bu yüzden pratikte beam-search, top-k veya top-p (nucleus) sampling gibi alternatifler tercih edilir.

Kullanım alanları

Deterministik çıktı gereken görevler: kod tamamlama, yapılandırılmış çıktı (JSON), çeviri kıyaslama testleri ve modelin temel davranışını ölçen değerlendirmeler. Yaratıcılık gerektiğinde ise temperature ile sampling devreye girer; greedy, o ailenin en sade ucudur.