Belirsizlik Nicelemesi (Uncertainty Quantification)

Belirsizlik Nicelemesi (Uncertainty Quantification) nedir?

Belirsizlik nicelemesi, bir modelin verdiği tahminin ne kadar güvenilir olduğunu sayısal olarak ifade etme çabasıdır. Model sadece "cevap bu" demez; "bu cevaba ne kadar eminim" bilgisini de üretmeye çalışır.

Nasıl çalışır?

İki tür belirsizlik ayrılır. Aleatorik belirsizlik verinin kendisindeki gürültüden gelir — aynı girdi bazen farklı sonuç doğurur, bunu azaltamazsın. Epistemik belirsizlik ise modelin bilgi eksikliğinden gelir — daha çok veri ya da daha iyi bir model bunu düşürür. Pratikte belirsizlik; softmax olasılıklarına, Bayesian yöntemlere, birden fazla modelin (ensemble) uyuşup uyuşmadığına ya da aynı modeli farklı dropout ayarlarıyla çalıştırmaya bakılarak tahmin edilir. İyi kalibre edilmiş bir model "%90 eminim" dediğinde gerçekten on denemeden dokuzunda haklı çıkar.

Neden önemli?

Bir tahminin ne olduğu kadar, ona ne kadar güvenilebileceği de kritik. Yüksek riskli kararlarda — teşhis, kredi, otonom sürüş — model emin değilse işi bir insana devretmek gerekir. Belirsizliği ölçemeyen bir sistem, yanlış cevabı da doğru cevap kadar kendinden emin verir; bu da en sinsi hata türüdür. Dil modellerindeki hallucination sorununun bir yüzü de tam olarak budur.

Kullanım alanları

Tıbbi görüntüleme, finansal risk modelleri, otonom araçlar ve aktif öğrenme (active learning) belirsizlik nicelemesine dayanır. LLM tarafında ise modelin "bilmiyorum" diyebilmesi, düşük güvenli cevapları işaretlemesi ve gerektiğinde insan denetimine yönlendirmesi için kullanılır.