Markov Zinciri Monte Carlo (MCMC)

Markov Zinciri Monte Carlo nedir?

MCMC, formülle hesaplaması çok zor olan bir olasılık dağılımından örnek üretmenin bir yolu. Özellikle Bayesçi istatistikte karşına çıkar: elinde bir posterior •verilere baktıktan sonraki güncellenmiş dağılım• vardır ama onu normalize eden integral genelde çözülemez. Üstelik çoğu zaman dağılımın kendisi değil, ondan hesaplanan ortalamalar, güven aralıkları ya da tahminler lazımdır.

İşte MCMC tam burada devreye girer: dağılımı açıkça yazamasan da, ondan bol bol örnek çekebilirsen bu örneklerin ortalamasıyla aradığın değerleri kestirebilirsin.

Nasıl çalışır?

Fikir, hedef dağılımı durağan dağılımı olarak taşıyan bir Markov zinciri kurmak. Yani öyle bir rastgele yürüyüş tasarlarsın ki, yeterince uzun gezdiğinde adımların hedef dağılımla aynı yoğunlukta dağılır. Her yeni adım yalnızca bir önceki adıma bağlıdır — zincir geçmişi unutur.

En klasik kural Metropolis-Hastings: bulunduğun noktadan yeni bir aday nokta öner, ardından iki noktanın olasılık oranına bakarak adayı belirli bir ihtimalle kabul et, etmezsen aynı noktada kal. İşin güzel yanı, bu oranda o çözülemeyen normalizasyon terimi sadeleşir — yani dağılımın yalnızca normalize edilmemiş halini bilmen yeter.

İki pratik detay önemli: zincir rastgele bir noktadan başladığı için ilk örnekler yanlıdır, bu yüzden baştaki bir kısmı atarsın (burn-in). Ayrıca ardışık örnekler birbirine benzer •otokorelasyon•, bu da örneklerin taşıdığı gerçek bilgi miktarını azaltır; yüksek boyutlarda adım genişliğini doğru ayarlamak bu yüzden kritik.

Neden önemli?

Çünkü modern olasılıksal modellemenin bel kemiği. Kapalı formda çözüm olmadığında bile posterior tahminlerini, marjinal dağılımları ve model karşılaştırmalarını hesaplanabilir kılar. Grid tabanlı integral boyut arttıkça patlar; MCMC ise yüksek boyutlu problemlerde bile çalışabilir.

Kullanım alanları

Bayesçi çıkarım gerektiren her yerde: bilimsel modellerde parametre belirsizliğini kestirmek, olasılıksal grafik modelleri eğitmek, Bayesçi A/B analizi ve belirsizliğin açıkça ölçülmesi gereken tahmin problemleri. Hamiltonian Monte Carlo gibi modern türevleri bugün de yaygın kullanılıyor.