Boltzmann Makinesi

Boltzmann makinesi nedir?

Boltzmann makinesi, birbirine simetrik bağlarla bağlanmış, açık ya da kapalı iki durumlu nöronlardan oluşan bir sinir ağıdır. 1980'lerde Geoffrey Hinton ve Terry Sejnowski geliştirdi. Sıradan sinir ağlarından en büyük farkı şu: nöronlar deterministik değil, stochastic •olasılıksal, yani aynı girdiye her seferinde aynı tepkiyi vermeyen• çalışır. Her birim, aldığı girdiye göre belirli bir olasılıkla açılır.

Fikrin kökü fiziktir. Ağın her durumuna bir enerji değeri atanır ve ağ zamanla düşük enerjili durumlara yerleşmeye eğilimlidir. Düşük enerji = daha olası durum. Bu olasılık dağılımına istatistik fizikten gelen adıyla Boltzmann dağılımı denir — makinenin adı da buradan.

Nasıl çalışır?

Ağda iki tür birim vardır: visible birimler gözlediğimiz veriyi, hidden birimler ise verideki gizli örüntüleri temsil eder. Hidden birimler, görünür birimler arasındaki basit ikili ilişkilerin yakalayamadığı daha derin yapıyı öğrenmeyi sağlar.

Öğrenme kuralı şaşırtıcı derecede yereldir: ağırlık güncellemesi, iki birimin birlikte açık olma sıklığının iki durum arasındaki farkına bakar — veri ağa sabitlendiğinde ve ağ serbest çalışırken. backpropagation gibi hata türevlerini geriye yaymak gerekmez.

Sorun şu: tam bağlı bir Boltzmann makinesini eğitmek çok yavaştır. Çözüm, Restricted Boltzmann Machine (RBM) oldu — görünür-görünür ve gizli-gizli bağları atarak hesabı hızlandıran sadeleştirilmiş sürüm. RBM'ler contrastive divergence ile pratik şekilde eğitilir.

Neden önemli?

RBM'leri üst üste yığarak derin ağlar eğitme fikri, 2000'lerin ortasında derin öğrenmenin yeniden canlanmasında kilit rol oynadı. Etiketsiz veriden özellik öğrenebilmesi, modern self-supervised yaklaşımların erken bir habercisiydi. Ayrıca Ising modeli, Markov random field ve Gibbs sampling gibi kavramlarla doğrudan akrabadır — yani bugünün üretken modellerinin düşünsel atalarından biri.

Kullanım alanları

Boyut indirgeme, öneri sistemleri, etiketsiz veriden özellik çıkarma ve üretken modelleme Boltzmann makinelerinin klasik uygulama alanlarıdır. Bugün pratikte yerini daha verimli mimarilere bıraksa da, enerji tabanlı öğrenmenin mantığını anlamak için hâlâ başvurulan temel bir kavram.