Torbalama (Bagging)

Torbalama (Bagging) nedir?

Torbalama — İngilizce "bootstrap aggregating" ifadesinin kısaltması — aynı türden birçok modeli biraz farklı veri parçaları üzerinde eğitip tahminlerini birleştiren bir ensemble yöntemidir. Amaç, tek bir modelin yaptığı hataları kalabalığın ortalamasıyla törpülemektir.

Nasıl çalışır?

Elindeki eğitim verisinden rastgele, yerine koyarak (aynı örnek birden fazla seçilebilir) çok sayıda alt küme çıkarırsın; buna bootstrap örneklemesi denir. Her alt küme üzerinde ayrı bir model eğitirsin. Tahmin anında modellerin hepsine sorarsın: sınıflandırmada oy çokluğunu, regresyonda ortalamayı alırsın.

Tek tek modeller "gürültülü" olsa bile hataları birbirinden bağımsız olduğu için, birleştirildiğinde bu hatalar büyük ölçüde birbirini götürür. Rastgele orman (random forest) bunun en bilinen örneğidir: yüzlerce karar ağacını farklı veri ve özellik alt kümeleriyle eğitip oylatır.

Torbalamanın kardeşi boosting''dir ama mantıkları terstir: torbalama modelleri paralel ve bağımsız eğitir, varyansı düşürür; boosting ise modelleri sırayla, her biri bir öncekinin hatasını düzeltecek şekilde eğitir.

Neden önemli?

Torbalama, overfitting''e (aşırı öğrenme) karşı en sağlam ve en basit savunmalardan biridir. Özellikle karar ağaçları gibi tek başına oynak modelleri, kararlı ve güvenilir tahmincilere dönüştürür. Fikir basit ama etkisi büyük olduğu için makine öğrenmesinin temel taşlarından sayılır.

Kullanım alanları

Rastgele orman modelleri, tablo verisiyle sınıflandırma ve regresyon, kredi skorlama, tıbbi teşhis, anomali tespiti gibi güvenilirliğin kritik olduğu klasik makine öğrenmesi problemleri. Derin öğrenme çağında bile tablo verisinde hâlâ ilk tercihlerden.