Bedava Öğle Yemeği Yok Teoremi (No Free Lunch Theorem)

Bedava öğle yemeği yok teoremi nedir?

"No Free Lunch" (bedava öğle yemeği yok) teoremi, makine öğrenmesi ve optimizasyonun en sağduyu bozan sonuçlarından biridir. Özü şu: olası tüm problemler üzerinden ortalama alındığında, hiçbir algoritma diğerlerinden daha iyi değildir. Bir algoritma bazı problemlerde parlıyorsa, bunun bedelini başka problemlerde daha kötü çalışarak öder.

Adı meşhur "bedava öğle yemeği yoktur" deyiminden gelir — her kazanımın bir bedeli vardır. Teoremi 1997'de David Wolpert ve William Macready formülleştirdi. İddia ilk duyulduğunda insanı rahatsız eder: nasıl yani, her zaman çalışan evrensel bir "en iyi model" yok mu? Teoremin cevabı net: yok.

Nasıl çalışır?

Mantık şuna dayanır: problemler üzerinde düzgün (uniform) bir dağılım varsayarsan — yani her olası problem eşit derecede olası ise — herhangi iki algoritmanın tüm problemler üzerindeki ortalama performansı birebir aynı çıkar. Bir algoritmanın bir problem kümesinde gösterdiği üstünlük, matematiksel olarak başka bir problem kümesindeki zayıflığıyla tam olarak dengelenir.

Wolpert'in vurguladığı çarpıcı bir örnek: hiçbir problem varsayımı yapmazsan, "en kötü sonucu veren modeli seç" stratejisi bile, cross-validation kadar iyi performans gösterir. Kulağa saçma geliyor, ama teoremin söylediği tam olarak bu — bir algoritmayı diğerine tercih etmek için, elindeki problemin doğası hakkında bir varsayım yapman şart.

Neden önemli?

Çünkü "şu model her şeyin en iyisi" iddialarına karşı kalıcı bir panzehir sunar. Bir algoritmanın iyi çalışmasının tek sebebi, o algoritmanın varsayımlarının (inductive bias) eldeki problemin yapısına uymasıdır. Evrensel olduğu için değil, uyumlu olduğu için iyidir.

Bu da pratik bir dersi beraberinde getirir: "en iyi algoritma" diye bir şey yoktur, "bu problem için en iyi algoritma" vardır. Doğru model seçimi, veriyi ve problemi tanımaktan geçer — hazır bir şampiyon listesinden değil. Teorem aynı zamanda neden alan bilgisinin, özellik mühendisliğinin ve problem anlayışının hâlâ bu kadar değerli olduğunu açıklar.

Kullanım alanları

Bedava öğle yemeği yok teoremi bir algoritma değil, bir bakış açısıdır. Model seçimi yaparken farklı yaklaşımları (ağaç tabanlı modeller, sinir ağları, doğrusal modeller) aynı problem üzerinde denemenin neden mantıklı olduğunu temellendirir. Benchmark sonuçlarını okurken "bu model şu testte birinci oldu" cümlesini "başka testlerde geri kalabilir" diye tamamlamanı hatırlatır. AutoML sistemlerinin neden tek bir modele güvenmek yerine geniş bir model araması yaptığının da altında bu fikir yatar.