Aşırı Uyum (Overfitting)
Araç kavramlarıAşırı Uyum (Overfitting) nedir?
Overfitting, bir modelin eğitim verisini neredeyse ezberleyecek kadar iyi öğrenmesi ama gerçek dünyada karşılaştığı yeni verilerle başa çıkamaması durumudur. Tüm geçmiş sınav sorularını sayfa sayfa ezberlemiş ama hiç görmediği bir soruyu çözemeyen öğrenci gibi düşünebilirsin.
Nasıl çalışır?
Model eğitim sırasında veriyi iteratif olarak işler. Eğer model çok karmaşıksa ya da eğitim verisi azsa, model veriyi "genelleştirmek" yerine "ezberlemeye" başlar. Eğitim veri setindeki gürültüyü, aykırı değerleri ve rastlantısal örüntüleri dahi gerçek sinyal gibi öğrenir.
Bunu ölçmenin yolu basit: eğitim kaybı (training loss) düşerken doğrulama kaybı (validation loss) artmaya başlarsa overfitting yaşanıyor demektir. Bu noktayı erken durdurma (early stopping) ile tespit edip eğitimi durdurabilirsin.
Neden önemli?
LLM'ler dahil tüm makine öğrenimi modellerinde overfitting ciddi bir sorundur. Fine-tuning aşamasında özellikle risklidir: veri seti çok küçükse veya epoch sayısı çok yüksekse model yeni sorularda tutarsız yanıtlar üretmeye başlar.
Büyük modeller için overfitting daha az sezgisel davranır — parametre sayısı arttıkça model aslında daha iyi genelleşebilir, ama bu her zaman geçerli değildir.
Kullanım alanları
Overfitting tespiti ve önlenmesi her model eğitiminde kritiktir:
- Dropout: Eğitim sırasında nöronları rastgele devre dışı bırakır, ezber yapmayı zorlaştırır
- Regularization (L1/L2): Büyük ağırlıklara ceza uygular, modeli daha basit çözümlere yönlendirir
- Veri artırma (Data Augmentation): Eğitim verisini yapay olarak çeşitlendirir
- Erken durdurma (Early Stopping): Validation kaybı artmaya başlayınca eğitimi keser
- Cross-validation: Modelin farklı veri dilimlerinde nasıl performans gösterdiğini ölçer
Ilgili terimler
