Z-Skoru Normalizasyonu (Z-score Normalization)
Veri & eğitimZ-Skoru Normalizasyonu nedir?
Z-skoru normalizasyonu (z-score normalization ya da standardization), bir sayısal özelliğin değerlerini, ortalaması 0 ve standart sapması 1 olacak şekilde dönüştüren ölçekleme yöntemidir. Dönüştürülen her değer, orijinal değerin ortalamadan kaç standart sapma uzakta olduğunu gösterir. Bu değere z-skoru denir.
Örneğin bir sınıfın sınav ortalaması 60, standart sapması 10 ise, 80 alan öğrencinin z-skoru 2'dir: Ortalamanın iki standart sapma üzerinde. 50 alan öğrencinin z-skoru ise -1'dir.
Nasıl çalışır?
Formül basittir: Her değerden özelliğin ortalaması çıkarılır ve sonuç standart sapmaya bölünür.
Uygulamada dikkat edilmesi gereken en önemli nokta şudur: Ortalama ve standart sapma sadece eğitim verisinden hesaplanır. Aynı değerler daha sonra doğrulama, test ve canlı veriye uygulanır. Test verisinin istatistiklerini de hesaba katmak, veri sızıntısına (data leakage) yol açar ve model performansını olduğundan iyi gösterir. Canlı ortamda farklı istatistiklerle ölçekleme yapmak ise eğitim-sunum sapmasının klasik bir kaynağıdır.
Z-skoru, min-max normalizasyonundan farklıdır. Min-max, değerleri 0 ile 1 arasına sıkıştırır ve aykırı değerlerden çok etkilenir; tek bir uç değer tüm diğer değerleri dar bir aralığa ezebilir. Z-skoru bir üst ve alt sınır dayatmaz, aykırı değerlere karşı biraz daha dayanıklıdır. Veride çok güçlü aykırı değerler varsa, medyan ve çeyrekler arası aralık kullanan "robust scaling" daha iyi bir seçenek olabilir.
Neden önemli?
Pek çok algoritma, özelliklerin benzer ölçeklerde olmasını bekler. Yaş (20-80) ve yıllık gelir (100.000-2.000.000) gibi iki özelliği ham haliyle kullanırsan, mesafe tabanlı yöntemler gelirin büyük sayılarına boğulur ve yaşı neredeyse görmezden gelir. Gradient descent ile eğitilen modellerde de farklı ölçekler, kayıp yüzeyini uzamış ve eğri bir vadiye çevirir; eğitim yavaşlar ve kararsızlaşır.
Z-skorları ayrıca aykırı değer tespiti için doğal bir ölçü sunar: Mutlak değeri 3'ün üzerindeki z-skorları genellikle incelenmeye değer kabul edilir.
Kullanım alanları
- Mesafe tabanlı modeller: K-en yakın komşu, k-means ve SVM öncesi ön işleme.
- Sinir ağları: Girdileri ölçekleyerek eğitimi hızlandırmak ve stabilize etmek.
- PCA: Farklı birimlerdeki özelliklerin bileşenlere eşit katkı yapmasını sağlamak.
- Aykırı değer tespiti: Ortalamadan çok uzak değerleri işaretlemek.
- Karşılaştırma: Farklı ölçeklerdeki puanları ortak bir zeminde kıyaslamak.
Ilgili terimler
