Gini Safsızlığı (Gini Impurity)

Gini safsızlığı nedir?

Gini safsızlığı, bir veri grubunun ne kadar "karışık" olduğunu ölçen bir sayıdır. Grup tek bir sınıftan oluşuyorsa safsızlık sıfırdır. Farklı sınıflar eşit şekilde karışmışsa safsızlık en yüksek değerine ulaşır.

Bu ölçü en çok karar ağaçlarında •veriyi evet/hayır sorularıyla dallara ayıran model• kullanılır. Ağaç, veriyi nereden böleceğine karar verirken "hangi bölme grupları daha saf hale getiriyor" diye bakar. İşte bu saflığı ölçen sayılardan biri Gini safsızlığıdır.

Nasıl çalışır?

Bir gruptaki her sınıfın oranını al. Gini safsızlığı, her sınıf için "o sınıfta olma oranı" ile "o sınıfta olmama oranı"nı çarpıp hepsini toplar. Grup tek sınıftan oluşuyorsa bu çarpımların hepsi sıfır olur, yani safsızlık sıfırdır. Sınıflar birbirine karıştıkça bu sayı büyür.

Karar ağacı bir bölme denerken, bölme sonucu ortaya çıkan iki grubun safsızlığına bakar ve bunları grupların büyüklüğüne göre ağırlıklandırıp toplar. Ağaç, bu toplamı en küçük yapan bölmeyi seçer. Yani her adımda "veriyi en çok saflaştıran soru" sorulur. Bu işlem dallar yeterince saf olana kadar tekrarlanır.

Neden önemli?

Gini safsızlığı, bir karar ağacının nasıl "düşündüğünü" belirler. Hangi özelliğin önce sorulacağı, verinin nereden ikiye ayrılacağı hep bu ölçüye dayanır. Doğru bölmeler seçilirse ağaç hem daha doğru tahmin yapar hem de gereksiz yere büyümez.

Bir alternatifi entropi •bir grubun belirsizliğini ölçen başka bir yöntem• temelli ölçüdür. İkisi de aynı işi yapar ve çoğu zaman çok benzer ağaçlar üretir. Gini'nin farkı logaritma içermemesidir; bu yüzden hesaplanması biraz daha hızlıdır ve birçok kütüphanede varsayılan seçenek odur.

Kullanım alanları

Gini safsızlığı, tek bir karar ağacından çok daha büyük sistemlerin kalbinde çalışır. Birçok karar ağacını bir araya getiren topluluk yöntemleri, veriyi bölerken aynı mantığı kullanır. Müşterinin ürünü alıp almayacağını tahmin etmek, bir işlemin sahte olup olmadığını yakalamak, hangi özelliğin sonucu en çok etkilediğini görmek gibi sınıflandırma işlerinde sık sık karşına çıkar.