Karşıolgusal Adalet (Counterfactual Fairness)

Karşıolgusal Adalet nedir?

Karşıolgusal adalet (counterfactual fairness), bir modelin bir birey hakkında verdiği kararın, o bireyin hassas özelliği (cinsiyet, etnik köken gibi) farklı olsaydı da aynı kalıp kalmayacağını soran bir adalet ölçütüdür. Eğer tek başına bu özelliği değiştirmek, diğer her şey tutarlı biçimde güncellendiğinde kararı değiştiriyorsa, model karşıolgusal olarak adil değildir.

"Karşıolgusal" (counterfactual), gerçekte olmamış ama olabilecek bir senaryoyu ifade eder: "Bu başvuran kadın değil de erkek olsaydı, kredisi onaylanır mıydı?"

Nasıl çalışır?

Bu ölçüt, nedensellik (causality) teorisine dayanır ve diğer adalet ölçütlerinden daha derin bir analiz gerektirir. Adımlar genel olarak şöyledir:

• Nedensel model kurmak: Hassas özelliğin, diğer değişkenleri nasıl etkilediğini gösteren bir nedensel grafik çizilir. Örneğin cinsiyetin hangi mesleklere yönelmeyi, bunun da gelir düzeyini nasıl etkilediği modellenir.
• Karşıolgusal senaryo üretmek: Bireyin hassas özelliği değiştirilir ve bu değişikliğin nedensel olarak etkilediği diğer değişkenler de buna göre yeniden hesaplanır.
• Kararları karşılaştırmak: Model hem gerçek hem de karşıolgusal senaryo için çalıştırılır. Kararlar aynıysa model bu birey için karşıolgusal olarak adildir.

Buradaki incelik şudur: Sadece hassas özelliğin değerini değiştirip diğer her şeyi sabit tutmak yetmez. Hassas özellik başka özellikleri de etkiliyorsa (örneğin cinsiyet, belirli bir alanda eğitim alma olasılığını), bu dolaylı etkilerin de hesaba katılması gerekir.

Neden önemli?

Demografik eşitlik ve eşitlenmiş oranlar gibi ölçütler grup düzeyinde istatistiklere bakar. Karşıolgusal adalet ise bireye odaklanır ve "neden" sorusunu sorar. Bu, ayrımcılığın mekanizmasını anlamaya ve vekil değişkenler üzerinden gerçekleşen dolaylı ayrımcılığı yakalamaya yardımcı olur.

Zayıf yanı, doğru bir nedensel model gerektirmesidir. Gerçek dünyada değişkenler arasındaki nedensel ilişkiler çoğu zaman tartışmalıdır ve kesin olarak bilinemez. Nedensel model yanlışsa, adalet değerlendirmesi de yanlış olur.

Kullanım alanları

• Kredi ve sigorta: Bireysel başvuruların hassas özellikten bağımsız değerlendirilip değerlendirilmediğini test etmek.
• İşe alım: Aday değerlendirme sistemlerinde isim veya cinsiyet değiştirildiğinde sonucun değişip değişmediğini denetlemek.
• Dil modelleri: Aynı prompt'ta sadece kişi adını veya zamiri değiştirerek cevaplardaki farkları ölçmek.
• Ceza adaleti: Risk değerlendirme araçlarının nedensel analizi.
• Araştırma: Adil makine öğrenmesi yöntemlerinin teorik temelini oluşturmak.