Farklı Muamele (Disparate Treatment)

Farklı Muamele nedir?

Farklı muamele (disparate treatment), bir karar sürecinin bireyleri doğrudan hassas bir özelliklerine göre farklı şekilde ele almasıdır. Cinsiyet, etnik köken, din, yaş ya da engellilik durumu gibi bir özellik, kararda açıkça ve doğrudan bir faktör olarak kullanılıyorsa farklı muamele söz konusudur.

Kavram, ayrımcılık hukukundan gelir ve genellikle ayrımcı etki (disparate impact) kavramıyla birlikte ele alınır. Aradaki fark şudur: Farklı muamelede ayrımcılık doğrudan ve açıktır; ayrımcı etkide ise tarafsız görünen bir süreç, dolaylı yollardan bir grubu orantısız etkiler.

Nasıl çalışır?

Makine öğrenmesinde farklı muamele genellikle şu şekillerde ortaya çıkar:

• Hassas özelliğin doğrudan girdi olması: Bir kredi modeli, başvuranın cinsiyetini bir özellik olarak kullanır ve bu özellik kararı etkiler.
• Gruplara göre farklı kurallar: Aynı özelliklere sahip iki başvurana, farklı gruplardan oldukları için farklı eşikler ya da kurallar uygulanır.
• Açık filtreler: Bir işe alım sistemi belirli yaş aralığındaki adayları otomatik olarak eler.

İlk bakışta çözüm basit görünür: Hassas özelliği modelden çıkar. Buna "körlük yoluyla adalet" (fairness through unawareness) denir. Ancak bu yaklaşım tek başına yetersizdir, çünkü diğer özellikler hassas bilgiyi dolaylı olarak taşıyabilir. Hassas özellik çıkarıldığında farklı muamele ortadan kalkar, ama ayrımcı etki devam edebilir.

Burada bir ikilem de vardır: Bazı adalet yöntemleri, örneğin gruplara göre farklı karar eşikleri belirlemek, ayrımcı etkiyi azaltmak için hassas özelliği bilinçli olarak kullanır. Bu, teknik olarak bir tür farklı muameledir. Hangi yaklaşımın kabul edilebilir olduğu, uygulamanın bağlamına ve yerel hukuka göre değişir.

Neden önemli?

Farklı muamele, çoğu hukuk sisteminde iş, konut, kredi ve kamu hizmetleri gibi alanlarda açıkça yasaktır. Yapay zeka sistemleri bu alanlarda kullanıldıkça, modellerin hassas özellikleri nasıl kullandığını belgelemek ve denetlemek hukuki bir zorunluluk haline geliyor. Yüksek riskli yapay zeka sistemlerine yönelik düzenlemeler de bu yönde şeffaflık ve denetim yükümlülükleri getiriyor.

Kullanım alanları

• Model denetimi: Hassas özelliklerin model girdileri arasında olup olmadığını ve nasıl kullanıldığını belgelemek.
• Açıklanabilirlik analizi: Feature importance yöntemleriyle hassas özelliklerin karara etkisini ölçmek.
• Hukuki uyum: İşe alım, kredi ve sigorta sistemlerinde ayrımcılık yasalarına uygunluğu değerlendirmek.
• Adalet müdahalelerinin tasarımı: Ayrımcı etkiyi azaltırken farklı muamele riskini dengelemek.
• Dil modeli testleri: Prompt'taki kimlik bilgisini değiştirerek modelin doğrudan farklı davranıp davranmadığını ölçmek.