Bireysel Adalet (Individual Fairness)

Bireysel Adalet nedir?

Bireysel adalet (individual fairness), bir modelin, göreve göre birbirine benzeyen bireylere benzer kararlar vermesini şart koşan adalet ölçütüdür. İlkesi, hukuk ve felsefede çok eskiye dayanan bir fikre dayanır: Benzer durumdakilere benzer şekilde davranılmalıdır.

Demografik eşitlik ya da eşitlenmiş oranlar gibi ölçütler grupların ortalamalarına bakar. Bir model grup düzeyinde adil görünürken bireyler düzeyinde tutarsız davranabilir. Örneğin iki başvuran neredeyse aynı niteliklere sahipken biri onaylanıp diğeri reddedilebilir. Bireysel adalet, bu tür tutarsızlıkları yakalamayı hedefler.

Nasıl çalışır?

Bireysel adaletin temel bileşeni bir benzerlik ölçüsüdür. Soru şudur: Bu görev bağlamında iki kişi ne zaman "benzer" sayılır?

Resmi tanım genellikle şöyle yapılır: İki birey arasındaki benzerlik mesafesi küçükse, modelin bu iki kişi için verdiği kararlar arasındaki fark da küçük olmalıdır. Matematiksel olarak bu, modelin belirli bir "düzgünlük" (Lipschitz) koşulunu sağlaması anlamına gelir.

Uygulamada bu ölçütün en zor kısmı, benzerlik ölçüsünü tanımlamaktır:

• Hangi özellikler önemli? Bir kredi başvurusunda gelir ve ödeme geçmişi önemli olabilir, ama posta kodu olmamalıdır.
• Özellikler nasıl ağırlıklandırılmalı? Gelirdeki bin liralık fark ile ödeme geçmişindeki bir gecikme ne kadar "benzer" sayılır?
• Kim karar verir? Benzerlik ölçüsü, alan uzmanları, etik kurullar ve etkilenen toplulukların katılımıyla belirlenmelidir.

Pratikte bireysel adaleti değerlendirmek için sık kullanılan bir yöntem, bir bireyin tek bir alakasız özelliğini (örneğin ismini) değiştirip kararın değişip değişmediğine bakmaktır.

Neden önemli?

Grup adaleti ölçütleri, bir grubun içinde bireylere yapılan haksızlıkları gizleyebilir. Bireysel adalet, her kişinin tutarlı bir şekilde değerlendirilmesini güvence altına almaya çalışır ve "neden ben reddedildim de benzer durumdaki komşum kabul edildi?" sorusunu doğrudan ele alır.

Zayıf yanı, adil bir benzerlik ölçüsü tanımlamanın kendisinin zor ve tartışmalı olmasıdır. Yanlış tanımlanmış bir benzerlik ölçüsü, önyargıyı adalet kılıfına sokabilir. Ayrıca bireysel adalet ile grup adaleti ölçütleri her zaman aynı anda sağlanamayabilir.

Kullanım alanları

• Kredi ve sigorta: Benzer risk profillerindeki başvuranlara tutarlı fiyat ve karar verilmesini sağlamak.
• İşe alım: Benzer niteliklere sahip adayların benzer değerlendirilmesini denetlemek.
• İçerik moderasyonu: Benzer içeriklere benzer moderasyon kararları uygulamak.
• Dil modelleri: Sadece isim veya kimlik bilgisi değiştirilmiş prompt'lara tutarlı cevaplar verilip verilmediğini test etmek.
• Model dayanıklılığı: Küçük, anlamsız girdi değişikliklerinin kararları değiştirmediğini doğrulamak.