Diferansiyel Gizlilik (Differential Privacy)

Diferansiyel Gizlilik nedir?

Veriyi anonimleştirmek sanıldığı kadar kolay değil. İsimleri silmek yetmez — doğum tarihi, posta kodu ve cinsiyet üçlüsü çoğu insanı tek başına tanımlamaya yeter. "Anonim" diye yayınlanan veri kümelerinin başka kaynaklarla çaprazlanıp kimliklendirildiği çok sayıda örnek var.

Diferansiyel gizlilik (differential privacy) problemi tersten kurar. "Veriden isim çıkaralım" demez; şunu garanti eder: veri kümesinde senin satırın olsa da olmasa da, çıkan sonuç neredeyse aynı olur. Sonuç senin varlığına duyarlı değilse, sonuca bakan biri senin orada olup olmadığını anlayamaz.

Nasıl çalışır?

Temelde kontrollü gürültü ekleyerek. Bir sorgunun gerçek cevabına, matematiksel olarak hesaplanmış rastgele bir sapma eklenir. Tek bir cevaba bakan biri gerçeği bilemez, ama binlerce cevabın ortalaması hâlâ doğruya yakın kalır. Gürültü tek tek kişileri saklar, toplu eğilimi bozmaz.

Ne kadar gürültü ekleneceğini epsilon •gizlilik bütçesi• belirler. Küçük epsilon = çok gürültü = güçlü gizlilik, düşük doğruluk. Büyük epsilon = tersi. Burada kaçınılmaz bir takas var; sihirli bir orta nokta yok, uygulamaya göre karar verilir.

Model eğitiminde en yaygın uygulaması DP-SGD''dir. Klasik gradient descent''e iki ek yapılır: her örneğin gradient''i belli bir büyüklükte kırpılır (tek bir örnek modeli aşırı etkileyemesin diye), sonra gradient''lere gürültü eklenir. Bütçe her adımda biraz harcanır ve toplam harcama takip edilir.

Neden önemli?

Dil modelleri eğitim verisini ezberleyebiliyor. Doğru prompt''la bir modelin eğitim setindeki telefon numarasını, e-posta adresini veya kod parçasını kelimesi kelimesine geri verdiği defalarca gösterildi. Hassas veriyle eğitim yapılacaksa "umarım ezberlemez" bir strateji değil.

Ayrıca KVKK ve GDPR gibi düzenlemeler karşısında denetlenebilir bir dayanak sunar: "gizliliği koruduk" demek yerine epsilon değerini gösterebilirsin.

Kullanım alanları

• Sağlık ve finans verisiyle model eğitimi
• İşletim sistemi ve klavye telemetrisi — kullanım istatistiği toplarken tek kullanıcıyı ifşa etmeden
• Nüfus sayımı ve kamu istatistikleri
• Federated learning ile birlikte — veri cihazdan çıkmaz, çıkan güncelleme de gürültülüdür