Dağıtım Dışı (Out-of-Distribution)

Dağıtım dışı (out-of-distribution) nedir?

Dağıtım dışı, kısaca OOD, bir modele eğitim verisinden istatistiksel olarak farklı, daha önce görmediği türden veri geldiğinde ortaya çıkan durumdur. Sadece kedi ve köpek fotoğraflarıyla eğitilmiş bir modele uçak fotoğrafı gösterirsen, o girdi dağıtım dışıdır. Model yine bir cevap üretir ama bu cevabın güvenilirliği çöker.

Nasıl çalışır?

Modeller eğitim verisinin geldiği dağılıma göre kalibre olur. Test verisi de aynı dağılımdan geldiğinde performans ölçümü anlamlıdır. Gerçek dünyada ise veri zamanla kayar, yeni durumlar çıkar, kullanıcılar beklenmedik girdiler verir. OOD tespiti, gelen girdinin eğitim dağılımına ne kadar benzediğini ölçmeye çalışır; güven skorları, enerji tabanlı yöntemler ve temsil uzaklıkları bunun için kullanılır.

Neden önemli?

Asıl tehlike modelin yanlış cevap vermesi değil, yanlış cevabı yüksek güvenle vermesidir. Sağlık, otonom sürüş, finans gibi alanlarda dağıtım dışı bir girdiyi fark edememek doğrudan zarara yol açar. İyi bir sistem, bilmediği bir şeyle karşılaştığında bunu itiraf edip insana devretmelidir. OOD dayanıklılığı, bir modelin laboratuvardan gerçek hayata geçerken en çok sınandığı yerdir.

Kullanım alanları

Dolandırıcılık tespiti, tıbbi görüntülemede alışılmadık vakaların işaretlenmesi, içerik moderasyonu ve güvenlik kritik sistemlerde OOD tespiti kullanılır. Concept drift izleme ve anomali tespiti de bu kavramla yakından bağlantılıdır.