Matris Çarpanlarına Ayırma (Matrix Factorization)

Matris Çarpanlarına Ayırma nedir?

Matris çarpanlarına ayırma (matrix factorization), büyük bir matrisi, çarpıldığında orijinal matrisi yaklaşık olarak veren iki (ya da daha fazla) küçük matrise ayırma yöntemidir. Makine öğrenmesinde en bilinen kullanımı öneri sistemleridir.

Bir film platformu düşün: Satırlar kullanıcıları, sütunlar filmleri, hücreler de kullanıcıların filmlere verdiği puanları gösteren dev bir tablo. Bu tablonun büyük kısmı boştur, çünkü her kullanıcı filmlerin çok küçük bir kısmını izleyip puanlamıştır. Matris çarpanlarına ayırma, bu boş hücreleri tahmin ederek kullanıcıya hangi filmi beğenebileceğini söyler.

Nasıl çalışır?

Yöntem, kullanıcı-film matrisini iki küçük matrise böler:

• Kullanıcı matrisi: Her kullanıcıyı, örneğin 50 sayıdan oluşan bir vektörle temsil eder.
• Film matrisi: Her filmi aynı boyutta bir vektörle temsil eder.

Bir kullanıcının bir filme vereceği puan, bu iki vektörün iç çarpımıyla tahmin edilir. Model eğitilirken, bilinen puanlar için tahmin ile gerçek değer arasındaki hata küçültülür. Boş hücreler eğitimde kullanılmaz; eğitim bittiğinde bu hücreler için tahmin yapılır.

İşin ilginç yanı, bu vektörlerdeki sayıların "gizli faktörler" (latent factors) olmasıdır. Model bunları kendisi keşfeder. Bir boyut kabaca "aksiyon yoğunluğu", bir diğeri "romantik komedi eğilimi" gibi bir şeyi temsil edebilir. Ama bunlar önceden tanımlanmaz ve çoğu zaman insanın tam olarak adlandıramayacağı karışımlardır.

Eğitim için yaygın yöntemler stochastic gradient descent ve dönüşümlü en küçük kareler (alternating least squares) yöntemidir. Aşırı uyumu önlemek için regularization eklenir. Tekil değer ayrışımı (SVD) ve negatif olmayan matris ayrıştırma (NMF) da bu ailenin yakın akrabalarıdır.

Neden önemli?

Matris çarpanlarına ayırma, 2000'lerin sonunda büyük bir film öneri yarışmasında öne çıkan yaklaşımlardan biri olarak ün kazandı ve collaborative filtering'in standart yöntemi haline geldi. Basit, ölçeklenebilir ve etkilidir.

Bugün derin öğrenme tabanlı öneri modelleri daha yaygın olsa da, temel fikir, yani kullanıcıları ve öğeleri aynı gizli uzayda embedding'lerle temsil etmek, modern sistemlerin de özünde yatıyor. Ayrıca LoRA gibi fine-tuning yöntemleri, büyük ağırlık güncellemelerini iki küçük matrisin çarpımı olarak ifade ederek benzer bir düşük ranklı ayrıştırma fikrinden yararlanır.

Kullanım alanları

• Öneri sistemleri: Film, müzik, ürün ve içerik önerileri.
• Boyut indirgeme: Yüksek boyutlu veriyi daha az sayıda anlamlı faktörle temsil etmek.
• Konu modelleme: Belge-kelime matrislerinden gizli konuları çıkarmak.
• Görüntü işleme: Görüntü sıkıştırma ve eksik piksel tamamlama.
• Model sıkıştırma: Büyük ağırlık matrislerini düşük ranklı yaklaşımlarla küçültmek.