RMSProp (Kök Ortalama Kare Yayılımı)

RMSProp nedir?

RMSProp (Root Mean Square Propagation), bir sinir ağını eğitirken her parametre için ayrı ayrı adım boyu ayarlayan adaptif bir optimizer. Temel gradient descent •modelin hatasını azaltmak için ağırlıkları gradyanın tersi yönde güncelleyen yöntem• tek bir sabit learning rate •her güncellemede atılan adımın boyu• kullanır; bu da dik yönlerde zıplamaya, düz yönlerde sürünmeye yol açar. RMSProp bu dengesizliği her ağırlığa kendi hızını vererek çözer.

Fikir Geoffrey Hinton'ın Coursera ders notlarından çıktı ve hiç resmi makale olarak yayımlanmadı; buna rağmen RNN •sıralı veriyle çalışan ağ• eğitiminde ve reinforcement learning'de bugün hâlâ yaygın.

Nasıl çalışır?

RMSProp her parametre için gradyanın karesinin üstel hareketli ortalamasını tutar:

E[g²]ₜ = β · E[g²]ₜ₋₁ + (1 − β) · gₜ²

Sonra adımı bu ortalamanın kareköküne böler:

xₜ₊₁ = xₜ − η / √(E[g²]ₜ + ε) · gₜ

Burada gₜ o adımdaki gradyan, η learning rate, β (tipik 0.9) eski bilginin ne kadar hızlı unutulacağını, ε ise sıfıra bölmeyi engelleyen küçük bir sabit (örn. 10⁻⁸). Sonuç şu: sürekli büyük gradyan alan bir yön otomatik frenlenirken, küçük gradyanlı bir yön hızlandırılır. Böylece her ağırlık kendi ölçeğinde hareket eder.

RMSProp, kendinden önceki AdaGrad •geçmiş tüm gradyan karelerini biriktiren optimizer• yönteminin bir sorununu düzeltir: AdaGrad kareleri sonsuza dek topladığı için adım boyu giderek sıfıra iner ve eğitim durur. Hareketli ortalama kullanmak eski bilgiyi unutturarak bu donmayı engeller.

Neden önemli?

Loss yüzeyi dik ve düz yönler barındırdığında sabit learning rate ya çok yavaş kalır ya da salınıma girer. RMSProp parametre başına ölçekleme yaparak güncellemeleri dengeler, salınımı azaltır ve özellikle hedefin zamanla değiştiği (non-stationary) problemlerde istikrarlı ilerler. Modern favori Adam •momentum ile RMSProp'u birleştiren optimizer• zaten RMSProp'un üzerine momentum ekleyerek kuruldu.

Kullanım alanları

RNN ve derin convolutional ağların eğitiminde, reinforcement learning'de, gradyanların gürültülü veya seyrek olduğu durumlarda tercih edilir. Pratikte çoğu iş Adam'a kaymış olsa da tekrarlayan ağlarda ve RL ortamlarında RMSProp hâlâ sağlam bir seçenek.