Sürekli Öğrenme (Continual Learning)

Sürekli Öğrenme nedir?

Sürekli öğrenme (continual learning; lifelong learning de denir), bir modelin zaman içinde gelen yeni verilerle ya da yeni görevlerle öğrenmeye devam etmesi — ama eskiden öğrendiklerini çöpe atmadan. İnsan yeni bir dil öğrenirken ana dilini unutmaz; sürekli öğrenmenin hedefi de modeli buna yaklaştırmak. Klasik eğitim reçetesi "tüm veriyi topla, bir kere eğit, dondur" der. Gerçek dünyada ise veri damla damla gelir ve model güncel kalmak zorundadır.

Nasıl çalışır?

En büyük düşman catastrophic forgetting •yeni görev öğrenirken eskisini aniden unutma• sorunu. Model yeni veriye ağırlıklarını göre ayarlarken, eski görevin bilgisini taşıyan ağırlıkları ezer. Bunu önlemek için üç ana yaklaşım var: önemli ağırlıkları "dondurup" değişimini cezalandırmak (regularization), eski örneklerden küçük bir kısmını saklayıp yeni veriyle karıştırarak tekrar göstermek (replay/rehearsal), ya da her yeni görev için modele küçük ek kapasiteler eklemek (mimari yöntemler). Amaç hep aynı: yeniyi öğren, eskiyi koru — yani kararlılık ile esneklik arasındaki dengeyi tutturmak.

Neden önemli?

Modeller pahalı eğitiliyor; her yeni bilgi için sıfırdan eğitmek ne ekonomik ne pratik. Sürekli öğrenme, bir modeli baştan eğitmeden güncel tutmayı hedefler. Fine-tuning tek seferlik bir uyarlamadır; sürekli öğrenme ise sürekli akan veriyle bu uyarlamayı bozulmadan yapmayı ister. Kişiselleşen asistanlar, değişen ortamlara uyum sağlayan robotlar ve kavramların zamanla kaydığı (concept drift) sistemler için kritik.

Kullanım alanları

Zamanla yeni ürün/kategori öğrenen öneri ve sınıflandırma sistemleri, ortam değiştikçe uyum sağlayan robotlar, kullanıcıya göre kişiselleşen asistanlar ve verinin sürekli tazelendiği üretim hatları. Kısacası "dünya değişiyor, model geride kalmasın" denen her senaryo.