Prompt Ayarı (Prompt Tuning)

Prompt Ayarı (Prompt Tuning) nedir?

Prompt tuning, dev bir dil modelini yeni bir göreve uyarlarken modelin milyarlarca ağırlığına hiç dokunmadan, sadece girişe eklenen küçük ve öğrenilebilir bir vektör dizisini eğitme yöntemidir. Bu vektöre çoğu zaman soft prompt (yumuşak prompt) denir; insanların yazdığı kelimelerden değil, eğitimle bulunan sayısal değerlerden oluşur.

Nasıl çalışır?

Normalde bir modeli göreve uyarlamak için tüm ağırlıkları yeniden eğitirsin (fine-tuning). Prompt tuning'de ise model tamamen dondurulur. Girişin başına birkaç sanal token eklenir; bunlar gerçek kelimeler değil, serbestçe ayarlanabilen vektörlerdir. Eğitim sırasında yalnızca bu vektörler güncellenir. Model, bu öğrenilmiş öneki görünce ilgili görevi nasıl yapacağını hatırlar.

Neden önemli?

Tam fine-tuning her görev için modelin ayrı bir kopyasını saklamayı gerektirir — dev modellerde bu çok pahalıdır. Prompt tuning'de görev başına saklaman gereken şey sadece küçük bir vektör dizisidir; aynı dondurulmuş modeli onlarca farklı görev için tekrar kullanabilirsin. Lester ve arkadaşlarının çalışması, model büyüdükçe prompt tuning'in performansının tam fine-tuning'e yaklaştığını gösterdi. Bu yüzden peft (parameter-efficient fine-tuning) ailesinin temel yöntemlerinden biridir.

Kullanım alanları

Aynı temel modeli birden çok göreve veya müşteriye uyarlaman gereken durumlarda, sınırlı donanımla özelleştirme yaparken ve depolama maliyetini düşük tutmak istediğinde kullanılır. lora ve diğer peft yöntemleriyle aynı problemi farklı açılardan çözer.