Diziden Diziye (Sequence-to-Sequence)

Diziden Diziye (Sequence-to-Sequence) nedir?

Diziden diziye, girdi olarak bir dizi (kelimeler, karakterler, ses parçaları) alıp çıktı olarak başka bir dizi üreten model yaklaşımıdır. Klasik örnek çeviridir: "how are you" girer, "nasılsın" çıkar. Girdi ve çıktının uzunluğu farklı olabilir — seq2seq'i özel kılan da tam olarak bu esneklik.

Nasıl çalışır?

İki parçadan oluşur: encoder ve decoder. Encoder girdi dizisini okur ve onu sabit boyutlu bir sayısal temsile, bir tür "anlam özeti"ne sıkıştırır. Decoder bu özeti alıp çıktı dizisini kelime kelime üretir. İlk versiyonlar bunu LSTM ile yaptı; her adımda bir önceki kelimeye bakarak sıradakini tahmin etti. 2014'te Sutskever ve ekibinin makalesi bu fikri makine çevirisinde ciddi anlamda çalışır hale getirdi.

Neden önemli?

Seq2seq, "girdiyi anla, sonra baştan üret" fikrini popüler yaptı. Ama sabit boyutlu özet bir darboğazdı — uzun cümlelerde bilgi kayboluyordu. Bu sorunu çözmek için attention mekanizması eklendi, ve o attention fikri de doğrudan transformer mimarisine giden yolu açtı. Yani bugün kullandığın her LLM'in soyağacında seq2seq var.

Kullanım alanları

Makine çevirisi, metin özetleme, chatbot yanıtları, konuşma tanıma, kod üretimi ve soru-cevap sistemleri. Girdiyi başka bir biçime "çevirmen" gereken hemen her yerde bu yapı iş görür.