Durdurma Dizisi (Stop Sequence)
Araç kavramlarıDurdurma dizisi nedir?
Stop sequence, bir dil modeline "bu karakter dizisini üretirsen orada dur" demenin yoludur. Model token token üretir; her adımda o ana kadar ürettiği metnin, senin tanımladığın durdurma dizilerinden birine uyup uymadığını kontrol eder. Eşleşme olduğu an üretim anında kesilir.
Nasıl çalışır?
Kontrol token düzeyinde değil, çözülmüş metin düzeyinde yapılır — yani çok karakterli diziler de kullanılabilir. Çoğu API birden fazla durdurma dizisi tanımlamana izin verir ve ilk rastlananda durur. Durdurma dizisinin kendisi çıktıya dahil edilir mi edilmez mi, bu API'ye göre değişir — genelde dahil edilmez.
Önemli incelik: dizi fazla genel olursa model işini bitiremeden kesilir (mesela tek bir nokta koyarsan ilk cümlede durur). Fazla nadir olursa hiç tetiklenmez. Doğru durdurma dizisi, çıktının doğal sınırına oturan dizidir.
Neden önemli?
Üç pratik fayda sağlar: modelin gereksiz yere uzayıp sapmasını önler, çıktıyı belirli bir formatta tutar (bir liste, bir kod bloğu, bir diyalog sırası bittiğinde durur) ve token bazlı ücretlendirilen API'lerde erken durarak maliyeti düşürür.
Kullanım alanları
Diyalog sistemlerinde konuşmacı sıralarını ayırmak, JSON/XML/kod gibi yapılandırılmış çıktı üretirken bloğun sonunda kesmek ve modelin kendi kendine konuşmaya devam etmesini engellemek için kullanılır. Basit bir ayar ama çıktının temizliği üzerinde etkisi büyük.
