Derlem (Corpus)

Derlem nedir?

Derlem (corpus), bir amaç için bir araya getirilmiş büyük ve düzenli veri koleksiyonudur — genelde metin, ama ses, kod ya da görsel de olabilir. Bir dil modelinin gördüğü tüm kitaplar, web sayfaları, forum mesajları ve makaleler topluca onun eğitim derlemini oluşturur. Çoğulu "derlemler" (corpora). Kısaca: modelin dünyayı öğrendiği ham malzeme.

Nasıl çalışır?

Bir derlem önce toplanır (web taraması, kitap arşivleri, açık veri setleri), sonra temizlenir — yinelenen içerik atılır, zararlı ya da alakasız kısımlar süzülür, biçim düzeltilir. Ardından tokenization •metni modelin işleyebileceği parçalara bölme• uygulanır ve model bu veriyi tekrar tekrar okuyarak örüntüleri öğrenir. Derlemin büyüklüğü kadar kalitesi de belirleyicidir: çöp veri, çöp model demektir. Bu yüzden derlem hazırlama, modern AI eğitiminin en kritik ama en az görünen aşamalarından biridir.

Neden önemli?

Çünkü bir model, ancak derlemindeki kadarını bilir. Derlem hangi dilleri, konuları ve bakış açılarını içeriyorsa model onlarda güçlü; içermiyorsa zayıf olur. Türkçe içeriğin derlemlerde az temsil edilmesi, modellerin Türkçede neden bazen İngilizceye göre geride kaldığını açıklar. Derlemdeki bias •önyargı• da doğrudan modele sızar.

Kullanım alanları

Dil modeli pretraining •ön eğitim•, fine-tuning •ince ayar•, dilbilim araştırmaları, arama sistemleri ve synthetic data •yapay üretilmiş veri• üretiminde derlem merkezdedir. Hugging Face gibi platformlarda binlerce hazır derlem (dataset) paylaşılır; bir proje kurarken çoğu zaman ilk soru "hangi derlemle eğiteceğim?" olur.