Kelime Torbası (Bag-of-Words)

Kelime Torbası (Bag-of-Words) nedir?

Bilgisayar metni doğrudan anlamaz; önce sayıya çevirmek gerekir. Kelime Torbası, bunu yapmanın en eski ve en basit yollarından biri. Adı da tam olarak ne yaptığını anlatıyor: metni bir torbaya doldurulmuş kelimeler gibi düşünür. Torbayı sallarsın, kelimelerin sırası kaybolur, geriye sadece "hangi kelimeden kaç tane var" bilgisi kalır.

Yani "kedi köpeği kovaladı" ile "köpek kediyi kovaladı" cümleleri Kelime Torbası için neredeyse aynıdır — çünkü ikisinde de aynı kelimeler geçer, sadece sıraları farklıdır ve o sıra bilgisi atılmıştır.

Nasıl çalışır?

Önce elindeki tüm metinlerdeki benzersiz kelimelerden bir sözlük (vocabulary) çıkarırsın. Sonra her metni, bu sözlükteki her kelimenin kaç kez geçtiğini sayan bir vektöre dönüştürürsün. Sözlükte 10.000 kelime varsa, her metin 10.000 uzunluğunda bir sayı dizisi olur; çoğu değer sıfırdır çünkü tek bir cümlede o kelimelerin çoğu geçmez.

Bu ham sayımlar genellikle TF-IDF •kelime sıklığını nadirlikle ağırlıklandıran yöntem• ile iyileştirilir, böylece "ve", "bir" gibi her yerde geçen kelimeler baskın olmaktan çıkar.

Neden önemli?

Modern transformer mimarileri kelime sırasını ve bağlamı yakalar, ama Kelime Torbası hâlâ öğretici bir başlangıç noktası. Basit, hızlı ve şaşırtıcı derecede iş görür — özellikle spam filtresi, konu sınıflandırma gibi kelimelerin varlığının tek başına ipucu verdiği görevlerde. AI'ın metni nasıl sayıya çevirdiğini anlamak istiyorsan, yol buradan geçer.

Kullanım alanları

Spam tespiti, duygu analizi, belge sınıflandırma ve arama motorlarının erken sürümleri. Bugün çoğu yerde yerini embedding tabanlı yöntemlere bıraktı, ama küçük veri setlerinde ve hız gerektiren durumlarda hâlâ tercih edilir.