Cebindeki Niyetçi: AI Seni Neden Bazen Anlıyor, Bazen Saçmalıyor?

Niyetçinin önünde durduğunu düşün. İçinden bir dilek tutuyorsun. Kuş ya da tavşan, önündeki küçük kâğıtlardan birini çekiyor. Kâğıtta “Beklediğin haber yakında gelecek” yazıyor. Sen iş görüşmesinin sonucunu bekliyorsan aklına o geliyor. Başka biri aynı sözü okuyup sevdiği kişiden gelecek mesajı düşünüyor.

Şimdi telefonunu açıp yapay zekaya bir soru yazıyorsun. Bir cevap geliyor. Bazen “Tam da bunu demek istemiştim” diyorsun, bazen “Bunun benim sorduğumla ne ilgisi var?”

Bu iki sahnenin ortak noktası, birçok olasılıktan birinin önüne gelmesi ve senin onu kendi niyetinle karşılaştırman. Ama arada önemli bir fark var: Niyetçinin hayvanı içinden tuttuğun dileği okuyamaz. Dil modeli ise yazıya döktüğün ipuçlarını kullanarak hangi devamın daha uygun olacağını hesaplar.

Niyetin ile yazdığın cümle aynı şey olmayabilir

AI konuşmalarında intentibir isteğin arkasındaki amaç dediğimiz şey, aslında ulaşmak istediğin sonuç. Promptiyapay zekaya verdiğin istek veya yönerge ise bu amacı anlatmak için yazdığın metin.

“Bana İtalyan yemeği tarifi ver” dediğinde niyetin bu akşam hızlıca karnını doyurmak olabilir. Misafire gösterişli bir sofra hazırlamak da olabilir. Evdeki malzemeleri değerlendirmek de.

Model yazdığın cümleyi görüyor. Ama evde fırının olmadığını, yarım saatin kaldığını veya mantar sevmediğini sen söylemedikçe bu konuşmadan çıkaramaz. Eksik ayrıntılar yüzünden, kulağa uygun gelen bir tarif senin işine hiç yaramayabilir.

Niyetinin zihninde net olması başlangıç. AI'ın ondan yararlanabilmesi için ilgili kısmını yazıya dökmen gerekiyor.

Kuşun çektiği kâğıt ile AI'ın seçtiği parça arasındaki bağ

Niyetçinin kutusunda önceden yazılmış sözler var. Hayvan bir kâğıt çektiğinde, seçeneklerden biri görünür hale geliyor. Kâğıdın sana uygun olup olmadığını ise sen değerlendiriyorsun. Hayvanın onu seçmiş olması, o sözün senin hayatın hakkında bilgiye dayandığını göstermiyor.

Dil modelinde de bir seçim var. Fakat kutunun içinde hazır bekleyen binlerce tamamlanmış cevap olduğunu düşünmek yanıltır. Model, cevabı yazarken sıradaki küçük metin parçasının ne olacağını hesaplar. Bu parçalara tokenibir kelime, kelimenin bir bölümü veya noktalama işareti olabilen metin birimi denir.

Benzetmeyi biraz değiştirelim: Her kâğıtta tamamlanmış bir fal yerine küçük bir metin parçası yazsın. Her çekilişten sonra da kâğıtların seçilme ihtimali, o ana kadar yazılanlara göre yeniden ayarlansın. Dil modelinin metin üretmesi böyle bir düzene daha çok benzer.

Bu hayali kutuda her kâğıdın şansı eşit değildir. Bazı devamlar, soruna ve konuşmanın önceki kısmına daha uygun görünür. Model onlara daha yüksek olasılık verir. Bunun için eğitim sırasında öğrendiği dil ve bilgi örüntülerinden yararlanır.

Her kâğıdın şansı neden aynı değil?

“Çayı bardağa...” cümlesini düşün. Devamında “döktüm” gelmesi, “giydim” gelmesinden daha beklendik. “Çayı yanlışlıkla...” diye başlarsan “döktüm” yine uygun olabilir ama cümlenin gideceği yer değişir. “Çayı yanlışlıkla klavyeye...” dediğinde ise olası devamlar daha da daralır.

Buradaki seçim, gözünü kapatıp eşit şanslı kâğıtlardan birini çekmek gibi değildir. Yazdığın her anlamlı ayrıntı, bazı devamların şansını artırır, bazılarınınkini azaltır.

Bunu kutuda uygun kâğıtlardan daha çok kopya varmış gibi hayal edebilirsin. Gerçekte kâğıt veya kopya yoktur. Bu görüntü, seçeneklerin eşit ağırlıkta olmadığını anlamaya yarar.

Seçim yöntemi de sonucu etkiler. Sistem her adımda en yüksek olasılıklı parçayı seçebilir veya olasılıkları gözeten bir çekiliş yapabilir. İkinci durumda daha güçlü adayın seçilme şansı yüksektir ama diğer adaylardan biri de gelebilir. Aynı soruya bazen farklı cevaplar çıkmasının nedenlerinden biri budur.

Bir kâğıt, sonraki çekilişi nasıl değiştirir?

Diyelim ki model tarifine “Önce fırını...” diye başladı. Bundan sonraki metnin fırınla ilgili bir hazırlığa ilerlemesi daha olası hale gelir. “Bir tencerede suyu...” diye başlarsa başka bir tarif yolu açılır.

Bunlar süreci görmek için kelimelerle kurulmuş örnekler. Gerçekte seçimler kelimeden küçük parçalar üzerinden de ilerleyebilir.

Model her yeni parçayı, senin isteğin ve o ana kadar oluşan metinle birlikte değerlendirir. Yani ilk seçimden sonra aynı kutudan bağımsız bir çekiliş yapılmaz. Önceki seçim, sonraki seçimin koşullarına katılır.

Cevap, tek seferde çekilmiş uzun bir kâğıt değil, birbirini etkileyen seçimlerle oluşan bir metindir. Başlangıçta yanlış bir varsayım metne girerse devamı da o varsayımın çevresinde kurulabilir. Ortaya kendi içinde akıcı, ama senin ihtiyacından uzak bir cevap çıkabilir.

İyi prompt, kutudaki ihtimalleri nasıl değiştirir?

Niyetçiye içinden “iş” diye niyet edip hiçbir şey söylemezsen, hayvanın kâğıt seçimi bu bilgiden yararlanamaz. AI'a ise niyetini anlatabilirsin. Benzetmenin en işe yarayan ayrımı burada.

Şu iki isteği karşılaştır:

Bana İtalyan yemeği tarifi ver.

İki kişilik, en fazla 20 dakikada hazırlayabileceğim bir İtalyan yemeği öner. Evde makarna, domates ve sarımsak var. Fırınım yok. Alışverişe çıkmadan yapabileceğim bir tarif istiyorum.

İkinci istekte sadece daha çok kelime yok. Her ayrıntının bir görevi var. Kişi sayısı miktarı belirliyor. Süre, uzun hazırlık gerektiren tarifleri uygunsuz hale getiriyor. Malzemeler ve fırının olmaması, önerinin hangi koşullara uyması gerektiğini anlatıyor.

Hayali kutumuza dönersek, artık bütün tarif kâğıtları aynı ölçüde uygun görünmüyor. Verdiğin bilgiler, isteğine uyan devamların öne çıkmasına yardım ediyor. Bu, uygun olmayan bir cevabın çıkmasını kesin olarak engellemez. Ama modelin eksik yerleri kendi varsayımlarıyla doldurma ihtiyacını azaltır.

İyi prompt, doğru kâğıdın çıkması için dilek tutmak yerine, neyin doğru sayılacağını tarif etmektir. Uzun yazmak şart değil. Sonucu değiştirecek bilgiyi vermek yeterli.

Peki neden bazen çok iyi anlıyor, bazen saçmalıyor?

Bazen model, yazdığın ipuçlarını kullanarak ihtiyacına uygun bir cevap kurar. Bu yararı yalnızca “Sen öyle yorumladın” diye açıklamak eksik olur. Dil modelleri metinler arasındaki ilişkileri kullanabilir, bilgileri birleştirebilir ve verdiğin koşullara göre cevap üretebilir.

Bazen de cevap yeterince genel olduğu için onu kendi durumuna uydurursun. Niyet kâğıdındaki “Önüne yeni fırsatlar çıkacak” sözü gibi, “Hedeflerine odaklan ve kararlı ol” cevabı da pek çok kişiye uyabilir. Sana tanıdık gelmesi, senin durumuna özel bir çözüm içerdiği anlamına gelmez.

Bir de üçüncü durum var: Model isteğini doğru takip etse bile yanlış bilgi üretebilir. Bir cümlenin metne uygun görünmesi, içindeki iddianın doğru olduğunun kanıtı değildir. Var olmayan bir kitap adını veya yanlış bir tarihi, düzgün kurulmuş bir cümlenin içine yerleştirebilir.

Burada iki ayrı soru sormak işe yarar:

• Bu cevap benim istediğim işi yapıyor mu? Örneğin tarif, elimdeki malzemelerle ve ayırdığım sürede hazırlanabiliyor mu?
• Cevabın dayandığı bilgiler doğru mu? Örneğin önerdiği kaynağı açınca gerçekten söylediği bilgiyle karşılaşıyor muyum?

İlk sorunun cevabını niyetini açıklayarak iyileştirebilirsin. İkinci soru için bilgiye dayanak gerekir. Net bir prompt, modelin bilgi eksiklerini veya akıl yürütme hatalarını kendiliğinden gidermez. Bu yüzden kötü çıkan her cevabı “Ben derdimi anlatamadım” diye üstlenmen gerekmez.

Şimdi ne yaparsın?

Bir sonraki isteğinde, zihnindeki niyeti kısa bir tarife dönüştür:

1. Sonucu söyle. “Bir metin yaz” yerine “Geciken teslimat için müşteriye göndereceğim bir bilgilendirme mesajı yaz” de.
2. Sonucu değiştiren koşulları ekle. Kime hitap ettiğini, hangi bilgilerin kesin olduğunu ve nelerin söylenmemesi gerektiğini belirt.
3. Eksik bilgiyi görünür kıl. “Teslim tarihi belli değil. Tarih uydurma. Gerekli başka bilgi varsa önce sor” diye ekle.
4. Cevabı amacınla karşılaştır. Sadece akıcı olup olmadığına bakma. İstediğin işi yapıyor mu, verdiğin koşullara uyuyor mu, doğrulanması gereken bir iddia içeriyor mu?

Niyetçinin önünde tuttuğun dilek, çıkan kâğıdı nasıl okuyacağını etkiler. AI'a yazdığın niyet ise daha cevap oluşurken hangi devamların öne çıkacağını da etkiler. Aradaki asıl bağ ve fark burada: Sen hem soruyu soran hem sonucu değerlendiren kişisin. Modelin seçimlerine yön verebilirsin, ama seçilmiş olması bir cevabı kendiliğinden doğru yapmaz.