Hallüsinasyon

Hallüsinasyon nedir?

Yapay zeka hallüsinasyonu, bir dil modelinin yanlış, uydurma veya var olmayan bilgileri sanki doğruymuş gibi sunmasıdır. Özellikle alıntı, istatistik ve spesifik olgular söz konusu olduğunda görülür.

Neden olur?

LLM'ler gerçeği "bilmez" — sadece eğitim verisindeki örüntüleri taklit eder. Emin olmadıkları durumlarda bile akıcı ve özgüvenli metin üretebilirler. Eğitim verisindeki yanlış bilgiler de modele aktarılabilir.

Örnekler

• Var olmayan akademik makaleler alıntılamak
• Gerçek bir kişiye yanlış eylemler atfetmek
• Uydurma istatistikler üretmek

Nasıl azaltılır?

• RAG (harici kaynaktan doğrulama)
• Grounding (yanıtı gerçek kaynaklara bağlama)
• Modeli "bilmiyorum" demesi için teşvik etme
• Çıktıları her zaman doğrulamak