Retrieval-Augmented Generation (RAG)

RAG nedir?

Retrieval-Augmented Generation (RAG), dil modellerinin kendi eğitim bilgisiyle yetinmek yerine harici bir bilgi kaynağından gerçek zamanlı veri çekerek yanıt ürettiği bir mimaridir. 2020'de Meta AI araştırmacıları tarafından önerildi.

Neden gerekli?

LLM'ler eğitim kesim tarihinden sonraki olayları bilmez. Ayrıca şirket içi dokümanlar, kişisel notlar gibi özel veriler eğitimde yer almaz. RAG bu boşluğu kapatır.

Nasıl çalışır?

1. Kullanıcı soru sorar
2. Soru, vektör veritabanında benzer belgelerle eşleştirilir
3. İlgili belgeler modelin context'ine eklenir
4. Model bu belgelerle desteklenmiş yanıt üretir

Kullanım alanları

• Şirket içi bilgi tabanı sohbet botları
• Güncel haber takibi
• Hukuki ve tıbbi belge analizi
• Kod tabanı üzerinde soru-cevap