Sade anlatım
Açık kitap sınavı gibidir. Model tek başına hafızasından yanıt verir; hafızası da eğitim tarihinde biter ve şirketinizin dosyalarını hiç içermemiştir. RAG'de sistem önce soruyla ilgili pasajları bulur, modele verir ve yanıtı o sayfalardan vermesini ister.
Neden önemli
RAG, genel bir modeli özel ve güncel bilgi üzerinde işe yarar kılmanın standart yoludur: politikalar, sözleşmeler, ürün dokümanları, destek geçmişi. Model eğitimi gerektirmez, bir belge değiştiği anda güncellenir ve yanıtların kaynak göstermesini sağlar. Kalite tavanı getirme adımıdır: doğru pasaj bulunamazsa en iyi model bile yanıtı kurtaramaz.
Örnek
Bir sigorta şirketi 12.000 sayfalık poliçe metnini bir RAG sistemine yüklüyor. Çağrı merkezi çalışanı, patlayan bir borunun yol açtığı su hasarının belirli bir konut poliçesinde karşılanıp karşılanmadığını soruyor. Sistem ilgili üç maddeyi getiriyor; model beş saniyeden kısa sürede, madde numaralarıyla iki cümlelik yanıt veriyor.
Bununla en çok karıştırılan kavram
RAG ve Fine-tuning (ince ayar) arasındaki fark
RAG modele okuyacağı bilgiyi verir; fine-tuning modelin nasıl davrandığını değiştirir. Büyük, özel ya da sık değişen bilgi için RAG neredeyse her zaman doğru ilk tercihtir. Fine-tuning bir üslubu, bir biçimi ya da dar bir beceriyi öğretmeye uygundur. İkisi birlikte de kullanılabilir.
Köken: 2020'de Facebook AI Research'ten Patrick Lewis ve arkadaşları tarafından tanıtıldı.
Teknik katman
İki hat vardır. Dizinleme, önceden yapılır: belgeleri yükle, parçalara böl, her parçanın embedding'ini çıkar, vektörleri ve metni bir dizinde sakla. Sorgulama: sorunun embedding'ini çıkar, en iyi adayları getir (çoğu zaman hibrit aramayla), yeniden sırala, pasajları ve kaynak gösterme ile yanıt yoksa bunu söyleme talimatlarını içeren bir istem kur, sonra üret. Sık rastlanan hata noktaları: kötü parçalama, pasajı kaçıran getirme, çok fazla ilgisiz pasaj ve kaynaklardan sapan yanıtlar. Getirmeyi (recall, precision) ve üretimi (kaynağa sadakat, ilgililik) ayrı ayrı değerlendirin. Türleri arasında agentic RAG, GraphRAG ve küçük derlemlerde her şeyin uzun bir bağlam penceresine yüklenmesi vardır.