Sade anlatım
İlk arama, raflarda yapılan hızlı bir taramadır ve ilgili olabilecek elli kitabı çeker. Reranking özenli adımdır: biri soruyu her kitabın yanında okur ve gerçekten işe yarayanları üste koyar. Modele yalnızca ilk beşi gider; bu yüzden sıra önemlidir.
Neden önemli
Reranking çoğu zaman bir RAG sisteminin elindeki en ucuz büyük iyileştirmedir: fazladan tek bir adım, dizinde değişiklik yok ve modelin önünde belirgin biçimde daha iyi pasajlar. Daha az pasaj göndermenize de izin verir; bu da maliyeti düşürür ve ilgisiz metnin modelin dikkatini dağıtma riskini azaltır.
Örnek
Bir uyum asistanı “İhale sürecinde tedarikçilerden hediye kabul edebilir miyiz?” sorusu için yirmi pasaj getiriyor. Soruyu yanıtlayan pasaj, yalnızca hediyeden söz eden birkaç pasajın arkasında, dokuzuncu sırada. Reranker onu birinci sıraya taşıyor. İlk yirmi yerine ilk dördü göndermek girdi token'larını da yüzde seksen azaltıyor.
Bununla en çok karıştırılan kavram
Reranking ve Retrieval arasındaki fark
İlk geçiş retrieval, sorguyu önceden hesaplanmış vektörler üzerinden milyonlarca kayıtla karşılaştırır; hızlı olmak zorundadır ve biraz kabadır. Reranking birkaç düzine adaya bakar, sorguyu ve pasajı birlikte okur; çok daha isabetlidir ve her şeyin üzerinde çalıştırılamayacak kadar yavaştır. Art arda kullanıldıklarında hem hız hem isabet elde edilir.
Teknik katman
Reranker'lar genellikle cross-encoder'dır: sorgu ve tek bir pasaj modele birlikte verilir ve bir ilgililik skoru çıkar; ayrı embedding'lerin kaçırdığı etkileşimleri yakalar. Alternatifler arasında ColBERT gibi late-interaction modelleri ve ilgililiği bir LLM'e değerlendirtmek vardır. Tipik kurulum: 50-200 aday getir, yeniden sırala, 3-10 tanesini tut. Maliyetler: onlarca ila yüzlerce milisaniyelik ek gecikme ve barındırılan hizmetlerde sorgu başına ücret. Reranker skoruna konan bir ilgililik eşiği, sistemin “ilgili bir şey bulunamadı” demesine de izin verir; bu, zayıf pasajlardan yanıt vermekten iyidir.