Sade anlatım
Temellendirilmemiş model hafızadan yanıt verir; doğaçlama konuşan kendinden emin bir iş arkadaşı gibi. Temellendirilmiş modele ise önce dosya verilir, yanıtı oradan vermesi ve sayfayı göstermesi söylenir. İkincisinin kurulumu daha zahmetlidir, ama güvenmesi çok daha kolaydır; çünkü her iddianın yanında kontrol edilebileceği bir yer vardır.
Neden önemli
Grounding, halüsinasyona karşı ana savunmadır ve yapay zekayı doğruluğun önemli olduğu yerde kullanmanın ön koşuludur. Bilgi sorununu da çözer: politikalarınız, fiyatlarınız ya da geçen haftanın rakamları soru sorulduğu anda veriliyorsa, modelin bunlarla eğitilmiş olması gerekmez. Kurumsal kullanımların çoğunda sorulacak ilk soru şudur: “Bizim verimize dayanıyor mu?”
Örnek
Bir İK asistanına bir çalışanın kaç gün ebeveyn izni hakkı olduğu soruluyor. Temellendirilmemişken genel olarak büyük şirketlere özgü bir rakam veriyor. Şirketin kendi el kitabına dayandırıldığında ilgili paragrafı alıntılıyor, çalışanın ülkesi için doğru sayıyı veriyor ve bölümün bağlantısını ekliyor.
Bununla en çok karıştırılan kavram
Grounding ve RAG arasındaki fark
Grounding, istediğiniz özelliktir: kanıta bağlanmış iddialar. RAG bunu sağlamanın en yaygın yoludur; ilgili pasajları getirip bağlama yerleştirir. Grounding bir web arama aracından, bir veritabanı sorgusundan ya da isteme yapıştırılmış bir belgeden de gelebilir.
Teknik katman
Bileşenler: bir doğruluk kaynağı, ilgili bölümü bulan bir retrieval adımı, modele yalnızca verilen malzemeyi kullanmasını ve yanıt orada yoksa bunu söylemesini bildiren bir istem ve her iddiayı bir pasaja bağlayan kaynak gösterimi. Kalite, kaynağa dayanma (groundedness, faithfulness) olarak ölçülür: kaynakların desteklediği ifadelerin oranı; çoğu zaman ikinci bir model tarafından denetlenir. Hata biçimleri: retrieval yanlış pasajı getirir ve model ona sadık kalarak yanıtlar; model kaynak içeriğini kendi hatırladıklarıyla karıştırır; bir kaynak, desteklemediği bir cümleye iliştirilir. Modelden önce destekleyici alıntıları çıkarmasını, sonra bu alıntılardan yanıt vermesini istemek son ikisini azaltır.