Sade anlatım
Ne istediğinizi kelimelerle tam olarak anlatmak zordur. Üç iyi örnek göstermek kolaydır. Few-shot ikincisini yapar: isteme birkaç girdi-çıktı çifti, ardından yeni girdiyi koyarsınız ve model kalıbı sürdürür. İşe yeni başlayan birine brif verir gibi: “Daha önce yaptığım üç tanesi burada; sıradakini aynı şekilde yap.”
Neden önemli
Örnekler, fine-tuning yapmadan bir modelden tutarlı biçim ve kurum üslubu almanın en güvenilir yoludur. Yazması dakikalar sürer ve her an değiştirilebilir. Sınıflandırma, veri çıkarma ve şablonlu yazımda iyi seçilmiş birkaç örnek, çoğu zaman daha pahalı bir modele geçmekten daha büyük kazanç sağlar.
Örnek
Bir banka, işlem açıklamalarının kendi 40 harcama kategorisine eşlenmesini istiyor. Yalnızca talimatla model kategori uyduruyor. Akaryakıt da satan bir süpermarket gibi zor durumları kapsayan on iki örnekle yalnızca bankanın listesini kullanıyor ve sınır durumları bankanın yapacağı gibi ele alıyor.
Bununla en çok karıştırılan kavram
Few-shot Prompting ve Fine-tuning (ince ayar) arasındaki fark
İkisi de örnekle öğretir. Few-shot örnekleri her istekte bağlama koyar: anında çalışır, esnektir ve sığanla sınırlıdır. Fine-tuning binlerce örneği ağırlıklara işler: kurulumu daha yavaş ve pahalıdır; çok örneğiniz ve değişmeyen gereksinimleriniz olduğunda değer.
Teknik katman
Yönergeler: genellikle üç ila beş örnek yeter, zor görevlerde fazlası yardımcı olur; örnekleri çeşitli ve sınır durumları kapsayacak biçimde seçin, çünkü modeller yüzey özelliklerini taklit eder ve tesadüfi bir kalıbı da kopyalar; biçimi tüm örneklerde aynı tutun; örnekleri etiketlerle açıkça işaretleyin. Sıra ve seçim sonucu etkiler; büyük örnek havuzlarında her istek için en ilgili örnekler getirilebilir (dynamic few-shot). Örnekler her çağrıda token harcar; bu da onları prompt caching için iyi aday yapar. Alttaki yeteneğe in-context learning denir.