Prompt ve bağlam

Prompt Engineering

İstem mühendisliği

Modelin bir görevi güvenilir biçimde yapması için ona verilen talimatları tasarlama, test etme ve iyileştirme pratiği.

1 · Yazgörevi, bağlamı, biçimi tarif et2 · Çalıştırgerçek örnekler üzerinde3 · Değerlendirnerede yanlış yapıyor?4 · Düzelttek değişiklik, yeniden ölçYİNELEMEsezgiyle değil, ölçerekİyi istem bir kerede yazılmaz; test edilerek bulunur.

şemanın tamamı için kaydırın →

MEmehmeterkek.com/sozluk/prompt-engineering

Sade anlatım

Herkes bir soru yazabilir. Prompt engineering, yanıtın art arda bin kez doğru çıkması gerektiğinde yapılan iştir: talimatları yazarsınız, gerçek vakalarda çalıştırırsınız, modelin nerede yanıldığına bakarsınız ve düzeltirsiniz. Sihirli kelimeler bilmekten çok, iyi bir prosedür yazıp onu test etmeye benzer.

Neden önemli

Bir yapay zeka sistemini iyileştirmenin en hızlı ve en ucuz yoludur; retrieval, fine-tuning ya da daha büyük bir modelden önce denenecek ilk şeydir. Beceri, bir görev ve onun hata durumları hakkında net düşünmektir ve işi bilen insanlarda bulunur: hukukçular, analistler, destek yöneticileri. Yalnızca teknik bir ekip, önemli olanın yarısını kaçırır.

Örnek

Hasar dosyalarını önceliklendiren bir istem yüzde 82 oranında doğru sonuç veriyor. Ekip hataları okuyor ve çoğunun iki olay içeren dosyalar olduğunu görüyor. Birden fazla olayın nasıl ele alınacağına dair bir paragraf ve iki örnek ekliyorlar. Test setindeki doğruluk, aynı modelle ve yeni altyapı olmadan yüzde 94'e çıkıyor.

Bununla en çok karıştırılan kavram

Prompt Engineering ve Context Engineering arasındaki fark

Prompt EngineeringTalimatları biçimlendirmek
Context EngineeringBağlam penceresindeki her şeyi yönetmek

Prompt engineering, modele söylediklerinizin ifadesine ve yapısına odaklanır. Context engineering ise ajanlarla birlikte gelen daha geniş iştir: her adımda hangi belgelerin, araç sonuçlarının, belleklerin ve geçmişin pencerede olacağına karar vermek. İyi talimat, iyi bağlamın bir parçasıdır.

Teknik katman

Yerleşik teknikler: net rol ve görev tanımı, amacın açıklanması, girdilerin etiketlerle ayrılması, few-shot örnekler, yanıttan önce akıl yürütme istemek, çıktı biçimini ya da şemasını belirtmek, çok aşamalı görevlerde prompt chaining ve yanıtın başlangıcını önceden doldurmak ya da kısıtlamak. İşin mühendislik kısmı yöntemdir: temsil edici ve zor vakalardan oluşan bir test seti, bir ölçüt, bir seferde tek değişiklik ve regresyon kontrolleri. İstemler modele özgüdür; bir model için ayarlanan istem bir sonraki için çoğu zaman gözden geçirilmelidir. Modeller istem taslağı yazabilir ve eleştirebilir (meta-prompting).

Yazan Mehmet Erkek · Son güncelleme: