Sade anlatım
Havaleyi hazırlayan ama Gönder'e basamayan genç bir analist düşünün; önce yöneticisi imzalar. HITL bu kontrol noktasını yapay zeka iş akışına yerleştirir. Ağır işi model yapar, karar bir insanda kalır.
Neden önemli
Yüksek riskli süreçlerde yapay zekayı devreye almanın ana yolu budur: hızın büyük kısmını alırsınız, sorumluluk da adı belli bir kişide kalır. Düzenleyicilerin “insan gözetimi” derken kastettiği de budur; AB Yapay Zeka Yasası yüksek riskli sistemlerde bunu şart koşar. Bedeli de var: her kontrol noktası süreci yavaşlatır, günde yüzlerce kaydı onaylayan kişi de bir süre sonra bakmadan onaylamaya başlar.
Örnek
Bir ajan iade kararlarını hazırlıyor. 50 € altındaki iadeler doğrudan işleniyor; üstündekiler bir destek yöneticisinin onaylaması, düzeltmesi veya reddetmesi için kuyrukta bekliyor. Reddedilenler kaydediliyor ve istemi iyileştirmek için kullanılıyor.
Bununla en çok karıştırılan kavram
HITL ve Human-on-the-Loop (HOTL) arasındaki fark
HITL'de sistem, insan onay vermeden bir sonraki adıma geçemez. HOTL'de sistem kendi başına ilerler; insan izler ve gerekirse müdahale eder. Fark varsayılan davranıştadır: HITL'de varsayılan “bekle”, HOTL'de “devam et”.
Teknik katman
Ajan döngüsünde bir kesme (interrupt) olarak uygulanır: yan etkisi olan bir araç çağrısından (ödeme, e-posta, silme) önce çalışma durdurulur, durumu saklanır ve insanın kararıyla kaldığı yerden devam eder. Tasarım kararları: hangi eylemlerin onaya takılacağı (risk ya da güven skoruna göre), onaylayana ne gösterileceği (fark, kanıt, gerekçe), zaman aşımında ne olacağı ve denetim kaydı. Yakın kavramlar: human-on-the-loop (sistem ilerler, insan izler ve müdahale edebilir) ve human-out-of-the-loop (tam otonom).