Sade anlatım
Hava trafik kontrolörü uçakları kendisi uçurmaz; bütün resmi izler ve bir şey ters göründüğünde müdahale eder. Human-on-the-loop'ta yapay zeka kararları beklemeden verir ve uygular; insan ise yukarıdan gözetir ve gerektiğinde kararı geçersiz kılar.
Neden önemli
Hacim ya da hız her kaydı tek tek onaylamayı imkânsız kıldığında pratik seçenek budur: dolandırıcılık taraması, içerik moderasyonu, binlerce destek talebinin yönlendirilmesi. Ancak kişi sorunu gerçekten fark edebiliyor ve sistemi gerçekten durdurabiliyorsa gözetim sayılır. Kimsenin bakmadığı bir pano human-on-the-loop değildir.
Örnek
Bir dolandırıcılık modeli şüpheli kart işlemlerini milisaniyeler içinde engelliyor. Analistler engelleme oranını ve kararlardan alınan bir örneklemi izliyor; yeni sürümden sonra hatalı engellemeler sıçrayınca modeli dakikalar içinde eski sürüme döndürüyorlar.
Bununla en çok karıştırılan kavram
HOTL ve Human-in-the-Loop (HITL) arasındaki fark
Fark, kimse bir şey yapmadığında ne olduğundadır. HITL'de onay olmadan hiçbir şey ilerlemez. HOTL'de biri müdahale etmedikçe her şey ilerler. HITL hatayı gerçekleşmeden yakalar ve hızdan öder; HOTL hızı korur, hatayı ise bir kısmı gerçekleştikten sonra yakalar.
Teknik katman
HOTL'nin gerçek olması için gerekenler: anormallikleri görünür kılan telemetri (kayma, hata oranları, olağan dışı eylemler), uyarı eşikleri, kararların örneklenerek incelenmesi, denenmiş bir durdurma ya da geri alma mekanizması ve izlemeye zamanı olan, adı belli bir sorumlu. Birçok sistem iki modu riske göre karıştırır: düşük etkili eylemler döngü üstünde yürür, yüksek etkili ya da geri alınamaz olanlar döngü içine, onaya çıkarılır. Bilinen zayıflıklar otomasyon yanlılığı ve uyarı yorgunluğudur; ikisi de sistem güvenilirleştikçe artar.