Sade anlatım
Makinist kabininde bir ölü adam pedalı, yolcu uçağında iki pilot ve otomatik pilotu kapatmanın bir yolu, bankada ise büyük ödemeler için ikinci imza vardır. Her biri, bir insanı fark edebilecek ve müdahale edebilecek konumda tutmanın bir yoludur. İnsan gözetimi bu gerekliliğin yapay zekaya uygulanmasıdır: önem taşıyan her sistem için birinin, sistemin ne yaptığını görebilmesi, ona karşı çıkabilmesi ve onu durdurabilmesi gerekir.
Neden önemli
Düzenleyicilerin, denetçilerin ve mahkemelerin ilk aradığı kontrol budur; AB'de yüksek riskli sistemler için yasal bir gerekliliktir. Aynı zamanda taklit edilmesi en kolay kontroldür. Saatte iki yüz yapay zeka önerisini, değerlendirecek zamanı ve bilgisi olmadan onaylayan biri imza sağlar, gözetim sağlamaz; sistemin önerdiğini kabul etme eğilimine otomasyon yanlılığı denir. Gerçek gözetim çalışan zamanına mal olur ve süreci yavaşlatır; bu yüzden hatanın pahalı ya da geri alınması zor olduğu yerlerde yoğunlaştırılmalıdır.
Örnek
Bir kredi kuruluşu, modelinin önerdiği her kredi reddini bir inceleme uzmanına onaylatıyor. Bir denetim, uzmanların önerilerin %99,4'ünü onayladığını ve her birine on bir saniye ayırdığını ortaya çıkarıyor. Kuruluş adımı yeniden tasarlıyor: uzmanlar skoru belirleyen üç etkeni görüyor, vakaların onda biri öneri eklenmeden geliyor ve her uzman günde 300 yerine 40 vakaya bakıyor. Geri çevrilen retlerin oranı %0,6'dan %7'ye çıkıyor.
Bununla en çok karıştırılan kavram
Human Oversight ve Human-in-the-loop (HITL) arasındaki fark
İnsan gözetimi hedeftir; human-in-the-loop ise ona ulaşmak için kullanılan tasarımlardan biridir ve bu tasarımda hiçbir şey onaysız ilerlemez. Bir insanın izleyip gerektiğinde devreye girdiği human-on-the-loop bir başka tasarımdır; düşük riskli işlerde belirli aralıklarla inceleme de yeterli olabilir. Bunlar arasında, işin taşıdığı riske göre seçim yapmak da gözetimin bir parçasıdır.
Teknik katman
AB Yapay Zeka Yasası'nın 14. maddesi, yüksek riskli sistemlerin gerçek kişilerce etkili biçimde gözetlenebilecek şekilde tasarlanmasını şart koşar: gözetmenler sistemin yeteneklerini ve sınırlarını anlayabilmeli, otomasyon yanlılığının farkında olmalı, çıktıları doğru yorumlayabilmeli, bir çıktıyı dikkate almamaya ya da geri almaya karar verebilmeli ve sistemi bir durdurma işleviyle kesebilmelidir. 26. madde, sistemi kullananlara gözetimi gerekli yetkinliğe, eğitime ve yetkiye sahip kişilere verme yükümlülüğü getirir. GDPR'da, hukuki ya da benzer ölçüde önemli sonucu olan tümüyle otomatik bir karara konu olan kişi insan müdahalesi isteme hakkına sahiptir. Gözetim dört koşulda etkilidir: yetkinlik, yetki, zaman ve bilgi. Tasarım pratikleri: her öneriyle birlikte kanıtı ve belirsizliği göster; vakaları riske göre yönlendir; geri çevirme oranlarını ve inceleme sürelerini ölç, çünkü sıfıra yakın değerler göstermelik onaya işaret eder; uzmanları bilerek yerleştirilmiş hatalarla sına; kararları kaydet; durdurma prosedürünü prova et. Ajanlarda gözetim; sonuç doğuran araç çağrılarındaki onay kapıları, bütçeler, izleme ve gerçekten çalışan bir kesme mekanizmasıyla uygulanır.