Sade anlatım
Her şirketin para harcamaya ilişkin kuralları vardır: kim neyi, hangi tutara kadar, hangi kayıtla onaylayabilir. Yapay zeka yönetişimi aynı düzenin yapay zeka için kurulmuş halidir. Bir yapay zeka sistemini kimin devreye alabileceğini, önce nelerin kontrol edilmesi gerektiğini, sistem canlıya geçtikten sonra sahibinin kim olduğunu ve bir şey ters gittiğinde ne yapılacağını belirler. Yönetişim yoksa bu sorular her seferinde, o an odada kim varsa onun tarafından yanıtlanır.
Neden önemli
Yönetişim, bir kurumun yapay zekaya hızlı ve güvenli biçimde evet diyebilmesini sağlar. Olmadığı yerde iki şey aynı anda yaşanır: makul projeler, kimsenin vermeye yetkili olmadığı bir kararı aylarca bekler; çalışanlar da bu arada onaysız araçlar kullanır. Sık yapılan hata, işe uzun bir politika belgesiyle başlamaktır. İşleyen bir yönetişim üç şeyle başlar: kullanılan yapay zekanın listesi, her kalem için adı belli bir sahip ve kullanımları riske göre ayıran basit bir kural. Maliyeti gerçektir: üst düzey birinin sahiplenmesi gerekir ve incelemeler zaman alır.
Örnek
Bir banka her birime hangi yapay zeka araçlarını ve modellerini kullandığını soruyor. Sayı 63 çıkıyor; BT'nin kayıtlarındakinin üç katından fazla. Dört kullanım kredi ya da işe alım kararlarına dokunuyor ve tam incelemeden geçiyor; 51'i hafif bir prosedürle bir haftada onaylanıyor; sekizi, müşteri verisi bankanın dışına çıktığı için durduruluyor. Kalan 55 kullanımın her birinin artık adı belli bir sahibi ve bir gözden geçirme tarihi var.
Bununla en çok karıştırılan kavram
AI Governance ve Responsible AI (sorumlu yapay zeka) arasındaki fark
Sorumlu yapay zeka, kurumun yapay zekasının nasıl olmasını istediğini söyler: adil, şeffaf, güvenli, hesap verebilir. Yönetişim ise bunu gerçekleştiren mekanizmadır: komiteler, envanterler, onaylar, denetimler. Yönetişimi olmayan ilkeler duvardaki posterde kalır. İlkesi olmayan yönetişim ise amacı belirsiz bir evrak işine dönüşür.
Teknik katman
Yapı taşları: bir yapay zeka politikası; satın alınan yazılımların içindeki yapay zeka özellikleri dahil, sistemlerin ve kullanım senaryolarının envanteri; incelemenin derinliğini belirleyen bir risk sınıflandırması; tanımlı roller, yani hesap veren bir üst yönetici, işlevler arası bir komite (iş birimleri, BT, veri, hukuk, güvenlik, uyum) ve her sistem için bir sahip; yaşam döngüsü boyunca kontroller, yani yayın öncesi değerlendirme, evals ve red teaming, insan gözetimi, izleme, olay yönetimi ve kullanımdan kaldırma; tedarikçi incelemesini ve veri kullanımına ilişkin sözleşme koşullarını kapsayan üçüncü taraf yönetimi; ve çalışan eğitimi. Başvuru çerçeveleri: NIST AI Risk Management Framework, ISO/IEC 42001 ve Avrupa'daki yasal yükümlülükler için AB Yapay Zeka Yasası. Birçok kurum bu işi risk yönetimindeki üç hat modeline oturtur. Yararlı ölçüler: envantere girmiş ve sahibi belli sistemlerin oranı, talepten karara kadar geçen süre ve çeyrek başına olay sayısı. Ajanlar listeye yeni kalemler ekler: araç yetkileri, otonomi seviyesi ve harcama limitleri.