Sade anlatım
Bir gıda şirketi hijyeni iyi niyet meselesi olarak görmez. Standartları, denetimleri ve her partiyi onaylayan bir sorumlusu vardır. Sorumlu yapay zeka, yapay zekanın insanlar üzerindeki etkileri için aynı ciddiyeti ister: kim haksız muameleye uğrayabilir, işin içinde bir makine olduğu kime söylenmeli, bir kararın açıklaması kimden istenebilir ve karar yanlışsa onu kim düzeltir.
Neden önemli
Müşteriler, düzenleyiciler ve çalışanlar bir şirketin yapay zekasının sonuçlarına nasıl ulaştığını giderek daha çok soruyor; inandırıcı bir yanıt sözleşmeleri, itibarı ve faaliyet izinlerini korur. İlkelerin kendisi tartışmalı değildir ve hemen her büyük şirket bir ilke seti yayımlamıştır. Zorluk, ilkelerin hem birbiriyle hem de hızla çatışmasıdır: daha fazla şeffaflık kişisel veriyi açığa çıkarabilir, daha yüksek doğruluk adillikten götürebilir ve her kontrol yayını geciktirir. Bir ilke ancak bir teste, bir sahibe ve birinin itirazına rağmen verilebilecek bir karara bağlandığında yerini hak eder.
Örnek
Bir sigorta şirketi beş ilke benimsiyor ve ardından her birinin neyi değiştirdiğini soruyor. Adillik için hasar modeli her çeyrekte yaş grupları arasındaki sonuç farkları açısından test ediliyor; ilk test bir fark buluyor ve model düzeltiliyor. Şeffaflık için yapay zekanın taslağını yazdığı her mektupta bu belirtiliyor. Hesap verebilirlik için 19 yapay zeka sisteminin her birine adı belli bir sahip atanıyor. İki ilke somut hiçbir değişiklik üretmiyor; yönetim kurulu bunları listeden çıkarıyor.
Bununla en çok karıştırılan kavram
Responsible AI ve AI safety (yapay zeka güvenliği) arasındaki fark
İkisi örtüşür ve birçok kurum ikisi için tek bir ekip kullanır. Sorumlu yapay zeka etik ve uyum alanından doğmuştur; yapay zekanın bugün insanlara doğru davranıp davranmadığını sorar. AI safety ise ileri sistemler üzerine araştırmalardan doğmuştur; neyin, hangi ölçekte çok kötü gidebileceğini sorar. Yapay zekayı kullanan bir şirket birincisine gündelik disiplin olarak ihtiyaç duyar, ikincisinden ise sistemleri yayın öncesinde test ederken yararlanır.
Teknik katman
Sık sayılan ilkeler: adillik ve ayrımcılık yapmama, şeffaflık ve açıklanabilirlik, hesap verebilirlik, gizlilik ve veri yönetişimi, güvenlik ve güvenilirlik, insan gözetimi ve bazen sürdürülebilirlik. Uluslararası başvuru metinleri: OECD Yapay Zeka İlkeleri (2019'da kabul edildi, 2024'te güncellendi) ve UNESCO'nun Yapay Zeka Etiği Tavsiyesi (2021); AB'nin 2019 tarihli kılavuzu güvenilir yapay zeka terimini kullanmıştı. İlkeleri uygulamaya çevirmenin yolları: yayın öncesi etki değerlendirmeleri; tanımlı metriklerle yanlılık testleri; model kartları gibi belgeler; insanlar yapay zekayla etkileşime girdiğinde ya da yapay zekayla üretilmiş içerik aldığında bilgilendirme; şikâyet ve insan incelemesi kanalları; evals ve red teaming; olay bildirimi. Örgütlenme: yönetim kurulunun onayladığı ilkeler, her sistem için bir sahip ve yapay zeka yönetişimi süreci üzerinden inceleme. Bilinen hata, çoğu zaman etik aklama (ethics washing) diye anılır: bütçesi, ölçümü ve bir projeyi durdurma yetkisi olmayan, yayımlanmış ilkeler. Bu ilkelerin birçoğu AB Yapay Zeka Yasası ve veri koruma hukuku ile yasal yükümlülüğe dönüşüyor.