Sade anlatım
Yüz yıl boyunca kayıt, kanıt sayıldı: sesi duyduysanız ya da yüzü gördüyseniz o kişi oradaydı. Bu bağ koptu. Bugün bir yazılım, birinin kısa bir ses örneğinden ve birkaç fotoğrafından yola çıkarak o kişiye istenen her şeyi söyletebiliyor; telefonda da, canlı görüntüde de. Deepfake, yüz ve ses için atılmış sahte bir imzadır ve bu sahteciliğin araçları herkesin erişimindedir.
Neden önemli
Şirketler için ilk risk dolandırıcılıktır. Çalışanlar tanıdık bir sese güvenmeye alışkındır; acil bir havale isteyen klonlanmış ses tam da bu alışkanlığı kullanır. İkinci risk itibar ve piyasalardır: bir yöneticiye ait uydurma bir açıklama, yalanlanana kadar saatlerce dolaşabilir. Tespit araçları vardır ama üretim araçlarının gerisinden gelir; ana savunma olamazlar. İşe yarayan şey süreçtir: hassas talepler, isteyen kim görünürse görünsün ikinci bir kanaldan doğrulanır. Bu, acil ödemeleri yavaşlatır; amaç da budur.
Örnek
Bir üreticinin finans müdürü, mali işler direktörü ve iki çalışma arkadaşıyla bir görüntülü toplantıya katılıyor; ondan gizli bir satın alma için toplam 4,2 milyon avroluk 12 havale isteniyor. Toplantıdaki her yüz ve her ses, herkese açık konferans kayıtlarından üretilmiş. Müdür bir yıl önce getirilen kurala uyuyor ve direktörü şirket rehberindeki numaradan geri arıyor. Direktörün hiçbir şeyden haberi yok.
Bununla en çok karıştırılan kavram
Deepfake ve Cheapfake (basit kurgu sahteciliği) arasındaki fark
Cheapfake için yapay zeka gerekmez: gerçek bir video, konuşan kişi sarhoş görünsün diye yavaşlatılır, bağlamı gizlemek için kırpılır ya da yanlış bir başlık ve tarihle paylaşılır. Deepfake ise malzemenin kendisini üretir. Ayrım savunma açısından önemlidir. Üretim izlerini arayan tespit araçları cheapfake'leri hiç yakalamaz ve dolaşımdaki yanıltıcı içeriğin büyük bölümü bu basit türdendir. Kaynağı ve bağlamı kontrol etmek ikisine karşı da işe yarar.
Köken: Sözcük 2017'de, yüz değiştirilmiş videolar paylaşan bir Reddit kullanıcısının kullanıcı adı olarak ortaya çıktı; “deep learning” ile “fake” sözcüklerinin birleşimidir.
Teknik katman
Başlıca biçimleri: yüz değiştirme, yeni bir sese dudak eşleme, konuşan bir kişinin metin isteminden baştan sona üretilmesi ve yalnızca kısa bir örnek gerektiren, gerçek zamanlı da çalışabilen ses klonlama. Üreticiler difüzyon modelleri ve yakın akrabalarıdır; daha eski sistemler otomatik kodlayıcılar ve GAN'lar kullanırdı. Savunmalar üç gruptur. Tespit: üretim izlerini arayan sınıflandırıcılar ve kimlik doğrulamadaki canlılık kontrolleri; doğruluk her yeni üreticide ve sıkıştırmadan sonra düşer. Kaynak doğrulama: bir dosyanın kökenini ve düzenleme geçmişini imzalayan C2PA Content Credentials ile üretim sırasında gömülen, Google'ın SynthID'si gibi görünmez filigranlar; ikisi de işaretli içeriğin nereden geldiğini gösterir, işaretsiz içerik hakkında bir şey söylemez. Süreç: bilinen numaradan geri arama, çift onay, önceden kararlaştırılmış parola ifadeleri ve aciliyetin daha fazla kontrolü tetiklediği bir kural. Düzenleme tarafında AB Yapay Zeka Yasası, Ağustos 2026'dan beri deepfake'lerin yapay olarak üretildiğinin ya da değiştirildiğinin açıklanmasını şart koşuyor; birçok ülke de rıza dışı mahrem deepfake'leri suç saydı.