Sade anlatım
Model “Paris Fransa'nın başkentidir” cümlesini hiçbir yerde saklamaz. Eğitim sırasında iç sayılarını, ilişkili fikirler birbirine yakın duracak ve tutarlı ilişkiler tutarlı yönleri gösterecek biçimde düzenler. Bu gizli düzen, gizil uzaydır. Modelin okuduğu her şey bu uzaya çevrilir, yazdığı her şey de bu uzaydan geri çevrilir.
Neden önemli
Modellerin genelleme yapabilmesinin nedeni gizil uzaydır: daha önce hiç görmedikleri bir cümleyi, gördüklerinin yakınına düştüğü için işleyebilirler. Davranışlarının denetlenmesinin zor olmasının nedeni de odur. Bilgi gerçektir ama geometri olarak tutulur; bakabileceğiniz ya da silebileceğiniz bir kayıt yoktur. Yorumlanabilirlik araştırmaları ve yapay zeka güvenliğinin büyük bölümü, bu geometriyi okuma çabasıdır.
Örnek
Bir görsel modelinde, gizil uzayda bir noktayı belirli bir yönde biraz kaydırmak bir yüzü yaşlandırır; başka bir yönde kaydırmak gülümseme ekler. Kimse bir “yaş” ayarı programlamadı. Model uzayını, yaş bir yön olacak biçimde kendisi düzenledi; araştırmacılar bunu sonradan buldu.
Bununla en çok karıştırılan kavram
Latent Space ve Embedding arasındaki fark
Embedding belirli bir vektördür: tek bir metnin koordinatları. Gizil uzay ise bu tür vektörlerin yaşadığı uzaydır; modelin her katmandaki ara, gizli temsillerini de kapsar. Bir embedding modeli, gizil uzayının bir katmanını kullanmanız için dışarı açar.
Teknik katman
“Gizil”, doğrudan gözlemlenmeyen demektir: boyutlar tasarlanmaz, öğrenilir ve çoğunun basit bir insan etiketi yoktur. Yapının kanıtları arasında kavram vektörleri arasındaki doğrusal ilişkiler (bilinen kral − erkek + kadın ≈ kraliçe örneği), sparse autoencoder'larla bulunan özellikler ve aktivasyonlara bir vektör eklemenin davranışı değiştirdiği yönlendirme deneyleri sayılabilir. Diffusion ve benzeri üretken modellerde üretim, gizil uzayda hareket edip sonucu çözümlemekten ibarettir. Sınırlar: tek bir kavram birçok boyuta yayılır, tek bir boyut da birçok kavramı karıştırır (superposition); temiz yorumlamayı zorlaştıran budur.