Sade anlatım
Kimse bir dil modeline dilbilgisi kuralları ya da dünya hakkında bilgiler programlamaz. Modele sıradaki kelimesi gizlenmiş devasa miktarda metin gösterilir, tahmin etmesi istenir, ne kadar yanıldığı söylenir ve model biraz ayarlanır. Bunu trilyonlarca kez tekrarlayın; yazma, çevirme ve akıl yürütme yeteneği, tahminde ustalaşmanın yan ürünü olarak ortaya çıkar.
Neden önemli
Modelin yetenekleri, kör noktaları ve yanlılıkları eğitimde belirlenir; eğitim aynı zamanda yapay zekanın en sermaye yoğun adımıdır: en ileri modellerin eğitiminin yüz milyonlarca dolara mal olduğu tahmin ediliyor. Neredeyse hiçbir şirketin sıfırdan model eğitmesi gerekmez. İşe yarar soru, hangi eğitilmiş modelin üzerine kurulacağı ve onu uyarlamanın gerekip gerekmediğidir.
Örnek
Bir laboratuvar birkaç trilyon token'lık metin derliyor, bunu on binlerce GPU'dan aylarca geçiriyor ve elinde tek bir ağırlık dosyası kalıyor. O andan itibaren bu dosya vergi hukuku sorularını yanıtlayabiliyor, Python yazabiliyor ve e-posta taslağı hazırlayabiliyor; bu görevlerin hiçbiri ona ayrıca öğretilmediği halde.
Bununla en çok karıştırılan kavram
Training ve Inference (çıkarım) arasındaki fark
Eğitim, yayından önce bir kez yapılır ve modeli üretir. Çıkarım ise biri modeli her kullandığında gerçekleşir. Model çıkarım sırasında konuşmalarınızdan öğrenmez; hatırlıyor gibi göründüğü her şey bağlam penceresinden ya da sonraki bir eğitimden gelir.
Teknik katman
Standart yöntem, gradyan inişiyle öz-denetimli öğrenmedir: model sıradaki token'ı tahmin eder, bir kayıp fonksiyonu hatayı ölçer, geri yayılım her parametrenin hatadaki payını hesaplar ve bir optimize edici parametreleri günceller. Aşamalar genellikle birbirini izler: geniş veri üzerinde ön eğitim, ardından talimat izleme ve güvenlik için fine-tuning; bunda çoğu zaman insan geri bildirimi (RLHF) ya da model tarafından üretilen geri bildirim kullanılır. Belirleyici büyüklükler veri hacmi ve kalitesi, parametre sayısı ve hesaplama gücüdür; ilerlemenin ana kaynağı üçünün birlikte ölçeklenmesi olmuştur. Eğitim verisi bir kesim tarihinde biter, modelin bilgisi de onunla birlikte.