Sade anlatım
İnsanların yazdıklarının büyük bir bölümünü okumuş ve bundan tek bir beceri öğrenmiş bir modeldir: verilen bir metni mantıklı biçimde sürdürmek. Bu tek becerinin soru yanıtlamaya, belge taslağı yazmaya, çeviri yapmaya, yazılım yazmaya ve problemler üzerinde akıl yürütmeye yettiği görülmüştür; çünkü bunların her birini iyi yapmak, sıradaki doğru sözcükleri üretmeye dayanır.
Neden önemli
Bugün satılan hemen her yapay zeka ürününün içindeki motordur: asistanlar, copilot'lar, ajanlar, yapay zeka araması. Üç özelliğini anlamak kötü kararların çoğunu önler. İnandırıcı metin tahmin eder, bilgiyi bir yerden bakıp getirmez; bu yüzden kendinden emin biçimde yanılabilir. Siz vermedikçe kurumunuz hakkında hiçbir şey bilmez. Çevresine kurulan bir sistem bellek sağlamadıkça da konuşmalar arasında hiçbir şey hatırlamaz.
Örnek
Bir avukat 40 sayfalık bir kira sözleşmesini bir asistana yapıştırıyor; fesih maddelerini, kira artış tarihlerini ve olağandışı her şeyi soruyor. Model yirmi saniyede yapılandırılmış bir özet döndürüyor ve üst sınırı olmayan bir ortak gider kalemini işaretliyor. Kira sözleşmesi incelemek üzere hiç eğitilmedi; belgeyi bağlamında okuyor ve genel dil yeteneğini ona uyguluyor.
Bununla en çok karıştırılan kavram
LLM ve Chatbot (sohbet botu) arasındaki fark
ChatGPT, Claude ve Gemini birer üründür. Her birinin içinde bir büyük dil modeli; onunla birlikte bir sistem istemi, araçlar, bellek ve güvenlik katmanları çalışır. Aynı model bir chatbot'u, bir kodlama ajanını ya da bir arka ofis sürecindeki görünmez bir adımı çalıştırabilir. Teklifleri karşılaştırırken modeli, çevresine kurulan üründen ayırın.
Teknik katman
LLM, milyarlarca parametresi olan bir transformer sinir ağıdır. Metin token'lara bölünür; model olası her sıradaki token için bir olasılık üretir; biri örneklenip metne eklenir; süreç tekrarlanır. Yaşam döngüsü: çok büyük bir metin derlemi üzerinde sıradaki token'ı tahmin ederek ön eğitim, ardından talimat izleme ve güvenlik için, çoğu zaman insan geri bildirimi kullanılan ek eğitim. Temel özellikler: bağlam penceresi (bir seferde ne kadar okuyabildiği), bilgi kesim tarihi, kabul ettiği girdi türleri, hız ve token başına fiyat. Düz metin üretiminin ötesindeki yetenekler çevredeki sistemden gelir: araç kullanımı, getirme, yapılandırılmış çıktı, genişletilmiş düşünme. Sınırlar: halüsinasyon, ifade biçimine duyarlılık, çok adımlı uzun işlerde dalgalı güvenilirlik ve yeniden eğitilmedikçe kullanımdan öğrenmeme.