Sade anlatım
Trace, tek bir yanıtın ayrıntılı fişidir. Tek bir yanıtın arkasında çok şey olur: bir arama, belki üç model çağrısı, sipariş sisteminde bir sorgu. Trace bu adımların her birini sırasıyla listeler: ne girdi, ne çıktı, ne kadar sürdü, kaça mal oldu. Yanıt yanlış ya da yavaş olduğunda sorunun hangi adımda başladığını gösterir.
Neden önemli
Ajanlarda nihai yanıt, yapılan işin çoğunu gizler ve “yapay zeka yanlış yaptı” demek bir teşhis sayılmaz. Trace bunu ekibin üzerinde çalışabileceği bir bulguya çevirir: getirme yanlış belgeyi buldu, model bir talimatı atladı, bir araç hata döndürdü. Trace'ler denetimlerin ve test setlerinin de hammaddesidir. Öteki yüzü, içerdikleridir. Bir trace kullanıcının yazdıklarını, getirilen şirket belgelerini ve araç sonuçlarını eksiksiz tutar; bu yüzden kişisel veri saklayan her sistem gibi erişim kontrolü, maskeleme ve saklama süresi ister.
Örnek
Bir müşteri, bir perakendecinin asistanının iade süresini yanlış söylediğinden şikâyet ediyor. Ekip o konuşmanın trace'ini açıyor: beş adım, 6,4 saniye. İkinci adımdaki belge araması 2023 tarihli bir politikayı getirmiş, model de onu olduğu gibi aktarmış. Trace, sipariş sorgusunun 6,4 saniyenin 2,8'ini aldığını da gösteriyor. Tek kayıttan iki düzeltme çıkıyor: eski belgeyi kaldırmak ve sorguyu hızlandırmak.
Bununla en çok karıştırılan kavram
Tracing ve Logging (log kaydı) arasındaki fark
Log, olayların yazıldıkları sırayla tutulan listesidir ve diğer bütün isteklerin olaylarıyla karışık durur. Trace ise tek bir isteğe ait bütün adımları birbirine bağlar ve hiyerarşiyi korur: bu araç çağrısı şu ajan adımının içinde gerçekleşti, o adım da bu konuşmaya aitti. Tek bir model çağrısı için bir log satırı yeter. Yirmi adım atan bir ajanda adımların birbirine nasıl bağlandığını yalnızca trace gösterir.
Teknik katman
Trace, span'lerden oluşan bir ağaçtır. Her span bir iş birimidir (model çağrısı, getirme, araç çalıştırma, guardrail kontrolü, alt ajan); başlangıç zamanı, süre, durum, girdiler, çıktılar ve model adı, token sayıları, maliyet gibi öznitelikler taşır. Span'ler ortak bir trace kimliğini paylaşır ve üst span'lerine işaret eder; birkaç servise yayılan çok ajanlı bir çalışma bu sayede tek kayıtta birleşir. Oturumlar ise bir konuşmanın trace'lerini gruplar. Enstrümantasyon SDK sarmalayıcılarından, çatı entegrasyonlarından ya da bir yapay zeka geçidinden gelir; çoğu zaman OpenTelemetry üzerine kuruludur. Tasarım kararları: prompt ve çıktıların tamamının mı yoksa yalnızca üst verinin mi saklanacağı, kişisel verilerin saklanmadan önce maskelenmesi, yüksek hacimde örnekleme ve saklama süresi. Hata ayıklamanın ötesindeki kullanımlar: özellik ya da müşteri bazında maliyet dağılımı, gecikme analizi, ajanın yanıtıyla birlikte izlediği yolu da değerlendirme ve başarısız bir çalışmayı yeni bir prompt ya da modelle yeniden oynatma.