Sade anlatım
Beş sayfalık bir brif verilen biri onu iyi özümser. Aynı kişiye beş yüz sayfa verip aynı soruyu sorun; her sayfa teknik olarak “okunmuş” olsa da bazı şeyleri kaçırır. Modeller de benzer davranır. Bağlam büyüdükçe her bilgi parçasına düşen dikkat payı küçülür, baştaki talimatlar silikleşir ve ilgisiz malzeme araya girmeye başlar.
Neden önemli
Büyük bir bağlam penceresinin modele yeterli bilgi verme sorununu çözdüğü yolundaki rahat varsayımı çürütür. Daha fazla bağlam sonucu kötüleştirebilir. Uzun çalışan ajanlarda bildik tablonun ana nedeni budur: ilk yirmi dakika keskin, sonra unutkan, kendini tekrarlayan ve talimatları görmezden gelmeye yatkın. Bunu yönetmek bir tasarım işidir; model sizin yerinize yapmaz.
Örnek
Bir araştırma ajanı iyi başlıyor. Kırk araç çağrısı sonra bağlamında çoğu ilgisiz, 150.000 token'lık arama sonucu var. Daha önce yaptığı aramaları yeniden yapmaya başlıyor ve ilk brifteki bir kısıtı unutuyor. Bulguların 2.000 token'lık özeti ve ilk brifle yeniden başlatmak performansını hemen geri getiriyor.
Bununla en çok karıştırılan kavram
Context Rot ve Context window sınırı arasındaki fark
Sınır bir duvardır: ötesinde istek başarısız olur ya da içerik kesilir. Context rot ise duvardan çok önce başlayan bir eğimdir. Bir milyon token'lık penceresi olan bir model, göreve ve içeriğin ne kadarının dikkat dağıtıcı olduğuna bağlı olarak, bunun küçük bir bölümünde bile hatırlama ve akıl yürütmede gerileme gösterebilir.
Köken: Terim 2025'te, özellikle etkiyi birçok modelde ölçen bir Chroma araştırma raporuyla yaygınlaştı.
Teknik katman
Katkıda bulunan etkiler: dikkatin daha fazla token'a yayılması; baştaki ve sondaki malzemenin daha iyi hatırlandığı konum yanlılığı (“lost in the middle”); hedefe benzeyen ama ilgisiz pasajlar, yani çeldiriciler (ilgisiz metinden daha fazla zarar verirler); ve modelin koşul olarak kullanmayı sürdürdüğü birikmiş araç çıktıları ve başarısız denemeler. Gerileme modele göre değişir ve basit aramaya kıyasla bağlamın tamamında akıl yürütme gerektiren görevlerde daha kötüdür. Karşı önlemler context engineering'in araç takımıdır: daha az ve daha isabetli getirmek, eski araç sonuçlarını temizlemek ya da sıkıştırmak, keşfi alt ajanlara devretmek, kalıcı notları pencerenin dışında tutmak ve yeni oturumlara bir özetle başlamak.