Sade anlatım
Çocuklar kum havuzunda istediklerini kurup yıkabilir, bahçeye bir şey olmaz. Ajanın sandbox'ı da kendi dosyaları ve kendi makinesi olan, ağ erişimi kısıtlı ya da kapalı, mühürlü bir çalışma alanıdır. Ajan orada ne yaparsa yapsın, hata sonucu ya da kandırıldığı için, yaptığı orada kalır.
Neden önemli
Bir ajanın kod çalıştırmasına ve gözetimsiz çalışmasına izin vermeyi makul kılan şey sandbox'tır. “Modele güvenebilir miyiz?” sorusunu “bu kutu nelere ulaşabilir?” sorusuna çevirir; bu, BT'nin yanıtlayıp denetleyebildiği bir sorudur. Verdiğiniz otonomi arttıkça kutunun önemi de artar.
Örnek
Bir veri analizi ajanı bir tablo alıyor ve onu incelemek için Python yazıyor. Kod, içinde yalnızca o dosyanın bulunduğu, şirket ağına ve internete erişimi olmayan tek kullanımlık bir konteynerde çalışıyor. Oturum bitince konteyner yok ediliyor.
Bununla en çok karıştırılan kavram
Sandbox ve Guardrails arasındaki fark
Guardrail'ler içeriği inceler ve içerikle kandırılabilir. Sandbox hiçbir şeyi incelemez: yeteneği ortadan kaldırır. Guardrail ajanın veriyi dışarı göndermesini engellemeye çalışır; ağı kapalı bir sandbox ise göndermeyi imkânsız kılar. Sağlam sistemler ikisini birlikte kullanır.
Teknik katman
Yalıtım birkaç düzeyde uygulanır: dosya sistemi (geçici bir dizin ya da konteyner imajı, girdiler için salt okunur bağlama), ağ (hiç yok ya da izinli alan adı listesi olan bir çıkış vekili), süreç (konteynerler, gVisor benzeri çekirdekler ya da Firecracker gibi mikro sanal makineler) ve kimlik bilgileri (kısa ömürlü, dar kapsamlı belirteçler; asla kullanıcının kendi bilgileri değil). Tasarım kararları arasında oturumlar arasında neyin kalıcı olacağı, dosyaların nasıl girip çıkacağı ve kaynak sınırları bulunur. Dengeyi kullanılabilirlik belirler: sandbox sayesinde kaldırılan her izin sorusu kazanılmış otonomidir, kolaylık için açılan her delik de geri gelen risktir.