Kum Havuzu (Sandboxing)

Sandboxing nedir?

Sandboxing, bir programın — özellikle de kod çalıştıran, dosya okuyan, internete çıkan bir AI ajanının — kısıtlı ve izole bir ortamda koşturulmasıdır. Ajan o kutunun içinde istediğini yapabilir; kutunun dışına ise sadece izin verilen kadarına dokunabilir.

Temel fikir basit: ajanın hata yapacağını baştan kabul et, hatanın maliyetini sınırla.

Nasıl çalışır?

Sandbox genelde katmanlı kurulur:

Dosya sistemi izolasyonu: Ajan yalnızca kendisine ayrılmış dizini görür. Ev dizini, SSH anahtarları, config dosyaları görünmez.

Ağ kısıtlaması: Varsayılan olarak dışarı çıkış kapalıdır. Sadece izin listesindeki adreslere erişim açılır. Bu, veri sızdırmayı da kötü niyetli indirmeyi de zorlaştırır.

Yetki daraltma: Süreç root olmayan bir kullanıcıyla çalışır. Yazma, silme, süreç başlatma hakları ayrı ayrı verilir — hepsi birden değil.

Kaynak sınırı: CPU, bellek ve süre üst sınırı konur. Sonsuz döngüye giren bir ajan makineyi kilitleyemez.

Tek kullanımlık ortam: Konteyner her görevden sonra atılır. Bir görevden kalan artık, sonraki göreve bulaşmaz.

Yaygın uygulama biçimi konteyner ya da sanal makinedir; daha hafif senaryolarda WebAssembly gibi çalışma zamanı izolasyonu tercih edilir.

Neden önemli?

AI ajanları artık gerçekten iş yapıyor: terminal komutu çalıştırıyor, dosya değiştiriyor, API çağırıyor. Bu yeteneklerin her biri aynı zamanda bir risk.

En kritik senaryo prompt injection. Ajanın okuduğu bir web sayfası ya da e-posta, içinde ajana yönelik gizli talimat barındırabilir. Ajan bunu kullanıcının isteği sanıp uygulayabilir. Sandbox burada son savunma hattıdır — talimat geçse bile, yapabileceği şey zaten kısıtlıdır.

Not: sandbox mutlak güvenlik değil. Modellerin konteyner kaçışı yeteneklerini ölçen güncel çalışmalar, izolasyonun da test edilmesi gereken bir yüzey olduğunu gösteriyor.

Kullanım alanları

• Kod çalıştıran ajanlar: Üretilen kodun izole konteynerde denenmesi.
• Tarayıcı ajanları: Ayrı profil, sınırlı oturum, kısıtlı çerez erişimi.
• Üçüncü parti araç entegrasyonu: Her aracın kendi izin kapsamında koşması.
• Değerlendirme ortamları: Modelin sınır davranışlarının gerçek sisteme dokunmadan ölçülmesi.