NeMo GuardrailsNedir?

NeMo Guardrails, NVIDIA'nın 2023'te açık kaynak olarak yayımladığı bir güvenlik kütüphanesi. Yaptığı iş basit bir fikre dayanıyor: yapay zekâ uygulamanla model arasına bir bekçi koyuyorsun. Kullanıcının yazdığı mesaj önce bu bekçiden geçiyor, modelin ürettiği cevap da kullanıcıya gitmeden önce bir kez daha kontrol ediliyor. NVIDIA bu kurallara "guardrail", yani korkuluk diyor.

Neden gerekli olduğunu jailbreak örneğinde görmek kolay. Sistem prompt'una "zararlı içerik üretme" yazmak tek başına yetmiyor, çünkü saldırgan modeli dil oyunlarıyla bu kuralı unutmaya itebiliyor. NeMo Guardrails kuralı prompt'un içine değil, modelin dışına koyuyor. Model kandırılsa bile çıkan cevap ayrı bir katmanda yakalanabiliyor.

Kütüphane Apache 2.0 lisanslı, yani ticari projede de ücretsiz kullanabiliyorsun. Python 3.10 ile 3.13 arasındaki sürümlerde çalışıyor ve pip install nemoguardrails komutuyla kuruluyor. Tek bir modele bağlı değil. OpenAI, Llama gibi farklı modellerin önüne koyabiliyorsun, LangChain kullanıyorsan zincirlerinin etrafına da sarabiliyorsun. Geliştirme aktif şekilde sürüyor: 0.24.0 sürümü Ağustos 2026'da, 0.24.1 Eylül 2026'da çıktı.

Rakiplerinden en belirgin farkı esnekliği. Hazır bir içerik filtresi sadece "bu metin zararlı mı" sorusuna cevap verir. NeMo Guardrails ise konuşmanın akışını da yönetebiliyor. Örneğin bir banka asistanının siyaset konuşmamasını, belli bir soruya her zaman önceden yazılmış cevabı vermesini ya da işlem yapmadan önce kimlik doğrulama adımını atlamamasını kurala bağlayabiliyorsun.

Temel Özellikler

Kütüphane beş farklı noktada kural koymana izin veriyor. Girdi kuralları kullanıcının mesajını reddedebiliyor ya da içindeki kişisel bilgileri maskeleyebiliyor. Diyalog kuralları konuşmanın hangi yöne gideceğini belirliyor. Kaynak (retrieval) kuralları RAG sistemlerinde dış kaynaktan çekilen metin parçalarını modele vermeden önce denetliyor, böylece bir web sayfasına ya da belgeye gizlenmiş talimat modele ulaşmadan yakalanabiliyor. Araç kuralları modelin çağırdığı fonksiyonların girdisini ve çıktısını kontrol ediyor. Çıktı kuralları da modelin cevabını kullanıcıya gitmeden önce tarıyor.

Jailbreak tespiti için üç yol var. Modelin kendisine "bu bir jailbreak denemesi mi" diye sordurabiliyorsun, bilinen saldırı kalıplarını yakalayan kural tabanlı bir kontrol kullanabiliyorsun ya da NVIDIA'nın bu iş için eğittiği ayrı jailbreak tespit servisine bağlanabiliyorsun. İçerik güvenliği tarafında NVIDIA'nın kendi güvenlik modeliyle ve başka moderasyon servisleriyle entegrasyon hazır.

Konuşma akışları, NVIDIA'nın bu kütüphane için geliştirdiği Colang adlı dille yazılıyor. Hangi model kullanılacağı ve hangi kuralların açık olacağı ise basit bir config.yml dosyasında tanımlanıyor. Uygulamaya eklemek için kodunda modeli doğrudan çağırmak yerine kütüphaneyi çağırman yetiyor. Mesaj formatı OpenAI'ın sohbet API'sine benzediği için değişiklik küçük kalıyor. İstersen kütüphaneyi Python kodunun içinde, istersen ayrı bir sunucu olarak çalıştırabiliyorsun.

Kullanım Senaryoları

Müşterilerine açık bir chatbot yayınlayan bir şirket için en temel kullanım, jailbreak denemelerini girişte yakalamak ve zararlı cevapları çıkışta durdurmak. Asistanın şirket adına uygunsuz bir şey söylemesi, ekran görüntüsüyle sosyal medyaya düştüğü anda marka sorununa dönüşüyor.

Belgeler üzerinden soru cevaplayan RAG sistemlerinde ise asıl değer kaynak kurallarında. Modelin okuduğu bir PDF'e ya da web sayfasına gizlenmiş talimat, kullanıcı hiçbir şey yapmadan sistemi ele geçirebiliyor. NeMo Guardrails bu parçaları modele vermeden önce denetliyor ve cevabın kaynakla tutarlı olup olmadığını kontrol edebiliyor.

Belli bir işe odaklanmış asistanlarda, örneğin sadece ürün desteği veren bir botta, diyalog kuralları asistanın konu dışına çıkmasını engelliyor. Kişisel veri işleyen uygulamalarda da girdi kuralları e-posta adresi ya da isim gibi bilgileri modele gitmeden maskeleyebiliyor.

Fiyatlandırma

Kütüphanenin kendisi tamamen ücretsiz ve Apache 2.0 lisanslı. İndirip kendi sunucunda istediğin kadar kullanabilirsin, ticari kullanım da serbest. Yalnız kütüphane kendi başına bir model değil. Önüne koyduğun LLM'in ve kontrol için ek bir model kullanıyorsan onun maliyeti ayrıca senin.

NVIDIA ayrıca üretim ortamı için bir NeMo Guardrails mikroservisi sunuyor. Bu sürüm ücretli NVIDIA AI Enterprise planının parçası ve tek başına çalışmıyor, NVIDIA'nın diğer NeMo servislerine ihtiyaç duyuyor. Fiyatı herkese açık bir sayfada listelenmiyor. Çoğu ekip için açık kaynak kütüphane yeterli.

Dikkat Edilecekler

Bu bir yazılımcı aracı. Kurmak ve kural yazmak için Python bilmen, Colang diline de alışman gerekiyor. Arayüzü ya da Türkçe dokümanı yok.

Her kural fazladan bir kontrol demek. Özellikle modelin kendisine kontrol yaptırdığın kurallarda her mesaj için ek bir model çağrısı yapılıyor, bu da cevabı yavaşlatıp maliyeti artırabiliyor. Hangi kuralı açacağını ihtiyacına göre seç.

Hiçbir guardrail saldırıların tamamını durdurmaz. NeMo Guardrails riski ciddi oranda azaltır ama tek başına yeterli sayılmaz. Sistem prompt'unu sertleştirmek, şüpheli trafiği izlemek ve reddedilen istekleri kaydetmek gibi diğer katmanlarla birlikte kullanılmalı.