Llama Guard 4

Ne İçin Kullanılır?

• ✓LLM ürününde kullanıcının mesajını modele gitmeden zararlı içerik için taramak
• ✓Modelin cevabını kullanıcıya gitmeden önce kontrol etmek
• ✓Metinle birlikte gönderilen görselleri denetlemek
• ✓Kod yorumlayıcı ve araç çağrılarında kötüye kullanımı yakalamak

Llama Guard 4, Meta'nın Nisan 2025'te Llama 4 ailesiyle birlikte yayımladığı bir güvenlik modeli. Sohbet etmek için değil, kontrol etmek için yapıldı. Bir LLM ürününe gelen kullanıcı mesajını ya da modelin ürettiği cevabı okuyor ve "güvenli" ya da "güvensiz" diye karar veriyor. Güvensizse hangi kurala takıldığını da kategori koduyla söylüyor. Meta bu modeli Llama 4 Scout'tan türetti. Scout'un birden fazla "uzman" bölümden oluşan yapısını sadeleştirip 12 milyar parametreli tek parça bir modele dönüştürdü. Önceki sürüm Llama Guard 3 sadece metne bakarken, Llama Guard 4 metni ve birden fazla görseli birlikte değerlendirebiliyor. Meta'nın kendi testlerinde İngilizce metinde ve çoklu görselli istemlerde Llama Guard 3'ten daha iyi sonuç verdi. Model, MLCommons'ın tehlike sınıflandırmasını temel alan 14 kategoriye göre karar veriyor. Şiddet suçları, nefret söylemi, kendine zarar verme, mahremiyet ihlali, seçimlerle ilgili yanıltıcı içerik ve kod yorumlayıcının kötüye kullanılması bu kategorilerden bazıları. Bu sayede yapay zekâ uygulamasına ayrı bir "kontrol katmanı" olarak eklenebiliyor ve ana model kandırılsa bile zararlı cevap bu katmanda yakalanabiliyor. Bilmen gereken iki sınır var. Birincisi Türkçe: resmi olarak desteklenen diller İngilizce, Fransızca, Almanca, Hintçe, İtalyanca, Portekizce, İspanyolca ve Tayca. Türkçe metinlerde başarısını kendin test etmelisin. İkincisi, bu bir jailbreak dedektörü değil. Meta da modelin prompt injection saldırılarıyla atlatılabileceğini söylüyor ve saldırı tespiti için ayrı bir model olan Prompt Guard 2'yi öneriyor. Benzer işi yapan seçeneklerle kıyaslarsak: OpenAI Moderation API ücretsiz ama kapalı bir servis, verin OpenAI'a gidiyor. Llama Guard 4'ü ise kendi sunucunda çalıştırıp veriyi dışarı çıkarmadan kullanabiliyorsun. Akış kontrolü ve jailbreak tespiti de istiyorsan NVIDIA'nın NeMo Guardrails kütüphanesiyle birlikte kullanılabiliyor.

En Yakın Alternatif

Gerekli Programlar

Açık ağırlıklı bir modeli kendi bilgisayarında çalıştırmak için bir model yöneticisi gerekir. İkisi de ücretsiz, ikisi de Windows, Mac ve Linux'ta çalışır.