Anthropic kullanım politikasını güncelledi: Claude'a "istismar veya zalimce davranış" yasaklandı, etki operasyonu ve gözetim kuralları netleşti

Anthropic, her yıl yenilediği kullanım politikasının yeni sürümünü 8 Ekim'de yayımladı; değişiklik 12 Kasım'da yürürlüğe girecek. Şirkete göre güncellemenin büyük kısmı mevcut kuralları netleştiriyor. Öne çıkan başlıklar: etki operasyonları, seçim ve gözetimde değişen kurallar, bir de kullanıcıların modele davranışını düzenleyen yeni bir madde.

Modele sürekli kötü davranmak artık politika ihlali mi?

Yeni maddede Anthropic, modellerine yönelik "sürekli ve gereksiz istismar veya zalimce davranışı" yasaklıyor. Sınır dar: kural yalnız aşırı vakalarda, kullanıcı tekrar tekrar ve görünür bir amaç olmadan zalimce davrandığında işleyecek. Sıradan kullanıcı siniri, itiraz, karanlık yaratıcı temalar, model testi ve araştırması kapsam dışı. Madde aslında var olan bir uygulamayı yazıya döküyor: Claude modelleri Claude.ai ve Claude Code'da, sürekli istismar eden kullanıcılarla yapılan nadir konuşmaları zaten sonlandırabiliyor. Anthropic bu yeteneği kuralın asıl uygulama aracı olarak gösteriyor.

Yasaklar tek çatı altında toplandı

Güncellemenin asıl işi sahte hesaplarla yürütülen etki operasyonları. Anthropic, devlet medya kuruluşlarının, hükümet propaganda ofislerinin ve ticari firmaların Claude'u sahte hesap ağları ve uydurma haber siteleri işletmek için kullandığı örnekler gördüğünü söylüyor. Seçim, dolandırıcılık, gizlilik ve dezenformasyon bölümlerine dağılmış yasaklar artık "Aldatıcı Kampanyalara veya Yapay Etkinliğe Katılma" başlıklı tek bölümde. Seçim bölümü de "Demokratik Süreçleri Zedeleme" adını aldı; kişiselleştirilmiş oy ve kampanya hedeflemesine yönelik genel yasak kaldırıldı, aldatıcı ya da veriyi kötüye kullanan hedefleme ise diğer bölümlerde yasak olmaya devam ediyor.

Silah ve gözetim maddeleri netleşti

Silah yasakları artık silahları çalıştıran yazılım ve bileşenleri, dron ve diğer otonom araçları silahlandırmayı açıkça kapsıyor; Anthropic bunun kuralın zaten uygulanma biçimi olduğunu söylüyor. Gözetim bölümü yeniden yazıldı: kişileri rızaları dışında takip etmek, gerçek zamanlı da olsa önceden toplanmış verinin analiziyle de olsa yasak. Claude, kolluk ve ceza adaletinde kimin soruşturulacağına, tutuklanacağına veya suçlanacağına karar vermek ya da bunu önermek için kullanılamıyor. Rızaya dayalı takip, içerik moderasyonu, gazetecilik ve hukuki araştırma serbest. Modellerin guardrailsiModelin tehlikeli çıktı ve eylemlerini sınırlayan koruma kuralları. katmanının nasıl aşılmaya çalışıldığını AI jailbreak rehberimizde örneklerle anlattık.

Asıl haber teknik değil kültürel: kullanıcının modele nasıl davrandığı artık bir kullanım politikasının maddesi. Anthropic sınırı dar tutmuş ama "gereksiz zalimlik"in tanımını kimin yapacağı sorusu havada.