Anthropic açık ağırlıklı modelleri yasaklamayı savunmuyor

Son günlerde Çin menşeli açık ağırlıklı modellerⁱağırlıkları herkese açık yayınlanan, indirilip yerel çalıştırılabilen modeller üzerine büyük bir tartışma başladı. Bazı ABD yetkililerinin bu modellerin ABD şirketlerince kullanımını yasaklamayı değerlendirdiği bildirildi; buna karşılık NVIDIA öncülüğünde birçok teknoloji şirketi açık ağırlığı savunan bir mektup imzaladı. Anthropic'in kendi işini korumak için yasak istediğini öne sürenler de oldu. CEO Dario Amodei bu suçlamayı net biçimde reddediyor: şirket böyle bir yasağı hiç savunmadı, tehlikeli yetenekleri olmayan açık modelleri ise kamu yararı olarak görüyor. Açık ve kapalı modeller arasında ne zaman hangisini tercih etmen gerektiğini bu karar rehberinde ele aldık.

İki temel kaygı

Amodei'nin asıl endişesi iki senaryoda toplanıyor. Birincisi, otoriter devletlerin — başta Çin Komünist Partisi — ABD'den daha güçlü modeller kurup kalıcı askeri üstünlük ya da derin bir baskı aracı olarak kullanması. Ona göre bu tehdidin modelin açık ya da kapalı olmasıyla, hatta ABD şirketlerinin kullanıp kullanmamasıyla ilgisi yok; en tehlikeli model gizlice eğitilip yalnızca orduya verilen model olabilir. İkincisi, güçlü modellerin siber veya biyolojik saldırılarda kötüye kullanılması ve ciddi alignmentimodelin insan amaçlarıyla hizalı davranması sorunları taşıması. Açık modeller burada daha riskli çünkü guardrail eklemek ve kullanımı izlemek zor, üstelik ağırlıklar bir kez yayınlandı mı geri çekilemiyor. Ama ABD şirketlerine yasak koymak bunu çözmüyor — kötü niyetli aktörler zaten meşru ABD şirketi değil.

Yasak yerine önerilen üç önlem

Amodei'nin savunduğu yol farklı. Güçlü çiplerin ve çip üretim ekipmanının Çin'e satılmaması, kaçakçılık ve baypas yöntemlerine karşı sıkı önlem alınması; çünkü scaling lawsimodel gücünün veri, parametre ve hesap gücüne göre öngörülebilir artışı gereği Çin, ABD çipleri olmadan daha güçlü model kuramıyor. Sanayi ölçekli distilasyonⁱbüyük bir modelin çıktısıyla daha küçük ve ucuz model eğitme operasyonlarının engellenmesi; bu yöntem Çin'in çip yasağını kısmen aşıp frontier'ı ABD'ye birkaç ay mesafeye getirebiliyor. Son olarak, yeterince güçlü tüm modellerin — açık ya da kapalı fark etmeksizin — yayın öncesi zorunlu güvenlik testinden geçmesi.

Açık mektuba kısmi itiraz

Amodei imzalanan açık mektubun birçok noktasına katılıyor: açık ağırlık AI ekonomisine erişimi genişletiyor, rekabeti güçlendiriyor, kullanıcıya kontrol veriyor. Ancak "açık ağırlık her zaman savunmayı kolaylaştırır" ya da "yeteneğe geniş erişim savunanı saldırandan çok kazandırır" iddialarına katılmıyor. Özellikle biyolojide saldıranın yapısal bir avantajı olabileceğinden endişeli ve bu tür soruların önden varsayılmak yerine titiz yayın öncesi testlerle yanıtlanması gerektiğini söylüyor.

Buradaki asıl mesaj "açık model kötü" değil, tam tersi: mesele çip ve test. Bir modeli indirip kendi makinende çalıştırman kimsenin gündeminde bile değil; dert, otoriter bir devletin gizlice orduya verdiği model. Zayıf tarafı şu: "güvenlik testi küresel olmalı, Çin de dahil" diyor ama bunun nasıl işleyeceği belirsiz, iyi niyetli bir temenni gibi duruyor. Senin için pratik sonuç: yerel açık modellerle çalışıyorsan bu tartışma seni doğrudan kısıtlamıyor, ama "yeterince güçlü model" tanımı yasalaşırsa ilerideki büyük açık modellerin çıkış hızını etkileyebilir.