Anthropic, araştırmayı hızlandırma eşiğine ulaştığını açıkladı: karar geleceğe de bakıyor

Anthropic, 10 Kasım tarihli güncellenmiş halka arz başvurusunda, kendi güvenlik politikasındaki yapay zeka araştırma ve geliştirme eşiğine ulaştığına karar verdiğini açıkladı. Şirket, bu kararı mevcut modellerde gözlemlediklerinden çok gelecek modellerden beklediği yeteneklere ve genel ilerleme hızına dayandırıyor.

Eşiğe ulaşmak ne anlama geliyor?

Responsible Scaling Policy, şirketin daha güçlü modeller için hangi güvenlik önlemlerini değerlendireceğini belirleyen politika. Araştırma eşiğinde yalnızca gözlenen ilerleme değil, beklenen ilerleme de hesaba katılıyor. Bu nedenle açıklama, mevcut bir modelin araştırma sürecinin tamamını kendi başına yürütebildiği şeklinde okunmamalı.

Şirket, eşiğe ulaşmanın sonuçlarını değerlendirmeyi sürdürdüğünü ve yeni raporlar yayımlayacağını belirtiyor. AI SafetyiYapay zekanın zarar vermeden çalışmasını sağlamaya yönelik araştırmalar ve önlemler. açısından soru, yetenek artışıyla güvenlik önlemlerinin aynı hızda ilerleyip ilerlemediği.

Bağımsız raporun bulgusu ve sınırı

METR'in 5 Kasım tarihli değerlendirmesi, şirketin model yeteneklerini ölçen AECI göstergesindeki ilerlemenin Ekim 2025 öncesine göre yaklaşık 1,9 kat hızlandığını hesaplıyor. Bu ölçümün yüzde 95 güven aralığı 1,5–2,8 kat. Rakam, bütün araştırma işlerinin aynı oranda hızlandığını göstermiyor.

Rapor özellikle iyi tanımlanmış, sonucu ölçülebilen görevlere dayanıyor. METR, hızlanmanın ne kadarının yapay zekadan kaynaklandığında belirsizlik olduğunu ve bazı önemli kanıtların şirketin gizlilik talebiyle yayımlanmadığını da belirtiyor. Bu sınırlar, raporun sonucuyla birlikte okunmalı.

Buradaki önemli ayrım, ölçülen ilerlemeyle geleceğe dönük beklenti arasında. Araştırmanın hızlanması tek başına güvenli ilerlediğini göstermiyor. Kamuya açık kanıtların kapsamı, dışarıdan yapılabilecek denetimin de sınırını çiziyor.