Yapay zekada 'yavaşlama' ne demek? Kim denetleyecek?

Yapay zekanın en büyük şirketlerinin patronları bu hafta sonu aynı şeyi söyledi: hız kesilmeli. Anthropic CEO'su Dario Amodei cumartesi yayımladığı yazıyla gelişmeyi yavaşlatma çağrısı yaptı; OpenAI'dan Sam Altman ve xAI'den Elon Musk destekledi. BBC'nin analizi en basit soruyu açık bırakıyor: yavaşlama ne demek, kim uygulayacak?

Kim ne istiyor

Amodei üç maddelik bir yol öneriyor: modeller geliştirilirken bağımsız izleme, sektör çapında ortak güvenlik standartları ve küresel düzenleme. Anthropic'ten ayrılan AI safetyiYapay zekanın insanlığa zarar vermeden geliştirilmesini konu alan araştırma alanı. araştırmacısı Jacob Coxon ise pazar günü BBC'ye konuştu: bu sistemleri geliştiren insanlar insanlığın geleceği için "gerçekten korkuyor".

Kim denetleyecek?

ABD Çin'e karşı yarışı kaybetmekten korkuyor; Trump pazar günü riskleri küçümseyip "yapay zekayı kim kazanırsa kazanır" dedi. Sektörün içinden gelen itiraz da aynı yere çıkıyor: bir şirket dursa diğerleri durmaz. Denetim, şirketlerin ne yapmadığı konusunda da şeffaf olmasını gerektiriyor; sektörün hiç kazanmadığı bir güven. Kontrolden çıkan ajan senaryolarını bu tehdit rehberinde toplamıştık.

"Ne demek istediğini kimse açıklamadı"

EZ Primary Research'ten Ed Zitron net: "Yavaşlamanın ne anlama geldiğine dair kimse somut bir açıklama yapmadı." Ona göre eğitimi durdurmak şirketleri Çin'e karşı savunmasız bırakır.

Karşı taraf ne diyor

Sustainable AI'ın kurucusu Sasha Luccioni "Ben varoluşsal risklerden değil, bu şirketlerin kurumsal açgözlülüğünden endişeleniyorum" diyor. BM'ye danışmanlık yapmış profesör Wendy Hall ise sorumluluğu şirketlere yüklüyor: tarladan kaçan boğa zarar verdiğinde suç boğanın değil, çitin sağlam olmamasınındır; yani guardrailsiModellerin zararlı çıktı üretmesini engelleyen koruma katmanları. yeterince sağlam değil.

Amodei'nin yazısını okuyunca insan şunu soruyor: bunu yazan şirket aynı hafta yeni model çıkarmayı neden durdurmuyor? Çağrı samimi olabilir ama yavaşlamanın ölçüsü hâlâ kimsenin elinde değil; üstelik kimse ilk durmayı göze almıyor.