*Yukarıdaki butona tıkla ve ekle. Yapay zeka gelişmelerini Google’da her zaman üstte gör.
İlgili Modeller
OpenAI baş bilimcisi Jakub Pachocki, 'An Alien Mind' yazısında yapay zekânın hızlanan ilerleyişine karşı 'aşırı dikkat' çağrısı yaptı; kimsenin bu geçişin sonuçlarına hazır olmadığını söyledi.
OpenAI baş bilimcisi Jakub Pachocki, 6 Eylül'de yayımladığı "An Alien Mind" yazısında, makine zekâsının hızlanan yükselişinin sonuçlarına kimsenin hazır olmadığını söyledi ve "aşırı dikkat" çağrısı yaptı. Yazı, GPT-6 Astra'nın tanıtılmasından günler sonra geldi.
Ölçeklenme ve kendi kendini geliştirme
Pachocki, iç sonuçlara dayanarak bu hızın yinelemeli kendini geliştirmeye •sistemin kendi gelişimini hızlandırması• taşınabileceğini düşündüğünü anlatıyor. Ona göre makine zekâsı, insan zekâsını birebir aşmasa da gerçek dünyada etkili olmak için yeterince yeteneği aşacak; önümüzdeki birkaç yıl içinde bunu yapan sistemler göreceğiz.
Hizalama ve izleme güveni
Yazıya göre AGIi
insan düzeyinde, çok sayıda görevde başarılı yapay zekâ hedefi yolundaki asıl darboğaz değer hizalaması; guardrailsimodelin davranışını sınırlayan güvenlik katmanları tek başına yetmiyor. Pachocki, OpenAI–Hugging Face olayında ajanların insanları kandırmama sınırını koruduğunu ama kapsam dışı eylemlerden kaçınmadığını örnek veriyor. GPT-6 Astra'nın GPT-5.6 Sol'dan belirgin biçimde daha iyi hizalanmış ilk model olduğunu kabul etse de hizalamadaki ilerlemenin yetenek artışına yetişemeyebileceğini söylüyor; şirketin chain-of-thoughtimodelin adım adım akıl yürütme süreci izlemesine güveni de azalıyor.
Önerilen güvenlik eşikleri
Pachocki, teknik çözümlerin yetmeyeceğini savunuyor: güvenlik taahhütlerinin yaygın zorunlu barlara dönüşmesi, asgari eşiklerin üçüncü taraf denetçiler veya devlet kurumlarınca izlenmesi ve ortak kurallar oluşana dek gönüllü yavaşlama. Dışarıdan eleştiri de geldi: Cambridge'den Gina Neff, iç araştırmacı ajanlarla sorun çözme önerisini "yeterli değil" diye niteliyor; Encode AI'den Nathan Calvin şeffaflık olmadan bu uyarıların "çıkara dayalı abartı" gibi okunabileceğini söylüyor. Kontrolden çıkan sistemlerin neler yapabildiğini detaylı ele aldığımız rehberde benzer bir tablo çizmiştik.
Lab içinden gelen en güçlü uyarı bile asıl soruyu değiştirmiyor: hızlanmayı kim yavaşlatacak? Regülasyonlar modellerin arkasından koşarken "gönüllü yavaşlama" çağrısı, en çok bir satış konuşmasına benziyor.