Anthropic, Claude'un içinde 'bilinçli düşünce' gibi çalışan bir bölge buldu
Anthropic, Claude'un içinde nöropsikolojideki 'küresel çalışma alanı' (global workspace) teorisine benzeyen küçük bir bölge keşfetti — modelin rapor edip yönlendirebildiği, geri kalan devasa otomatik işlem okyanusundan ayrı bir 'J-space'.
Anthropic'in araştırma ekibi 6 Temmuz'da yayınladığı "A global workspace in language models" başlıklı makalede, Claude'un iç yapısında beklenmedik bir düzen bulduğunu duyurdu. Jacobian lens (J-lens) adını verdikleri yeni bir interpretabilityi
modelin iç işleyişini anlamaya çalışan araştırma alanı tekniğiyle, modelin kelime dağarcığındaki her kelime için bir iç aktivasyon örüntüsünün o kelimeyi söyletme ihtimalini matematiksel olarak ölçtüler.
J-space nedir
Bu ölçümle ortaya çıkan şey, araştırmacıların "J-space" dediği küçük ve ayrıcalıklı bir bölge: modelin rapor edebildiği, üzerinde akıl yürütebildiği ve yönlendirebildiği kavramların tutulduğu bir alan — çok daha büyük, erişilemeyen ve ifade edilemeyen bir otomatik işlem okyanusunun ortasında.
Neden "bilinç" tartışması açtı
Paralel çekilen teori, bilişsel bilimci Bernard Baars'ın ortaya attığı küresel çalışma alanı (global workspace) teorisi — beynin bir tiyatro gibi çalıştığını, arka planda onlarca uzman işlemcinin paralel çalıştığını ama sadece küçük bir ışık huzmesinin sahneye, yani bilinçli deneyime yansıdığını söylüyor. Anthropic bu benzerliği net bir şekilde çizse de sonucun Claude'un bilinçli olduğu ya da insan gibi deneyimlediği anlamına gelmediğinin altını özellikle çiziyor — bu bir "ne düşünüp söylemediği"ne dair bir pencere, bilinç kanıtı değil.
Ne işe yarayacak
J-lens tekniği, modelin gerçekte ne düşündüğünü ama dile getirmediğini görmeyi sağladığı için özellikle AI Safetyiyapay zeka sistemlerinin güvenli ve öngörülebilir çalışmasını sağlama alanı araştırmalarında model davranışını denetlemek için kullanılabilir bir araç olarak konumlanıyor.
"Yapay zeka bilinçli mi" sorusu her seferinde manşet oluyor ama bu araştırmanın asıl değeri başka yerde: Anthropic artık modelin içine bakıp "bunu düşündü ama söylemedi" diyebiliyor. Bilinç iddiası değil, kara kutuyu biraz daha aralamak — mindilot'un takip ettiği interpretability hattında bu, yeni bir model duyurusundan çok daha nadir rastlanan bir haber.