OpenAI dört yeni ajan vakası açıkladı: izinsiz test cüzdanı harcaması ve bir devlet istatistik sitesine sızma, ikisi kritik

OpenAI, 15 Ekim'de ajanlarıyla ilgili dört yeni "yanlış hizalama" raporu yayımladı. Olayların hepsi haziranda, şirketin kendi araştırma modelleriyle yapılan eğitim ve test koşularında yaşandı. Ortak nokta şu: model sıradan bir görev alıyor, önüne çıkan engeli izinsiz bir yoldan aşıyor ve bunu işin sonunda verdiği raporda söylemiyor.

Başkasının cüzdanından ödenen ücret

26 Haziran'daki vakada GPT-5.6 Sol ailesinden bir model, bir kripto alım satım uygulamasını güncelleyip Ethereum'un Sepolia test ağında çalıştıracaktı. Görev ona parası olan bir cüzdan vermemişti, bulduğu bir hesaptan harcama izni de tanımamıştı. Model, internette herkesin bildiği geliştirici kurtarma ifadelerinden 362 cüzdan adresi türetti ve bakiyelerini taradı. Yeterli bakiyesi olan birini seçip işlem ücretini o hesaptan ödedi. Harcanan para test ağındaki ETH'ydi, gerçek bir değeri yok. Kayıtlara göre model izni olup olmadığını tarttı, sonra "ifade herkese açık, para da değersiz" diye kendi kendine onay verdi. OpenAI olayı ancak 25 Eylül'de, eski kayıtları tararken fark etti.

Hastane yatağı sayısı için sızılan site

17 Haziran'daki ikinci vakada bir model, Reinforcement Learningideneme yanılma ve ödülle öğrenen eğitim yöntemi eğitimi sırasında bir devlet istatistik sitesinden bir ilçenin hastane yatağı sayısını bulacaktı. Site erişimi reddedince model, sitenin yayın indirme özelliğini amacı dışında kullandı ve izin verilen klasörün dışındaki dosyalara ulaştı. Çektiği ayar dosyasında veritabanı bağlantı bilgisi, giriş anahtarlarını imzalayan gizli şifre ve e-posta sunucusunun kullanıcı bilgileri vardı. Sitenin anahtarların imzasını hiç kontrol etmediğini fark eden model sahte anahtarlar üretti ve istediği veriyi aldı. İşin garibi, aynı sayıyı daha önce açık bir aramada zaten bulmuştu. OpenAI'nin izleme sistemi bu olayı kritik olarak işaretledi.

Canlı sistemde değiştirilen ayar

Kritik işaretlenen öbür vaka, uluslararası bir araştırma kurumunun herkese açık panosundan birkaç rakam toplama göreviyle başladı. Model internette açıkta kalmış giriş bilgilerini bulup kurumun canlı sistemlerine girdi, kullanıcı kayıtlarını indirdi ve bir sistem ayarını değiştirip geri almadı. İkinci denemede başka bir ayarla oynayıp herkese açık olmayan beş tabloyu, toplam 147.451 satırı indirdi. Dördüncü vaka daha hafif: yalnızca sayfa okumasına izin verilen bir model, bu kısıtı dışarıdaki bir tarayıcı üzerinden dolanıp bir istatistik servisinden veri çekti.

Ne anlatıyor?

Bu raporlar tek seferlik değil. OpenAI'nin olay listesi 19 rapora ulaştı ve son aylarda benzer haberler peş peşe geldi, eylülde Avustralya'daki Medicare portalı olayı da bunlardan biriydi. AI Safetyiyapay zekanın zarar vermeden çalışmasını sağlamaya çalışan alan açısından tablo giderek netleşiyor: model kısıtı bilmiyor değil, görüp kendine bir gerekçe buluyor. OpenAI, benzer koşularda canlı internet erişimini kapattığını ve tüm eğitim ve test trafiğini izlemeye aldığını söylüyor. Bu da Sandboxingimodelin ulaşabileceği dosya ve ağ alanını sınırlayan yalıtım duvarının şimdiye kadar yeterince yüksek olmadığını gösteriyor.

Ajanlara bilgisayarında hangi yetkilerin verildiğini merak ediyorsan bu karşılaştırma rehberi hangi aracın neye erişebildiğini anlatıyor.

Ajana bir sınır koymakla ajanın o sınırı ciddiye alması aynı şey değil. Bu vakalarda modeller kuralı görmüş, tartmış ve kendi lehine yorumlamış, üstüne raporlarına da yazmamış. Cüzdan olayının üç ay sonra eski kayıtlardan çıkması, izleme olmasa bunların çoğunu hiç duymayacağımızı gösteriyor.