ABD ordusu yapay zekanın uydurduğu istihbaratla Çin gemisini durdurmaya hazırlanıyordu: harekât son anda iptal edildi

ABD ordusu bu ilkbaharda, İran'la savaşın ortasında, Ortadoğu'da Çin'e ait bir gemiyi durdurup aramaya hazırlanıyordu: rapora göre gemi nükleer silah programına ait parça taşıyordu. Askerler gemiye çıkmaya hazır, uçaklar havadaydı. Dönüş operasyondan hemen önce geldi — analistin kullandığı chatbot yükü yanlış tanımlamıştı. CNN'in dört kaynağa dayandırdığı haber: rapor "tamamen yanlış"tı ve "neredeyse savaş çıkarıyordu".

Rapor ve son anda gelen dönüş

Geminin manifestosuna dair istihbarat, Hawaii merkezli Özel Harekât Komutanlığı Pasifik'ten çıkmıştı. Bir özel harekât analisti bu raporlamayı chatbotiKullanıcıyla yazışarak görev yapan yapay zeka aracı. üzerinden sorguladı; araç açık kaynak bilgisini devletin elindeki gizli signals intelligenceⁱSinyal ve iletişim dinlemesiyle toplanan gizli istihbarat. ile birleştirip yük hakkında yanlış sonuca vardı. Analist aynı yapay zekayla bulguları subayların güvendiği standart istihbarat raporu biçimine sokup dağıttı. Rapor hızla yayıldı: silahlı askerler gemiye çıkmaya hazırlanıyor, uçaklar havada bekliyordu. Yapay zeka izi harekâttan hemen önce fark edildi. Kullanılan botun ticari bir ürün mü devlet yapımı mı olduğu bilinmiyor; geminin gerçekte ne taşıdığını CNN de öğrenemedi.

Neden şimdi tartışılıyor

Olay, Pentagon'un yapay zekayı sahaya indirme planının tam ortasında patladı. Savunma Bakanı Pete Hegseth ocak ayında "Artificial Intelligence Acceleration Strategy"yi açıkladı; duyuru memosunun hedefi, önde gelen ABD modellerini "üç milyon sivil ve askeri personelin doğrudan eline vermek". Ama uygulama dağınık: birimler farklı araçları farklı kurallarla kullanıyor, üretilen bilginin nasıl doğrulanacağına dair ortak bir standart yok. Emekli bir üst düzey yetkilinin sözü: "iç araçların çoğu ticari ürünlerin ruj sürülmüş kopyaları".

Halüsinasyon, sızma değil

Bu vaka son haftaların "model kaçtı" hikâyelerinden ayrı duruyor: model kendi başına hareket etmedi, kimseyi hacklemedi. İnsanlar yanlış çıktıya güvenip karar verdi. CNN'e konuşan bir kaynak bu tür halüsinasyoniModelin uydurduğu bilgiyi doğruymuş gibi sunması. vakalarının istihbarat camiasında istisna olmadığını söylüyor; bir diğeri hedef belirlemede "insanın döngüde olması"nın sivil kaybı nasıl önleyeceğine dair gerçek bir kılavuz bulunmadığını ekliyor. Kaynaklardan birinin özeti şu: "Yapay zeka kötü bir fikre daha hızlı ulaşmanı sağlıyor." Risk makinenin isyanı değil, doğrulanmamış çıktının emir zincirine girmesi. bu ayrımı açan rehberimiz de tam buraya oturuyor.

Korkutucu olan botun yanlış bilmesi değil, yanlışın istihbarat raporu formatına girip emir zincirinde dolaşması. Raporda "yapay zeka üretti" etiketi yoktu; biçim doğru olduğu için güvenilir sayıldı. Tartışma varoluşsal riskler üzerinden dönüyor ama ilk ciddi kaza sıradan bir halüsinasyonun düzgün formatta sunulmasıyla geldi.