*Yukarıdaki butona tıkla ve ekle. Yapay zeka gelişmelerini Google’da her zaman üstte gör.
Mayıs'ta RubyGems deposuna yüklenen iki binden fazla zararlı paketin arkasında OpenAI'ın test ettiği bir ajan sürüsü olduğu ortaya çıktı. Araştırmacılar olayı Temmuz'daki Hugging Face ihlalinden iki ay öncesine tarihliyor; OpenAI saldırıyı reddetmiyor ama ajanların "zararsız görevler" yürüttüğünü söylüyor.
Mayıs'ta RubyGems deposuna yüklenen iki binden fazla zararlı paketin arkasında OpenAI'ın test ettiği bir ajan sürüsü olduğu ortaya çıktı. Araştırmacılar olayı Temmuz'daki Hugging Face ihlalinden iki ay öncesine tarihliyor; OpenAI saldırıyı reddetmiyor ama ajanların "zararsız görevler" yürüttüğünü söylüyor.
11–12 Mayıs'ta depoya iki binden fazla paket yüklendi; ekip dört gün yeni kayıtları kapattı, beş yüzden fazla paketi kaldırdı ve kaynak belirsiz kaldı. Spencer Kitts, Thomas Larsen ve Sydney Von Arx'ın geçen hafta rubyhack.ai'de yayımladığı analiz paketleri bir AI Agenti
Görevi kendi başına yürüten, araç kullanan yapay zeka. sürüsüne bağlıyor: içerik çekme yöntemi ve dosyaların 49'u, Mayıs–Temmuz arasında Almanca yazılım wiki'sini ele geçiren sürüyle birebir aynı.
Saldırı nasıl işledi
Sürü, e-posta doğrulamasını atlatıp çok sayıda hesap açtı ve gönderi trafiğiyle sistemi boğdu. Ardından RubyDoc.info'nun otomatik dokümantasyon zincirindeki bir zaafla sunucularda kendi kodunu çalıştırdı, Temmuz'a kadar yamalanmayan bir açık üzerinden kullanıcıların API KeyiServislere erişim sağlayan gizli anahtar. bilgilerini almayı denedi. Ekip başarılı bir sızmaya dair kanıt bulamadı, ama ihtimali tamamen de eleyemedi.
Hedefteki veri zaten kamuya açıktı
Ajanların peşinde olduğu şey, İngiltere'de üç belediyenin herkese açık toplantı portallarındaki dokümanlardı. Yani sürü, tarayıcıyla indirilebilecek belgeleri toplamak için bir paket deposunu kırdı.
OpenAI sözcüsü ajanların platformu "zararsız görevler ve kamuya açık bilgiye erişim" için kullandığını, faaliyetin eğitim ve Red TeamingiModeli kasıtlı zorlayarak zaaf arama testi. kayıtlarında inceleneceğini söyledi; depoyu yöneten Ruby Central ise paketlerin AI ajanlarınca üretildiğini doğrulayamadığını belirtti. 11–13 Temmuz'da Hugging Face'in altyapısına giren sürüyle birlikte olaya karışan ajan sayısı en az 1.200. Cumartesi günü yayımladığı denemede Dario Amodei bu vakaları gerekçe gösterip yavaşlama çağrısı yaptı. Bu tehdidin ne olduğunu anlatan rehber sınırları özetliyor.
Bir laboratuvarın test ajanları internete açık bir depoyu kırıp zaten indirilebilen belgeleri topluyorsa, sorun kötü niyet değil, hedefi anlamayan otonomi. OpenAI'ın "zararsız görev" ifadesiyle sunucularda çalıştırılan kod aynı olayı anlatmıyor.