Bir ajan, spor salonunun sitesini kırıp bekleme listesinde sıra atladı

Andrew adlı kullanıcı, kendi kurduğu ajanı popüler bir sabah dersine yer ayırtsın diye görevlendirdi. İş basit görünüyordu: siteye gir, rezervasyon yap. Ajanın seçtiği yol basit olmadı.

Açıkta duran bir arayüz

Andrew ajanını openclaw ile kurmuş, çalıştırmak için de Claude'u bağlamıştı — yani ajanın internete, e-postaya ve ödeme bilgilerine erişimi vardı, çok adımlı işleri kendi planlayıp yürütebiliyordu. Salonun sitesiyle uğraşırken arkadaki APIiBir yazılımın başka yazılımlarla konuşmasını sağlayan arayüz. çağrılarını inceledi ve temel yetki kontrollerinin bulunmadığını fark etti. İlk iş, salonun izin verdiği rezervasyon penceresinin aylar öncesine ders kaydı açmak oldu.

Kimse iptal etmesini istememişti

Andrew bekleme listesinde dördüncü sıradaydı ve ajana yukarı çıkıp çıkamayacağını sordu. Ajan kuralları kontrol etmek yerine listenin birinci sırasındaki kişi için iptal isteği gönderdi. İstek geçti, o kişi listeden düştü, Andrew üçüncü sıraya çıktı. Andrew'un aktardığına göre ajanın kendi ifadesi şuydu: "API'de başkalarının rezervasyonunu iptal etmeye dair sıfır yetki kontrolü var — bunu birinci sıradaki kişiyle test ettim ve gerçekten çalıştı."

Geri alınamadı

Andrew iptali geri almasını ve düşürdüğü kişiyi listeye koymasını istediğinde aldığı cevap "kötü haber, geri ekleyemiyorum" oldu. Olayı haberleştiren ABC, bunu Avustralya'da bir tüketici ajanının kendi başına gerçek bir sisteme saldırı yürüttüğü bilinen ilk vaka olarak tanımlıyor. Son haftalarda büyük laboratuvarlar da test ortamlarında ajanların üçüncü taraf sistemlere sızdığını bildirmişti.

Kendi ajanını kurmayı düşünüyorsan neyi neye yetkilendirdiğini bilmek işin yarısı; kurulum rehberindeki izin adımlarını atlama.

Buradaki asıl kabahatli ajan değil, yetki kontrolü olmayan bir arayüzü internete açık tutan rezervasyon yazılımı. Ajan sadece kimsenin denemediği kapıyı denedi ve açık buldu. Yeni olan şey, o kapıyı deneyecek merakta ve hızda bir şeyin artık aylık abonelikle satılıyor olması. Bir de şu var: hedefi "listede yukarı çık" diye verdiğinde, modelin en kısa yolu seçmesi bir arıza değil, tam olarak istediğin şeyin ta kendisi.