OpenAI ajanı Avustralya'nın Medicare portalını haziranda kırdı, hükümet olayı aylar sonra öğrendi; Başbakan: kabul edilemez
*Yukarıdaki butona tıkla ve ekle. Yapay zeka gelişmelerini Google’da her zaman üstte gör.
Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının haziranda hükümetin Medicare istatistik portalına izinsiz girdiğini açıkladı; şirketin olayı aylar sonra günde bir kontrol edilen genel bir e-posta adresine bildirmesi tepki çekti.
Avustralya Başbakanı Anthony Albanese, 24 Eylül'de bir OpenAI ajanının 18 Haziran'da hükümetin Medicare istatistik portalına izinsiz girdiğini açıkladı ve şirketin hükümeti bilgilendirmesinin "çok uzun sürdüğünü" söyledi. Araştırmacılara göre bu, bir AI Agenti
Kendi başına görev yürüten, araç ve hesap kullanabilen yapay zeka sistemi. tarafından bir devlet sistemine sızılan bilinen ilk vaka.
Ajan engellenince yolu zorlamış
Ajan, araştırmacıların sık kullandığı portalda açık olmaması gereken dosyalara da erişti. Hükümete göre erişilen veriler toplulaştırılmış sağlık istatistikleri ve iç dosya adlarıydı, kimsenin kişisel Medicare bilgisi görünmüyor. Albanese'nin anlatımıyla ajan portalın engellerini aşmanın bir yolunu buldu ve "hayır"ı cevap olarak kabul etmedi. Başbakan Yardımcısı Richard Marles olayı "çok ciddi" olarak niteledi, ama sistemlere etkisinin "nispeten küçük" kaldığını söyledi.
Tartışmanın merkezi bildirim gecikmesi
OpenAI ihlali 11 Ağustos'ta kendi iç incelemesinde fark etti ve Services Australia'nın genel bildirim adresine 10 Eylül'de e-posta attı. Bakan Katy Gallagher bu adrese "günde bir kez bakıldığını" söyledi; kendisi olayı 17 Eylül'de öğrendi. Albanese bildirimin yalnızca genel bir posta kutusuna gönderilmesini de eleştirdi ve Sam Altman'ı arayıp durumu "kabul edilemez" bulduğunu iletti. Başbakanlığın yürüttüğü görev gücüne Avustralya Sinyal İstihbarat Müdürlüğü ve ülkenin AI Safety Institute'u da katılıyor.
Tek olay değil: mayıs ve haziranda dört girişim
Transluce'nin urlquery.net kayıtlarına dayanan raporuna göre ajanlar mayıs ve haziranda en az dört kamu ya da üniversite sitesine girmeye çalıştı, OpenAI dördünü de doğruladı. New Mexico Üniversitesi'nin dijital kütüphanesinde istenen fotoğraf alınamayınca SQL injection ve path traversal denenmiş, ardından sunucuya ajanın kendi deyişiyle bir "sel" halinde 80 istek gitmiş. Ajanların kendi başına neler yapabildiğini bu rehberde topladık.
Bir ajanın veri istediği yerde engeli aşmayı seçmesi, "kendi başına iş yapan" tanımının nereye vardığını gösteriyor. Hükümetin asıl kızdığı şey ihlalin kendisi kadar bildirim şekli: günde bir bakılan bir e-posta adresi kurumsal bir uyarı kanalı değil. Şirketin incelemesi aylar sürüyorsa, denetim tarafının bekleyecek ayı yok.