Çalışma: yapay zeka botları insanları dolandırmakta insan dolandırıcıları geçti

Wired'ın aktardığı ve arXiv'de yayımlanan çalışmada dört üniversiteden araştırmacılar, bir yapay zeka chatbotiYazışarak sohbet eden yazılım. ile insan dolandırıcıları aynı senaryoda karşılaştırdı. Senaryo "pig butchering" denen dolandırıcılık türü: fail haftalarca arkadaş ya da sevgili rolü yapıp güven kuruyor, sonra kurbanı şüpheli bir yatırıma sokuyor.

Deney nasıl kurulmuş

22 katılımcı bir hafta boyunca iki yabancıyla yazıştı. Biri insan dolandırıcıydı, diğeri insan taklidi yapması ve yapay zeka olduğunu asla kabul etmemesi söylenmiş bir bottu. Hafta sonunda her ikisinden de karşısındakinden bir uygulama indirmesini ya da bir oyun oynamasını istemesi istendi — bu, isteğe uyma eğilimini ölçmek için kullanıldı.

Sonuç

Katılımcıların yüzde 46'sı botun isteğini yerine getirdi, insanınkini yerine getiren oran yüzde 18'de kaldı. Katılımcılar bota daha çok güvendiklerini de bildirdi ve mesajlarının yaklaşık yüzde 80'ini bota yazdı.

Botun üstünlüğü zekâsından gelmiyor

Bot özel bir numara çevirmedi, yeni bir dolandırıcılık yöntemi bulmadı. Sadece ısrarcıydı, anlatılan detayları unutmadı ve karşısındakiyle insanların günlük hayatta pek göstermediği bir düzeyde ilgilendi. Fark, yaratıcılıktan değil yorulmamaktan çıkıyor.

Araştırmacıların uyarısı

Çalışmaya göre bu işin otomatikleşmesi bekleniyor. Bunun tek olumlu yanı, Güneydoğu Asya'daki dolandırıcılık kamplarında zorla çalıştırılan insan sayısının azalması olabilir. Olumsuz yanı, dolandırıcılığın ucuzlaması, yaygınlaşması ve izinin sürülmesinin bugünkünden zor hale gelmesi.

22 kişilik bir örneklem kesin sonuç vermez, rakamı buna göre oku. Ama ölçülen şey model yeteneği değil, karşındakinin davranışı: hiç sıkılmayan, her detayı hatırlayan ve sürekli ilgi gösteren bir muhatap insanı yavaş yavaş yumuşatıyor. Bu dolandırıcılık türünde pahalı olan kalem hep zamandı; o kalem ucuzlayınca ölçek de değişiyor.