Ontario Denetimi: Doktorların Yapay Zeka Not Sistemleri Hatalı
Kanada Ontario eyaletindeki denetim, sağlıkta AI kullanımının ne kadar riskli olabileceğini gösterdi. AI not sistemlerinin yüzde 60ı reçeteleri karıştırıyor, hastalara olmayan tedaviler öneriyor.
Kanada Ontario eyaletinde yapılan bir denetim, sağlık sektöründe kullanılan yapay zeka not alma sistemlerinin ne kadar hatalı olabileceğini gözler önüne serdi. Ontario Eyalet Denetçisi Ofisi tarafından yapılan incelemede, onaylı 20 AI Scribe sisteminin yüzde 60ının hastalara yazılan reçeteleri karıştırdığı tespit edildi.
Denetim kapsamında, sağlık çalışanlarının kullandığı bu sistemler simüle edilmiş doktor-hasta görüşmeleriyle test edildi. Ardından tıbbi uzmanlar, orijinal kayıtları AI tarafından oluşturulan notlarla karşılaştırarak doğruluğu değerlendirdi.
Sonuçlar oldukça çarpıcı: 20 sistemden 9u, görüşmelerde hiç konuşulmamış bilgiler uydurdu ve hastaların tedavi planlarına olmayan öneriler ekledi. Rapora göre, değerlendirmeciler örneklerde potansiyel olarak yıkıcı yanlış bilgiler tespit etti.
Bu bulgular, Ontario Kamu Hizmetleri tarafından AI kullanımına ilişkin daha geniş kapsamlı bir raporun parçası olarak yayınlandı. Raporda özellikle Sağlık Bakanlığının başlattığı AI Scribe programı mercek altına alındı. Bu program, doktorlar, hemşireler ve diğer sağlık profesyonelleri tarafından kullanılıyor.
Denetim, AI sistemlerinin kritik durumlardaki güvenilirliği konusunda ciddi soru işaretleri oluşturuyor. Özellikle reçete karıştırma gibi hataların hastalar için hayati risk taşıyabileceği vurgulanıyor.