İçerik Kaynağını İzleme: OpenAI, Daha Güvenli ve Şeffaf Bir AI Ekosistemi İçin Adım Atıyor
İlgili Araçlar
OpenAI, görsel ve ses içeriklerinin kaynağını takip etmek için çok katmanlı bir sistem başlatıyor. Google ile ortaklık çerçevesinde, yapay zeka tarafından oluşturulan görselleri belirlemek için yeni araçlar sunum yapıyor.
OpenAI, yapay zeka tarafından üretilen içeriklerin kaynağını doğrulamak için çok katmanlı bir güvenlik sistemi başlattı. Şirket, C2PA standartlarına tam uyum sağlayarak, Google DeepMind ile SynthID filigranını entegre ederek ve halka açık bir doğrulama aracı yayınlayarak dijital içeriklerin güvenilirliğini artırmayı hedefliyor.
Birinci katmanda OpenAI, C2PA (Coalition for Content Provenance and Authenticity) standartlarına tam uyumlu hale geldi. C2PA, kriptografik imzalar ve meta veri kullanarak bir medya dosyasının kaynağı, nasıl oluşturulduğu ve kim tarafından imzalandığı gibi bilgileri güvenli bir şekilde içerikle birlikte taşıyan endüstri standardı bir sistem. OpenAI'nin C2PA uyumlu üretici sertifikası alması, platformların bu bilgileri güvenilir bir şekilde okuyup aktarmasını mümkün kılıyor.
İkinci katmanda OpenAI, Google DeepMind ile ortaklık yaparak SynthID filigran teknolojisini ChatGPT, Codex ve OpenAI API üzerinden oluşturulan görsellere entegre etti. SynthID, görüntüye görünmez bir filigran yerleştiriyor ve C2PA meta verisinin kırıldığı durumlarda bile tespit edilebiliyor.
Son olarak OpenAI, kullanıcıların bir görselin OpenAI araçlarıyla üretilip üretilmediğini kontrol edebileceği halka açık bir doğrulama aracının önizlemesini yayınladı.
🔴 Provenance (provenans) nedir? Dijital bir içeriğin nereden geldiğini, kim tarafından oluşturulduğunu ve nasıl bir işlemden geçtiğini gösteren köken bilgisi. Girişim, OpenAI'nin bu sorunu ekosistem tabanlı bir yaklaşımla, tek başına değil sektör iş birliğiyle çözmek istediğini ortaya koyuyor.