New York Times yazdı: OpenAI araştırmacılar için deepfake dedektörünü yayınladı

Cade Metz ve Tiffany Hsu / The New York Times

Uzmanlar yapay zeka tarafından üretilen görüntü, ses ve videoların sonbaharda yapılacak ABD seçimlerini etkileyebileceği konusunda uyarırken OpenAI, kendi popüler görüntü üreticisi DALL-E tarafından oluşturulan içeriği tespit etmek için tasarlanmış bir araç yayınlıyor. Ancak önde gelen yapay zeka girişimi, bu aracın gelecek aylarda ve yıllarda sözde derin sahtekarlıklarla mücadele etmek için ihtiyaç duyulabileceklerin yalnızca küçük bir parçası olacağını da belirtiyor.

Salı günü OpenAI, yeni deepfake dedektörünü küçük bir grup dezenformasyon araştırmacısıyla paylaşacağını, böylece aracı gerçek dünya koşullarında test edebileceklerini ve geliştirilebilecek yolları belirlemeye yardımcı olabileceklerini söyledi. Güvenlik ve politika konularına odaklanan OpenAI araştırmacısı Sandhini Agarwal, "Bu yeni araştırmaları başlatmak için buna gerçekten ihtiyaç var" dedi.

Yüzde 98,8'ini doğru ayırıyor

OpenAI, yeni dedektörünün görüntü oluşturucusunun en son sürümü olan DALL-E 3 tarafından oluşturulan görüntülerin yüzde 98,8'ini doğru bir şekilde tanımlayabildiğini aktardı. Ancak şirket, aracın Midjourney ve Stability gibi diğer popüler üreticiler tarafından yapılan görüntüleri tespit etmek için tasarlanmadığını söyledi. Bu tür bir deepfake dedektörü olasılıklara dayandığı için asla mükemmel olamaz. Bu nedenle, diğer birçok şirket, kar amacı gütmeyen kuruluş ve akademik laboratuvar gibi OpenAI de sorunla başka yollarla mücadele etmeye çalışıyor.

Teknoloji devleri Google ve Meta gibi şirket de dijital içerik için kimlik bilgileri geliştirme çabası olan Coalition for Content Provenance and Authenticity'nin (C2PA) yönlendirme komitesine katılıyor. C2PA görüntüler, videolar, ses klipleri ve diğer dosyalar için ne zaman ve nasıl üretildiklerini veya değiştirildiklerini gösteren bir tür etiket.

İçeriklere yönelik baskı

OpenAI ayrıca yapay zeka tarafından üretilen seslerin o anda kolayca tanımlanabilmesi için filigranlama yolları geliştirdiğini söyledi. Şirket bu filigranların kaldırılmasını zorlaştırmayı umuyor. OpenAI, Google ve Meta gibi şirketlerin öncülük ettiği yapay zeka endüstrisi, ürünlerinin ürettiği içeriğin hesabını verme konusunda giderek artan bir baskıyla karşı karşıya. Uzmanlar, endüstriyi kullanıcıların yanıltıcı ve kötü niyetli materyaller üretmesini önlemeye ve bunların kaynağını ve dağıtımını takip etme yolları sunmaya çağırıyor.

Dünyanın dört bir yanında büyük seçimlerin yapıldığı bir yılda, yapay zeka içeriğinin akışını izlemenin yollarına yönelik çağrılar giderek daha umutsuz hale geliyor. Geçtiğimiz aylarda, ses ve görüntüler Slovakya, Tayvan ve Hindistan gibi yerlerde siyasi kampanya ve oylamayı etkiledi. OpenAI'ın yeni deepfake dedektörü sorunu çözmeye yardımcı olabilir ancak tamamen çözemeyecektir. Agarwal'ın da belirttiği gibi: Deepfake'lere karşı mücadelede sihirli bir değnek yok.