Donald Trump'ın yetişkin filmi yıldızı Stormy Daniels'a sus payı ödemesi yaptığı gerekçesiyle ifade vereceği soruşturmada tutuklanacağını söylemesi ülkede alarm durumuna geçilmesine neden oldu. Tartışmalar devam ederken, açık kaynaklı araştırma kuruluşu Bellingcat'in kurucusu Eliot Higgins bir yapay zeka sanat üreticisine başvurdu ve Trump tutuklanırken yere düşüyor gibi basit komutlar verdi. Elde ettiği sonuçları Twitter'da paylaştı. Higgins paylaşımının altında "Trump'ın tutuklanmasını beklerken Trump'ın tutuklanma anının fotoğraflarını çekiyorum" ifadelerini kullandı.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
İki gün sonra, hiç gerçekleşmemiş bir olayı tasvir eden paylaşımlar yaklaşık 5 milyon kez görüntülendi. Washington Post'un haberine göre, Higgins bir röportajında "Sadece dalga geçiyordum. Belki beş kişi retweet eder diye düşünmüştüm" dedi.
Bu durum yapay zeka tarafından üretilen görüntülerin ortalığı karıştırması, kullanılmadaki kolaylığı ve değişken haber ortamlarında kafa karışıklığı yaratma potansiyeli konusunda fikir sahibi olunmasını sağladı. Aynı zamanda yapay zekanın yalan haber yaratmak ve yaymak için kullanılmasına yönelik kurumsal standartların ya da hükümet düzenlemelerinin eksikliğini de ortaya koydu.
"İnanılmaz derecede kabiliyeti olduğu bir noktadayız"
ABD Senatosu İstihbarat Komitesi Başkanı Senatör Mark R. Warner "Devlet politikasını belirleyenler yıllardır medyanın dezenformasyon yaymak ve genel anlamda kafa karışıklığı ile nifak tohumları ekmek için kötüye kullanılabileceği konusunda uyarılarda bulunuyorlardı. Yapay zekanın gelişmesi birkaç yıl almış olsa da şu anda bu araçların yaygın olarak kullanılabildiği ve inanılmaz derecede kabiliyetli olduğu bir noktadayız" dedi.
"Yazılımcılar potansiyel sorunların farkında olmalı"
Warner, yazılımcıların gerçekleşebilecek potansiyel sorunların farkında olmaları gerektiğini söyledi. Eğer ürün öngörülebilir zararları doğrudan veriyorsa, çıkacak problemlerden sorumlu tutulabileceklerini dile getirdi. Ancak söz sahibi kişilerin de yapması gereken işler olduğunu söyleyen Warner, firmaların yapay zekanın tehlikelerini ele almalarını sağlamak için yeni yükümlülükler getirilmesi çağrısında bulundu.
Platformların politikaları tutarsız
Bu tür görüntülerin yayıldığı çevrimiçi platformların konuyla ilgili tutarsız politikaları var. Bir Meta sözcüsü, Twitter'dan hızla diğer platformlara sıçrayan görüntülerin, fotoğraf paylaşım uygulaması Instagram da dahil olmak üzere hizmetlerinde doğruluğunun kontrol edildiğini iddia etti. Higgins ortaya çıkardığı görsellerin karşılığında bir cezaya çarptırıldı. Ancak cezasını görüntüleri ürettiği Midjourney verdi. Higgins çarşamba günü bir açıklama yapmadan Midjourney'nin sunucusundan engellendiğini söyledi.
"Sahte ama inandırıcı görsellerde dev adım"
Trump hafta sonu sosyal paylaşım sitesi Truth Social'da salı günü tutuklanmayı beklediğini yazarak destekçilerini sokağa çağırdı ve ortaya çıkan bu görsellere kısmen herkesi hazırlamış oldu. Higgins Trump görüntülerini yaymaya başladığında bunların sahte olduğunu açıkça belirtti. Ancak Higgins'in internet üzerinden yaymayı başardığı görseller insan hakları örgütü Witness'ın yönetici direktörü Sam Gregory'ye göre sahte ama inandırıcı görseller yaratma becerisinde dev bir adım atıldığını gösteriyor. Bunun kandırmak amacıyla nasıl koordineli bir şekilde yapılabileceğini görmek çok kolay" dedi.
— No Context French 🇫🇷 (@nocontextfre) March 21, 2023
Deepfake videolar giderek yayılıyor
Geçen ay Twitter'da Senatör Elizabeth Warren'ın Cumhuriyetçilerin oy kullanmasına izin verilmemesi gerektiğini iddia ettiği sahte bir video yayıldı. Twitter bunu değiştirilmiş ses olarak nitelendirdi ve sahte materyali dolaşıma sokan ana hesaplardan biri daha sonra askıya alındı. Aktivist Jack Posobiec, ABD Başkanı Joe Biden'ın Rusya'nın Ukrayna'daki saldırısına karşılık vermek üzere bir askeri taslak ilan ettiğini gösteriyor gibi görünen bir video tweetlediğinde, bunu gelecek şeylerin önizlemesi olarak nitelendirdi. Twitter bu görüntü için "Gösterilen video yapay zeka (AI) yardımıyla oluşturulmuş bir 'deepfake'tir" ifadelerini kullandı.
Paylaşımların ucu açık bırakıldı
Büyük teknoloji şirketleri, 2019 yılında Temsilciler Meclisi Başkanı Nancy Pelosi'nin çarpıtılmış bir videosunun sosyal medyada hızla yayılmasının ardından deepfake'lere karşı politikalarını güçlendirdi. Ertesi yıl Meta, kullanıcıların yüksek oranda manipüle edilmiş videolar yayınlamasını yasakladı ancak parodi veya hiciv amaçlı manipüle edilmiş videolar için kapıyı açık bıraktı. Twitter ayrıca, kullanıcıların şiddete yol açabilecek tweetler, yaygın sivil huzursuzluk veya birinin mahremiyetini tehdit eden tweetler gibi zarar verebilecek aldatıcı ve manipüle edilmiş medyayı paylaşmalarını yasaklayan yeni bir kural getirdi.
Medya savunuculuğu grubu Free Press'in eş CEO'su Jessica González, sektördeki yaygın işten çıkarmaların ardından teknoloji devlerinin deepfake'ler ile mücadele etmek için daha az donanımlı olduklarını söyledi. Meta, Google ve Twitter son aylarda on binlerce çalışanı toplu olarak işten çıkardı. Elon Musk, ekim ayında Twitter'ın başına geçtiğinden bu yana, platformun nefret söylemine karşı politikalarını yumuşattı. Aşırılık yanlısı influencer'ları geri getirdi ve işgücünde ciddi kesintiler yaparak şirketin içerik denetleme uygulamalarını azalttı.
