Avrupa Birliği, yapay zeka tarafından üretilen içeriklerin kullanıcılar tarafından ayırt edilebilmesini sağlamak amacıyla yeni bir dönemin kapısını açtı. AB'nin Yapay Zeka Yasası kapsamında ağustos ayından itibaren yürürlüğe giren şeffaflık yükümlülükleri, gelişmiş üretken yapay zeka modelleri sağlayıcılarını kullanıcıların bir yapay zeka sistemiyle etkileşime girdiğini ve karşılarına çıkan içeriğin yapay zeka tarafından üretildiğini bilmelerini sağlayacak yöntemler kullanmaya zorluyor.
Bu gelişme, 2022'nin sonunda üretken yapay zekanın hızla yayılmasından bu yana tartışılan "fotoğrafik gerçeklik" sorununa da yeni bir yanıt getiriyor. Yapay zeka ile üretilen görüntü, video ve metinlerin gerçek içeriklerden ayırt edilmesinin giderek zorlaşması, özellikle dezenformasyon açısından endişe yaratıyordu.
Şimdi ise AB, bu konuda gönüllü girişimlerin ötesine geçerek şirketlere teknik önlemler alma yükümlülüğü getiriyor.
Anthropic, 10 Ağustos'ta yaptığı açıklamada gelecekte çıkaracağı tüm modellerin filigranlama sistemlerini destekleyeceğini duyurdu. IAPP'nin yapay zeka yönetişimi merkezinin yöneticisi Ashley Casovan, değişimin ölçeğinin sanılandan büyük olduğunu belirterek kullanıcıların artık bir içeriğin yapay zeka tarafından üretilip üretilmediğine ilişkin kendi değerlendirmelerini yapmak yerine doğrulanmış bir işaret veya ibareyle karşılaşacağını söyledi.
Yapay zeka filigranı nasıl çalışacak?
Büyük teknoloji şirketleri yeni kurallara uyum için çeşitli teknik yöntemler kullanıyor.
OpenAI, temmuz sonunda kullanıcıların internette gördükleri içerik hakkında daha fazla bağlama sahip olması gerektiğini açıkladı. Şirket, yapay zeka tarafından oluşturulan görüntülere görünmez bir işaret eklemek için Google'ın yapay zeka birimi DeepMind tarafından geliştirilen SynthID teknolojisine dayanıyor. Sistem temmuz sonunda ses içeriklerini de kapsayacak şekilde genişletildi.
Anthropic ise 2 Ağustos'tan itibaren yayımlanan Claude modellerinin metinlere "gömülü filigranlar" ekleyeceğini açıkladı.
Bu filigran, kullanıcı tarafından çıplak gözle görülemiyor ve metnin anlamını, kalitesini veya okunabilirliğini değiştirmiyor. Ancak metnin yapısına işlendiği için içerik kopyalanıp başka bir yere yapıştırıldığında da onunla birlikte hareket etmesi amaçlanıyor.
Şirketler aynı zamanda içeriklerin nereden geldiğine ilişkin bilgileri saklamak ve aktarmak için C2PA olarak bilinen, İçerik Kökeni ve Özgünlüğü Koalisyonu tarafından geliştirilen bir endüstri standardını da kullanıyor.
Asıl mesele filigranı tespit etmek
Ancak içeriğe filigran eklemek tek başına yeterli değil. Kullanıcının bu işareti görebilmesi için sosyal medya ve diğer dijital platformların da filigranları tespit ederek görünür hale getirecek sistemler geliştirmesi gerekiyor.
Cambridge Üniversitesi'nde sentetik içerik araştırmacısı ve OECD danışmanı Walter Pasquarelli, sistemin pratikte şöyle çalışabileceğini anlatıyor: Kullanıcı Claude üzerinden bir içerik oluşturacak, bunu sosyal medya platformuna yükleyecek ve paylaşım yapmadan önce platformun arayüzündeki tespit sistemleri içerikteki filigranı belirleyebilecek.
Bu durum, sosyal medya kullanıcılarının yapay zeka üretimi içeriklerle kurduğu ilişkiyi de değiştirebilir.
Pasquarelli'ye göre araştırmalar, kullanıcıların bir içeriğin yapay zeka tarafından üretildiğini öğrendiklerinde medya içerikleriyle etkileşimlerinin belirgin biçimde azaldığını gösteriyor. Bu nedenle AB'nin düzenlemesi yalnızca aldatıcı yapay zeka içerikleriyle mücadele etmekle kalmayıp internetteki düşük kaliteli, seri üretim yapay zeka içeriklerinin de azalmasına yol açabilir.
"AI slop" tartışması büyüyor
Yapay zeka tarafından düşük maliyetle ve büyük miktarlarda üretilen düşük kaliteli içerikler için kullanılan "AI slop" ifadesi de giderek yaygınlaşıyor.
LinkedIn kısa süre önce kullanıcıların "AI slop gibi görünen" gönderileri işaretleyebilmesine olanak tanıyan bir seçenek ekledi.
Pasquarelli, tartışmanın başlangıçta aldatma amacı taşıyan yapay zeka içeriklerine odaklandığını, ancak artık yapay zeka tarafından üretilen içeriklerin tamamının nasıl etiketleneceğinin konuşulduğunu belirtiyor.
Böylece AB'nin düzenlemesi yalnızca sahte veya manipülatif içerikleri işaretlemeye yönelik bir mekanizma olmaktan çıkıp, internette kullanıcıların karşısına çıkan içeriğin insan mı yoksa yapay zeka tarafından mı üretildiğini sistematik biçimde gösteren yeni bir dijital şeffaflık standardına dönüşebilir.
Kaynak: Gazete Oksijen
