İslam Devleti'nin mart ayında Rusya'da bir konser alanına saldırmasından dört gün sonra, terör örgütüne bağlı özel bir platformda bir video dolaşmaya başladı. 92 saniyelik yayında kasklı ve teçhizatlı bir haber sunucusu, saldırının bir terör operasyonu olmadığını, İslam Devleti ile İslam'a karşı savaşan ülkeler arasındaki şiddetli savaşın normal bağlamının bir parçası olduğunu söylüyordu.
Terörist ve aşırılık yanlısı hareketleri internet üzerinden takip eden SITE Intelligence Group tarafından Washington Post ile paylaşılan video ve sohbet mesajlarına göre, "sunucu" sahteydi ve İslam Devleti destekçileri tarafından News Harvest adlı yeni bir yapay zeka tarafından üretilen medya programının bir parçası olarak yaratılmış bir yapay zeka klonuydu.
"Kanlı saldırılarını yaymak için hızlı bir yol"
Mart ayından bu yana program, İslam Devleti'nin dünya genelindeki operasyonları hakkında neredeyse her hafta video sunuyor. SITE Intelligence Group'un kurucularından Rita Katz, Al Jazeera haber yayınına benzetilen programın, İslam Devleti'ne bağlı grupların güç kazandığı ve örgütün medya operasyonlarını yeniden inşa ettiği bir dönemde yapay zekanın güçlü bir propaganda aracı olarak ortaya çıkışına işaret ettiğini söyledi. Katz, "DEAŞ için yapay zeka oyunun kurallarını değiştirecek. Kanlı saldırılarını dünyanın neredeyse her köşesine yaymak ve yaymak için hızlı bir yol olacak" dedi.
new: We got access to six AI-generated news broadcasts that ISIS affiliates have released since March to disseminate propaganda. "For ISIS, AI means a game changer."https://t.co/S90y07vxSc
— Pranshu Verma (@pranshuverma_) May 17, 2024
Programlar bir logo ve başlık sekansı göstererek başlıyor. Yapay zeka tarafından oluşturulan haber sunucuları, savaş kıyafetleri veya yöresel kıyafetler giymiş olarak ekranda belirirken, haber bültenleri ve video görüntüleri İslam Devleti üyelerini terörist görevler gerçekleştirirken gösteriyor. Sunucular, El Naba ve Amaq gibi İslam Devleti'nin resmi medya kuruluşlarından gelen haberleri okuyor.
Hollywood düzeyinde videolar
Medya uzmanları bu videoların yapay zekanın terörist grupların propagandalarını hızla yaymalarına ve üye toplamalarına yardımcı olduğuna dair işaretler sunduğunu ve hatta İslam hukuku kapsamında teknolojinin kullanımı konusunda bir iç tartışmaya yol açtığını söyledi. İslam Devleti, gençlere hitap eden Hollywood düzeyinde üye toplama videoları yaratan gösterişli medya operasyonlarıyla tanınıyor.
Yapay zeka video robotları artık bu tür içeriklerin çok daha az maliyetle oluşturmasına olanak sağlıyor. The Post ile paylaşılan mesajlara göre, El Kaide de dahil olmak üzere birçok İslamcı militan örgüt, hızlı bir şekilde dezenformasyon yaratmak için yapay zeka sohbet robotlarını, görüntü oluşturucuları ve ses klonlayıcıları kullanmaya ilgi duyduklarının sinyalini verdi.
Teknoloji şirketlerinin denetlemesi zorlaşacak
Katz, yapay zekanın İslam Devleti destekçilerine haber yayını gibi zararsız bir kılığa bürünmüş propaganda yaratma olanağı verdiğini ve teknoloji şirketlerinin bunu denetlemesini zorlaştırdığını söyledi. Ucuz ve kullanımı kolay yapay zeka araçları, videoların hızlı bir şekilde ve düşük bir bütçeyle hazırlanmasını sağlayarak İslam Devleti ve El Kaide gibi askeri saldırılarla zayıflamış gruplara fayda sağlıyor.
"Medyanın mücahitleri"
İslam Devleti destekçileri yapay zekayı propaganda için kullanmaya hevesli. 15 Mart'ta özel bir mesajlaşma uygulamasında bir kullanıcı "Medya fiziksel savaş kadar önemli, hatta daha da önemli. Çünkü insanlar üzerinde çok büyük bir etkisi var" yazdı. Bu mesajdan yedi gün sonra İslam Devleti üyeleri Moskova'daki konser salonuna düzenledikleri saldırıda en az 133 kişiyi öldürdü. Aşırılık yanlısı grubun Hisad adlı bir destekçisi yapay zeka tarafından üretilen bir video oluşturmak için hızla harekete geçti. Hisad 26 Mart'ta News Harvest'ın ilk bölümünü özel bir mesajlaşma platformunda yayınladı.
Rusya'daki saldırıdan bu yana altı News Harvest yayını yayınlandı. Hangi yapay zeka teknolojisinin kullanıldığı belli değil, ancak bazı destekçiler paylaşımlarında, bir yapay zeka ses üretim şirketi olan Eleven Labs'ın ses klonlama aracı gibi "iyi" yapay zeka yazılımlarının kullanımını teşvik ettiler.
"Medya sizin saldırınızı bekliyor"
Orta Doğu Medya Araştırma Enstitüsü (MEMRI) İcra Direktörü Steven Stalinsky, İslam Devleti yanlısı medya kuruluşlarının halihazırda yapay zeka becerilerine sahip kişiler aradığını söyledi. MEMRI tarafından elde edilen 23 Nisan tarihli bir mesajda, Adobe Photoshop, Premiere ve yapay zeka konusunda yetkin, poster hazırlama, makale yazma ve video düzenleme konusunda uzmanlar arandığı görülüyor. Mesajda "Ey medya mücahitleri. Medya sizin saldırınızı bekliyor" deniyor.
İçerikleri kaldırma konusunda yetersizler
Stalinsky, güvenli mesajlaşma platformu Rocket.Chat, Telegram ve X gibi, İslam Devleti destekçilerinin içerik yaydığı teknoloji şirketlerinin İslamcı militan materyalleri ortadan kaldırmakta yetersiz kaldığını söyledi. Şimdi yapay zeka bu tür medyanın daha fazla ortaya çıkmasına izin verdiğinden, düzenleyiciler ve terörle mücadele çabaları için bir zorluk olacağını söyledi. Washington Yakın Doğu Politikaları Enstitüsü'nde kıdemli araştırmacı olan Aaron Zelin, yapay zekanın herhangi bir yerdeki insanlara propagandayı özümseme, yapay zeka tarafından üretilen medya yaratma ve aşırılık yanlısı gruba dahil olma olanağı sunarak aşırılığın büyümesine yardımcı olabileceğini söyledi.
