NYT: OpenAI'ın yapay zekası etki kampanyalarında kullanıldı

Cade Metz / New York Times

OpenAI dünya çapında kamuoyunu aldatıcı bir şekilde manipüle etmek ve jeopolitiği etkilemek için üretken yapay zeka teknolojilerini kullanan beş çevrimiçi kampanyayı tespit ettiğini ve girişimleri bozduğunu söyledi.

OpenAI'nin gizli etki kampanyaları hakkında yayınladığı bir raporda, bu çabaların Rusya, Çin, İran ve İsrail'deki devlet aktörleri ve özel şirketler tarafından yürütüldüğü belirtildi. Bu operasyonlar OpenAI'nin teknolojisini sosyal medya paylaşımları üretmek, makaleleri tercüme etmek ve düzenlemek, başlıklar yazmak ve bilgisayar programlarında hata ayıklamak için kullandı.

İlk kez büyük bir şirket böyle bir rapor yayınladı

Sosyal medya araştırmacıları, OpenAI'nin raporunun ilk kez büyük bir yapay zeka şirketinin kendi özel araçlarının bu tür çevrimiçi aldatmacalar için nasıl kullanıldığını ortaya koyduğunu söyledi. Üretken yapay zekanın son dönemdeki yükselişi, özellikle de dünya genelinde önemli seçimlerin yapıldığı bir yılda, teknolojinin çevrimiçi dezenformasyona nasıl katkıda bulunabileceğine dair soruları gündeme getirdi.

NYT: OpenAI yeni bir yapay zeka modeli üzerinde çalışıyor

OpenAI'nin baş araştırmacılarından Ben Nimmo, bu tür kampanyalarda üretken yapay zekanın kullanımına ilişkin tüm spekülasyonların ardından, şirketin teknolojinin çevrimiçi sahtekarlığı nasıl değiştirdiğine dair gerçekleri göstermeyi amaçladığını söyleyerek "Vaka çalışmalarımız, şu anda aktif olan en yaygın raporlanan ve en uzun süredir devam eden etki kampanyalarından bazıları hakkında örnekler sunuyor" dedi.

Kampanyalar çok fazla ilgi çekmedi

Nimmo, kampanyaların siyasi içerik yayınlamak için sıklıkla OpenAI'nin teknolojisini kullandığını, ancak şirketin belirli seçimleri mi hedeflediklerini yoksa sadece insanları kızdırmayı mı amaçladıklarını belirlemekte zorlandığını söyledi. Nimmo, kampanyaların çok fazla ilgi çekemediğini ve yapay zeka araçlarının erişimlerini veya etkilerini genişletmiş gibi görünmediğini de sözlerine ekledi. Nimmo, "Bu etki operasyonları hala bir kitle oluşturmak için mücadele ediyor" dedi. Ancak Atlantik Konseyi'nin Dijital Adli Araştırma Laboratuarları'nın kıdemli direktörü Graham Brookie, üretken yapay zeka teknolojisinin giderek daha güçlü hale gelmesiyle çevrimiçi dezenformasyon ortamının değişebileceği konusunda uyardı. Bu hafta, ChatGPT sohbet robotunu üreten OpenAI, “bir sonraki yetenek seviyesini” getirecek yeni bir amiral gemisi yapay zeka modelini eğitmeye başladığını söyledi. Brookie, "Bu yeni bir araç türü. Nasıl bir etki yaratacağını göreceğiz" dedi. (New York Times, OpenAI ve ortağı Microsoft'a, YZ sistemleriyle ilgili haber içeriklerinin telif hakkı ihlali iddiasıyla dava açtı).

Doppelganger ve Spamouflage

Google, Meta ve Microsoft gibi OpenAI de sosyal medya mesajları yazabilen, gerçekçi görüntüler oluşturabilen ve bilgisayar programları yazabilen çevrimiçi sohbet robotları ve diğer yapay zeka araçları sunuyor. Şirket raporunda, araçlarının araştırmacıların yıllardır takip ettiği Doppelganger adlı bir Rus kampanyası ve Spamouflage adlı bir Çin kampanyası da dahil olmak üzere etki kampanyalarında kullanıldığını söyledi. OpenAI, Doppelganger kampanyasının OpenAI'nin teknolojisini kullanarak X sosyal platformunda İngilizce, Fransızca, Almanca, İtalyanca ve Lehçe olarak yayınlanan Ukrayna karşıtı yorumlar oluşturduğunu söyledi. Şirketin araçları ayrıca Ukrayna'daki savaşta Rusya'yı destekleyen makaleleri İngilizce ve Fransızca'ya çevirmek ve Ukrayna karşıtı haber makalelerini Facebook gönderilerine dönüştürmek için de kullanıldı.

Şirket, OpenAI'nin araçlarının Ukrayna, Moldova, Baltık ülkeleri ve Amerika Birleşik Devletleri'ndeki insanları çoğunlukla Telegram mesajlaşma servisi aracılığıyla hedef alan ve daha önce bilinmeyen bir Rus kampanyasında da kullanıldığını söyledi. Kampanyada Ukrayna'daki savaşın yanı sıra Moldova'daki siyasi durum ve Amerikan siyaseti hakkında Rusça ve İngilizce yorumlar üretmek için yapay zeka kullanıldı. Çalışmada ayrıca Telegram'a otomatik olarak bilgi göndermek üzere tasarlandığı anlaşılan bilgisayar kodunda hata ayıklamak için OpenAI araçları da kullanıldı.

YZ metnini paylaştılar

OpenAI, siyasi yorumların az sayıda yanıt ve “beğeni” aldığını söyledi. Çabalar zaman zaman karmaşık da değildi. Bir noktada, kampanya açıkça yapay zeka tarafından oluşturulmuş bir metin yayınladı. Bir gönderide “Bir yapay zeka dil modeli olarak, yardımcı olmak ve istenen yorumu sağlamak için buradayım” deniyordu. Diğer noktalarda ise kötü bir İngilizce ile yapılan paylaşımlar OpenAI tarafından "kötü gramer" olarak adlandırıldı.

OpenAI, uzun süredir Çin'e atfedilen Spamouflage'ın OpenAI teknolojisini kodda hata ayıklamak, sosyal medyanın nasıl analiz edileceği konusunda tavsiye almak ve güncel olayları araştırmak için kullandığını söyledi. OpenAI'nin araçları, Çin hükümetini eleştiren kişileri kötüleyen sosyal medya paylaşımları üretmek için de kullanıldı. Rapora göre, Uluslararası Sanal Medya Birliği adlı bir grupla bağlantılı olan İran kampanyası, OpenAI araçlarını web sitelerinde İran yanlısı, İsrail karşıtı ve ABD karşıtı duyguları yaymayı amaçlayan uzun biçimli makaleler ve başlıklar üretmek ve çevirmek için kullandı.

İsrail'in siyasi kampanyası

OpenAI'ın Zeno Zeno adını verdiği İsrail kampanyasının siyasi kampanyaları yöneten bir firma tarafından yürütüldüğü belirtildi. İsrail, Kanada ve Amerika Birleşik Devletleri'nde kullanılan sosyal medya hizmetlerinde gerçek kişilerin yerine geçmek ve İslam karşıtı mesajlar yayınlamak amacıyla kurgusal kişilikler ve biyografiler oluşturmak için OpenAI teknolojisini kullandı. OpenAI'nin raporuna göre, günümüzün üretici yapay zekası kampanyaları daha verimli hale getirmeye yardımcı olabilirken, araçlar birçok yapay zeka uzmanının tahmin ettiği gibi ikna edici bir dezenformasyon seli yaratmadı.
Sosyal medya hizmetlerinin manipülasyonunu takip eden ve OpenAI'nin bulgularını inceleyen Graphika'nın baş istihbarat sorumlusu Jack Stubbs, "Bu, YZ destekli etki operasyonları ve YZ destekli dezenformasyonla ilgili en büyük korkularımızdan bazılarının henüz gerçekleşmediğini gösteriyor" dedi.

©️ 2024 The New York Times Company