Julian E. Barnes / The New York Times
Bir Çinli şirket, otoriter hükümetlerin sadece muhalifleri izlemesini sağlamakla kalmayıp, gelecekte kimlerin muhalif olabileceğini de tahmin etmesine potansiyel olarak imkan tanıyacak yapay zekâ destekli bir teknoloji geliştirmeye çalışıyor.
Henüz araştırma aşamasında olduğu anlaşılan bu çalışma, distopik bilimkurgu filmlerinden fırlamış gibi görünüyor ve otoriter bir devletin, vatandaşları henüz kamusal bir muhalefete başlamadan önce onlara karşı harekete geçebileceği bir dünyaya dair ipuçları sunuyor.
Söz konusu Çinli şirket Geedge Networks, Çin'in çevrimiçi faaliyetleri kontrol etmek için kullandığı gözetim ve sansür yazılımı olan "Büyük Güvenlik Duvarı"nın (Great Firewall) ticari bir versiyonunu satıyor. Bu araçlar, hükümetlerin internet trafiğini izlemesine ve birisi geleneksel internet sansürünü aşmaya çalıştığında bunu bayrakla işaretlemesine (raporlamasına) olanak tanıyor.
Ancak Vanderbilt Üniversitesi'ndeki araştırmacılara göre, sızdırılan şirket belgeleri, firmanın konum verilerini ve internet kullanımını inceleyerek hükümete yönelik eleştirel bir şey yapabilecek veya söyleyebilecek kişileri tahmin etmek için yapay zekâ kullanan yeni ürünler üzerinde çalıştığını gösteriyor.
Bu tür bir teknoloji, mükemmelleştirilmesi halinde, otoriter hükümetlerin algıladıkları düşmanlara karşı kullanabilecekleri güçlü bir araç sağlayacaktır.
Otoriter bir hükümetin muhalefeti bastırmak için yapay zekâ kullanacağı düşüncesi yeterince endişe vericiyken, sektördeki bazı kişilere göre, bir kişinin henüz harekete geçmeden çok önce muhalefet edeceğini tahmin etmek için yapay zekânın kullanılması tam bir kabus senaryosuna dönüşmüş durumda.
Vanderbilt Ulusal Güvenlik Enstitüsü bünyesindeki Wicked Problems Lab (Kritik Sorunlar Laboratuvarı) direktörü Brett J. Goldstein, "Kitle gözetimi yapay zekâ ile buluştuğunda olan tam olarak budur" dedi. "Denetim ve dengeler mekanizması olmadan, Çin'in kendi vatandaşlarına yaptığı şey, bu araçların denetimsiz kaldığı her yerde nelerin mümkün olabileceğine dair bir ön gösterimdir."
Vanderbilt araştırmacıları, Geedge'in devlet destekli araştırma kolu olan MESA Lab ile birlikte çalışarak, Çin vatandaşlarının profillerini çıkaracak ve ardından kimlerin siyasi risk oluşturabileceğini vurgulamak için yapay zekâ kullanacak bir teknoloji geliştirdiğini tespit etti.
Çip kısıtlamaları ve ABD ihracat kontrolleri
Ancak şirketin ilerlemesi, yapay zekâ modellerine güç veren ABD tasarımı bilgisayar çiplerine yönelik Biden dönemi ihracat kontrolleri nedeniyle sekteye uğramış gibi görünüyor. Bu durum, ABD kısıtlamalarının Çin'in yeni nesil gözetim teknolojisi geliştirmesini yavaşlatmış olabileceğini gösteriyor.
Geedge'e ait belgeler, Çin'e yönelik sert ABD ihracat kontrollerinin yürürlükte olduğu 2024 yılında, şirketin ve laboratuvarının gözetim teknolojisi için yeterli bilgi işlem gücü bulmakta zorlandığını gösteriyor.
Vanderbilt'te siyaset bilimi profesörü olan Brett V. Benson, belgelerin GPU (grafik işlemci birimi) sınırlamalarına atıfta bulunduğunu söyledi. GPU'lar, yapay zekâ modellerine güç veren çiplerdir. Benson, bu sınırlamaların bir sonucu olarak şirketin daha eski ve daha az güçlü yapay zekâ modelleri ile çipleri kullanmaya başladığını belirtti.
ABD'li yetkililere göre, Geedge bugün mevcut ürünleri için yeterli grafik işlemci birimine erişime sahip. Ancak yetkililer, şirketin öngörücü teknolojisinin en iddialı versiyonunu hayata geçirebilmesi için muhtemelen Çin'in şu an edinebileceğinden daha gelişmiş çiplere ihtiyaç duyacağını söylüyor.
Eski Biden yönetimi yetkilileri, istihbarat raporlarının, Çin'in ABD tasarımı üst düzey çiplere erişimini kısıtlama politikalarının işe yaradığını, ABD'nin yapay zekâ alanındaki üstünlüğünü koruduğunu ve diğer Çin teknolojilerinin gelişimini yavaşlattığını gösterdiğini ifade etti.
Ancak ABD ihracat kontrollerinin, Çin'in yapay zekânın daha baskıcı kullanımlarını geliştirmesini yavaşlatıp yavaşlatmayacağı hala ucu açık bir soru.
Trump yönetimi, Biden dönemi ihracat kontrollerinin bazılarını gevşetti ancak dünyanın en güçlü yapay zekâ çiplerini tasarlayan ABD'li Nvidia şirketinin en gelişmiş işlemcilerine yönelik kısıtlamaları sürdürdü. Başkan Donald Trump'ın Pekin'e yaptığı son ziyaret sırasında ABD'li yetkililer, Çin'in Nvidia çiplerinin daha gelişmiş bir versiyonuna erişebileceğini söyledi.
Öte yandan Çin, ihracat kontrollerinin kendi hedeflerini artık kısıtlayamaması için yapay zekâ şirketlerini ABD tasarımı çiplere bağımlı olmaktan kurtarmaya çalışıyor.
Geleceğin eleştirmenlerini profillemek
Bu yeni bilgiler, Geedge'e ait olan ve ilk olarak geçen Eylül ayında internette paylaşılan 100.000 belgeden oluşan devasa bir veri havuzundan elde edildi. Belgeler üzerinde çalışan Wired ve diğer yayın organları, Geedge'in ağ güvenliği yazılımını Etiyopya, Kazakistan, Myanmar ve Pakistan gibi ülkelere nasıl ihraç ettiğini ve bu ülkelerin mobil ağlar üzerinden kitle gözetimi yapmasına nasıl olanak tanıdığını ana hatlarıyla ortaya koydu.
Belgeleri titizlikle inceleyen Vanderbilt araştırmacıları, Geedge'in sattığı mevcut teknolojiye değil, geliştirmeye çalıştığı yeni nesil teknolojiye ve bu stratejiyi hayata geçirmesini engelleyebilecek kısıtlamalara odaklandı.
2024'ün ilk aylarından beri sürüyor
Geedge belgelerine göre, 2024'ün ilk aylarında şirketin araştırmacıları; telekomünikasyon, sosyal medya ve konum verilerine dayanarak insanların davranışsal profillerini oluşturmak için çalışıyordu. Yapay zekâ modelleri insanları sınıflandırmak ve Çin Komünist Partisi tarafından genellikle siyasi muhalefeti veya hükümetin bastırmak istediği diğer materyalleri tanımlamak için kullanılan bir örtmece (eufemizm) olan "zararlı bilgileri tespit etmek" için kullanılıyordu.
Toplantı tutanaklarına göre, 5 Şubat 2024'teki bir toplantıda araştırmacılar, insanların "niyetlerini belirlemek"ve "zararlı bilgilerin önceden keşfedilmesini sağlamak" amacıyla nasıl profil oluşturulacağını tartıştılar.
Geedge araştırmacıları, şirketin gözetim teknolojisinin topladığı veri kalıplarına dayanarak, kimlerin Çin hükümetinin eleştirmeni haline gelebileceğini tahmin etmek için yapay zekâ araçları geliştiriyor gibi görünüyordu.
Uzmanlar uyarıyor: Toplananlar kim olduğunuzun "ham maddesi"
Vanderbilt Üniversitesi Profesörü Brett V. Benson "Geedge'in araştırma ekibi davranış kalıplarını belgelemekten daha fazlasını yapıyordu. Vatandaşların bir sonraki adımda ne yapacaklarını ve kiminle yapacaklarını tahmin etmeye çalışıyorlardı. Sıradan materyaller üzerindeki bu veri stokları, kim olduğunuzu ve bir sonraki adımda ne yapacağınızı belirleyen profiller oluşturmak için ham maddelerdir." ifadelerini kullandı.
Vanderbilt araştırmacılarına göre belgeler, şirketin ekibinin kişilerin fiziksel hareketlerini, hangi filmleri izledikleri ve hangi kitapları okudukları da dahil olmak üzere diğer çevrimiçi faaliyetleriyle ilişkilendirmek için çalıştığını gösteriyor.
© 2026 The New York Times Company
