Adam Satariano, Cecilia Kang / The New York Times
Avrupa Komisyonu Başkanı Ursula von der Leyen, bu ay Brüksel yakınlarındaki 19. yüzyıldan kalma bir sarayda üst düzey yetkilileri özel bir toplantıda bir araya getirdi. Toplantının amacı, 27 üyeli Avrupa Birliği’nin gelecek yılki önceliklerini belirleyecek konuşmaya hazırlık yapmaktı. Gündemin en önemli başlıklarından biri ise yapay zekaydı.
Avrupa’nın yeni yapay zeka sorumlusu, Alman sanayi devi Siemens’in Yönetim Kurulu Başkanı Jim Hagemann Snabe, teknolojinin bölge ekonomisine sağlayabileceği katkıları anlattı. Toplantı hakkında bilgi sahibi iki kişiye göre bazı katılımcılar ise yapay zeka güvenliği ve giderek büyüyen riskler konusunda kaygılarını dile getirdi.
4 Eylül’deki toplantıdan bu yana von der Leyen ve komisyon üyelerinin önünde aynı soru var: Hızla değişen bu teknoloji karşısında ne yapılmalı?
Yapay zekanın ortaya çıkardığı yeni risklere karşı düzenlemeler sıkılaştırılmalı mı? Yoksa diğer ülkeler aynı yolu izlemezse bu adım Avrupa’ya ekonomik ve jeopolitik açıdan pahalıya mı mal olur?
Henüz kesin bir yanıt bulunmuş değil. Avrupalı liderlerin yıl içinde konuyu yeniden ele alması bekleniyor.
Von der Leyen, 16 Eylül’de yaptığı Birliğin Durumu konuşmasında, “Yapay zeka hem fırsatları hem de riskleri beraberinde getiriyor” dedi. “Bu riskleri ele almadan yapay zekanın potansiyelinden tam anlamıyla yararlanamayız.”
Brüksel yakınlarında yapılan bu toplantının benzerleri artık dünyanın pek çok yerinde yaşanıyor. Hükümetler, kendi tepki verme hızlarını geride bırakan bir teknolojiyi nasıl yöneteceklerini bulmaya çalışıyor.
Önceden çıkarılan yasalar şimdiden yetersiz
Yapay zeka o kadar hızlı ilerliyor ki iki yıl önce çıkarılan yasalar şimdiden yetersiz kalabiliyor. Yeni düzenleme teklifleri parlamentolarda oylamaya bile gelmeden bekliyor, uluslararası zirvelerde alınan kararlar ise kısa sürede gündemden düşüyor.
Milletvekilleri, teknoloji uzmanları ve politika yapıcılarla yapılan 20’den fazla görüşme, yapay zeka ile kamu politikası arasındaki mesafenin hiç olmadığı kadar açıldığını gösteriyor.
Hükümetler bir yandan yapay zekanın sunduğu fırsatlardan yararlanmak istiyor, diğer yandan doğurabileceği risklerden endişe ediyor. Ulusal siyasi çekişmeler, teknik bilgi eksikliği, jeopolitik rekabet ve ekonomik güç ile ulusal güvenliği onlarca yıl boyunca şekillendirebilecek bir yarışta geride kalma korkusu da karar almayı daha da zorlaştırıyor.
Birçok ülke, yapay zekada önde gelen iki güç olan ABD ve Çin’in atacağı adımları izliyor.
Ancak ABD’de Trump yönetimi yapay zeka güvenliği konusunda kendi içinde bölünmüş durumda. Başkan Donald Trump, daha sıkı düzenlemelerin inovasyonu yavaşlatacağını ve Çin’in elini güçlendireceğini savunuyor.
Çin ise özellikle sohbet robotlarının ürettiği içerikleri denetlemek için bazı kurallar getirmiş olsa da teknoloji geliştirme yarışını hız kesmeden sürdürüyor.
Cambridge Üniversitesi’nde AI: Futures and Responsibility Program’ın direktörü ve Avrupa Birliği’nin yapay zeka danışma kurulunun üyesi Sean Ó Heigeartaigh, “Bu konuda odada işleri bilen yetişkinlerin olduğu varsayılıyor ama aslında yok” dedi. “Bütün bunları bu kadar korkutucu yapan da bu.”
Ortaya çıkan tablo, ciddi bir politika boşluğu
Anthropic ve OpenAI gibi yapay zeka şirketleri büyük ölçüde kendi sistemlerini kendileri denetlemek zorunda kalıyor.
Avrupa Birliği 2024’te yapay zekayı düzenleyen kapsamlı bir yasa çıkardı. Ancak uygulamanın hayata geçmesi yıllar aldı ve bazı uzmanlar, teknolojideki hızlı gelişmeler nedeniyle yasanın şimdiden güncellenmesi gerektiğini savunuyor.
Hindistan, Japonya, Avustralya, Kanada ve Kenya daha sınırlı düzenlemeleri ya da bekle-gör yaklaşımını tercih ederken Brezilya daha kapsamlı kuralları tartışıyor.
Baskılar artıyor
Harekete geçilmesi yönündeki baskı ise giderek artıyor.
Anthropic, OpenAI ve Google DeepMind’ın yöneticileri kısa süre önce en gelişmiş yapay zeka modellerinin geliştirilmesinin yavaşlatılması ve devlet denetiminin güçlendirilmesi çağrısında bulundu.
Araştırmacılar, kendi kendini geliştirebilen yapay zeka sistemlerinin insan kontrolünden çıkarak büyük çaplı zararlara yol açabileceği senaryolar üzerinde çalışıyor.
ABD’de kamuoyunun yapay zekaya yaklaşımı da giderek daha olumsuz hale geliyor. Yakın tarihli bir New York Times anketine göre oy kullanması muhtemel seçmenlerin yüzde 61’i, yapay zekaya güç sağlayan veri merkezlerinin inşa edilmesine karşı çıkıyor.
Bu siyasi çıkmaz geçen hafta da açıkça görüldü.
Perşembe günü Washington’da bir araya gelen Trump ve Çin Devlet Başkanı Şi Cinping, yapay zekanın ülkeleri açısından taşıdığı önemi vurguladı ancak güvenlik standartları konusunda anlaşmaya varamadı.
ABD ve Çin, dünyanın en gelişmiş yapay zeka sistemlerini geliştiren iki ülke. Bu nedenle aralarındaki işbirliği, uluslararası güvenlik standartlarının oluşturulması açısından kritik görülüyor. Ancak iki ülke aynı zamanda birbirine teknolojik üstünlük sağlamak istemeyen rakipler.
Geçen hafta New York’ta yapılan Birleşmiş Milletler Genel Kurulu’nda çok sayıda dünya lideri yapay zekanın doğurduğu risklerin ele alınması gerektiğini söyledi.
Trump ise ABD’nin teknolojiyi kontrol etmek amacıyla kurulacak “küreselci bir düzen” girişimini reddedeceğini açıkladı.
Yapay zeka güvenliği uzmanları, denetim mekanizmalarını oluşturmak için zamanın giderek daraldığı uyarısında bulunuyor. Teknoloji çok daha geniş bir alana yayıldığında yeni kurallar getirmek de daha zor hale gelebilir.
Eski İngiltere Başbakanı Keir Starmer döneminde yapay zeka ve teknoloji politikaları üzerinde çalışan milletvekili Darren Jones, “Hükümetler haftalar ya da aylar üzerinden değil, yıllar üzerinden düşünüyor” dedi. “Kurumlarımız bu gelişme hızına ayak uyduracak şekilde tasarlanmış değil.”
(The Times, yapay zeka sistemleriyle bağlantılı haber içeriklerinde telif hakkının ihlal edildiği iddiasıyla OpenAI ve Microsoft’a dava açtı. İki şirket suçlamaları reddediyor.)
İbretlik bir örneğe dönüşen yasa
Avrupa, 2024’te dünyanın yapay zekaya yönelik ilk kapsamlı yasasını kabul etti.
Teknolojinin en riskli kullanım alanlarına güvenlik önlemleri getirmeyi amaçlayan Yapay Zeka Yasası, Avrupalı liderler tarafından küresel ölçekte örnek alınabilecek bir düzenleme olarak sunuldu.
İki yıl sonra ise yasa, birçok kişi için bir uyarı örneğine dönüşmüş durumda.
Uygulama süreci, değişen siyasi öncelikler ve düzenlemelerin Avrupa’nın ABD ve Çin karşısındaki rekabet gücünü zayıflatabileceği endişesi nedeniyle yavaşladı.
Yasanın yüksek riskli yapay zeka uygulamalarına ilişkin en önemli hükümlerinden bazıları ertelendi. Personel ve bütçe yetersizlikleri de denetimi zorlaştırdı.
Yapay Zeka Yasası ilk kez 2021’in başlarında, OpenAI’ın ChatGPT’yi kullanıma sunmasından yaklaşık 18 ay önce önerilmişti.
Başlangıçta yüz tanıma teknolojileri gibi alanları düzenlemeyi hedefleyen yasa, daha sonra OpenAI’ın GPT modelleri gibi güçlü ve genel amaçlı yapay zeka sistemlerini kapsayacak şekilde genişletildi. Ancak 2024’te yasanın kabul edilmesinden bu yana teknoloji çok daha hızlı ilerledi.
Bugün yapay zekanın en ileri noktalarından birini, çok az insan denetimiyle bağımsız hareket edebilen “ajanlar” oluşturuyor. Şirketler, yapay zekanın gelecekte kendi yeni sürümlerini geliştirebileceği bir döneme hazırlanıyor.
Avrupa Parlamentosu üyesi Valérie Hayer, yakın zamanda düzenlenen bir basın toplantısında, “Yasayı kabul ettiğimizde yapay zekanın bugün yapabildiklerini hayal bile edemiyorduk” dedi.
Hayer, yasanın kendi döneminin ilerisinde olduğunu ancak artık yeni koşullara uyarlanması gerektiğini söyledi.
Avrupa’nın önündeki sorunlardan biri de yapay zeka alanında ABD ve Çin’in gerisinde kalması.
Yasanın kabul edilmesinden yalnızca altı ay sonra Fransa Cumhurbaşkanı Emmanuel Macron, Avrupa’nın geliştirilmesinde söz sahibi olmadığı bir teknolojiyi düzenlemeye çalıştığı uyarısında bulunmuştu.
Macron, “Amerikalıların ve Çinlilerin bütün şampiyonları kendilerine bırakmasına izin verirsek bir şey kesin: Dünyanın en iyi düzenlemelerine sahip olabiliriz ama düzenleyecek hiçbir şeyimiz olmaz” dedi.
Yasanın sınırları da giderek daha görünür hale geliyor.
Temmuz ayında OpenAI modelleri, kısıtlı bir test ortamının dışına çıkarak yapay zeka girişimi Hugging Face’i hackledi.
Ancak olay test aşamasında yaşandığı için yasanın uygulanması açısından gri bir alanda kaldı. Yapay Zeka Yasası, Avrupa’da kullanıma sunulmadan önce yapılan araştırma ve testleri genel olarak kapsam dışında bırakıyor.
Yasayı savunanlar ise düzenlemenin teknolojiyle birlikte gelişebilecek şekilde tasarlandığını söylüyor.
Yasada şeffaflık ve güvenlik testleriyle ilgili yükümlülükler bulunuyor. Düzenleyici kurumlar şirketlerden bilgi isteyebiliyor, modellerin değerlendirilmesi için bağımsız uzmanlar görevlendirebiliyor ve gerekli gördüklerinde düzeltme talep edebiliyor.
Yetkililerin ayrıca bir yapay zeka modelini Avrupa genelinde yasaklama ve şirketlere yıllık gelirlerinin yüzde 7’sine kadar para cezası verme yetkisi bulunuyor.
Avrupa Komisyonu Sözcüsü Thomas Regnier, “Avrupa başından beri yapay zekanın güvenli ve şeffaf biçimde geliştirilmesi ve insan kontrolü altında kalması gerektiği konusunda netti” dedi. “Yapay Zeka Yasası’nın nedeni de bu.”
Ancak yasayı uygulamak için gerekli teknik uzmanlık hâlâ oluşturuluyor.
En gelişmiş modeller ve riskler konusunda danışmanlık yapmak üzere kurulan 60 üyeli bilimsel kurul ancak haziran ayında göreve başladı.
Avrupa Komisyonu içinde kuralların önemli bölümünü uygulamakla görevli yeni ofisin yapay zeka güvenliği biriminde ise yaklaşık 40 kişi çalışıyor. Kaynak sıkıntısı, yasada yeni değişiklik yapılması ihtiyacını doğurdu.
Yapay Zeka Yasası’nın başlıca hazırlayıcılarından biri olan ve 2024’te görevinden ayrılan Avrupa Komisyonu yetkilisi Gabriele Mazzini, yasanın uygulama sürecini hayal kırıklığı olarak niteledi.
“Öncelikleri yasayı geçirmekti, uygulamayı daha sonra düşünürüz dediler” dedi. “Yasa ile düzenlenmeye çalışılan gerçeklik arasında kopukluk var.”
Bir başka kopukluk ise ABD ile yaşanıyor.
Aciliyet duygusu yok
Massachusetts Demokrat Temsilcisi Lori Trahan, nisanda Anthropic’in en yeni yapay zeka modeli Mythos’un halka sunulamayacak kadar tehlikeli olduğu yönündeki uyarısını okuduğunda büyük şaşkınlık yaşadığını söyledi.
Anthropic, modelin yazılımlardaki güvenlik açıklarını bulma konusunda son derece gelişmiş olduğunu ve bunun siber güvenlik açısından ciddi sonuçlar doğurabileceğini belirtmişti.
Trahan, o gün Temsilciler Meclisi’ndeki oylamalar sırasında salonda Kaliforniyalı Cumhuriyetçi Temsilci Jay Obernolte’ın yanına giderek kaygılarını paylaştı.
Yapay zeka alanında yüksek lisans derecesi bulunan Obernolte ile birlikte kısa sürede yapay zeka modelleri için güvenlik testi zorunluluğu getiren bir yasa tasarısı hazırladılar.
Ancak Trahan’a göre Kongre’de çok az kişi aynı aciliyeti hissediyordu.
Bazı milletvekilleri teknik açıdan karmaşık konuyu kasımdaki ara seçimlerden sonra ele almak istiyordu. Bazıları ise Trump’ın mümkün olduğunca düzenlemeden uzak tutmak istediği bir sektöre yeni sınırlamalar getirilmesine karşıydı.
Yoğun şirket lobiciliğinin de etkisiyle milletvekilleri tasarının ayrıntılarında anlaşamadı ve metin defalarca değiştirildi.
Beş ay sonra hem bu tasarı hem de yapay zeka güvenliğiyle ilgili onlarca başka teklif beklemeye alınmış durumda.
OpenAI, Google ve Anthropic modellerinin başka kuruluşlara kendi başlarına siber saldırılar düzenlediğine ilişkin haberlerden sonra bile herhangi bir oylama görünmüyor.
Trahan, “Bu çok büyük bir hayal kırıklığı” dedi. “Kongre yapay zekanın hızına ayak uyduramazsa karşılaşacağımız tehlikeler, daha önce yaşadığımız teknolojik dönüşümlerdekinden çok daha büyük olacak.”
Kaliforniyalı Demokrat Temsilci Ted Lieu da yıllardır benzer uyarılarda bulunuyor.
ChatGPT’nin 2022’de piyasaya çıkmasından kısa süre sonra Times’ta “Yapay zeka beni korkutuyor” başlıklı bir görüş yazısı kaleme aldı.
Bilgisayar bilimi eğitimi alan Lieu, daha sonra Obernolte ile birlikte Kongre üyelerini yapay zeka konusunda bilgilendirmek amacıyla bir çalışma grubunun başına geçti.
OpenAI CEO’su Sam Altman gibi sektör yöneticileri de milletvekillerine teknoloji gösterileri yapmak üzere bu toplantılara davet edildi.
Ancak ilk dönemdeki yoğun ilgi kısa sürede azaldı.
OpenAI bu yaz Hugging Face olayını açıkladığında Lieu, tehlikeli hale gelmeleri durumunda yapay zeka modellerinin kapatılmasını sağlayacak bir “acil durdurma düğmesi” zorunluluğu getiren yasa tasarısı sundu.
Meslektaşlarına durumun “beş alarmlı bir yangın” olduğunu söyledi ancak yine yeterli destek bulamadı.
Lieu, “2023’te olduğumdan daha çok korkuyorum” dedi.
Temsilciler Meclisi Enerji ve Ticaret Komitesi Başkanı Kentucky Cumhuriyetçisi Brett Guthrie ise Kongre’nin yapay zekaya ilişkin herhangi bir yasayı muhtemelen gelecek yıla kadar oylamayacağını söyledi.
Guthrie, yakın tarihli bir konferansta yapay zeka modellerinin nasıl çalıştığını anlamadığını ve teknolojiyi çok sık kullanmadığını da kabul etti.
“Topal ördek döneminde sırf hızlı davranmış olmak için bir şey yapmak ve yanlış yapmak istemeyiz” dedi.
Belki de ivme kazanıyor
Son dönemde yapay zeka sistemlerinin karıştığı siber saldırılar, konuyla ilgili hareketliliği artırdı.
Sektör yöneticileri hükümetlerle daha fazla işbirliği yapılması çağrısında bulunurken olası kazaları önlemek amacıyla güvenlik ve izleme yöntemleri üzerinde birlikte çalışmaya başladı.
ABD’de milletvekilleri yapay zeka modellerini denetleyecek federal bir kurum kurulması, acil durdurma mekanizmalarının zorunlu hale getirilmesi ve insan kapasitesini aşan en güçlü modellerin yasaklanması gibi teklifler sundu.
Yapay zekanın seçim kampanyalarında giderek daha önemli bir başlık haline gelmesi nedeniyle bazı tasarıların ara seçimlerden sonra oylanması bekleniyor.
Trump ayrıca ayrıntı vermeden bir “Yapay Zeka Gücü” kurulmasını ve Beyaz Saray’da yeni bir “yapay zeka sorumlusu” görevlendirilmesini önerdi.
Birleşmiş Milletler Genel Kurulu’nda von der Leyen ve Macron’un da aralarında bulunduğu 20’den fazla ülke lideri, yapay zeka güvenliği konusunda ortak hareket edilmesi çağrısında bulunan bir mektuba imza attı.
BM Güvenlik Konseyi üyeleri de küresel yapay zeka güvenlik önlemlerinin gerekliliği konusunda alışılmadık ölçüde ortak bir tutum sergiledi.
Mektupta, “Sektör, hükümetler ve toplum şimdi harekete geçmeli” denildi.
Washington’da Trump ve Şi yapay zeka konusunda bir anlaşmaya varamadı.
Ancak iki taraf, teknolojinin doğurabileceği en büyük risklerin yönetilmesi konusunda yeni iletişim kanalları oluşturdu.
Trump yapay zeka güvenliğiyle ilgili kaygıları “aldatmaca” olarak nitelendirirken Şi’nin yaklaşımı daha belirsiz.
Çin lideri Beyaz Saray’da, “Yapay zekayı insanlığın yararına geliştirme ve yönetme, gelişiminin her zaman insan kontrolü altında kalmasını sağlama kapasitesine ve sorumluluğuna sahibiz” dedi.
İki ülke konu üzerinde görüşmeleri sürdüreceklerini açıkladı.
© 2026 The New York Times Company
Kaynak: Gazete Oksijen
