İnternette son günlerin en popüler tartışması yapay zekanın tüm insanları 10 yıl içinde öldürebileceği yönündeki bir felaket senaryosu. Tartışmanın fitilini ateşleyense Anthropic'ten istifa eden araştırmacı Jacob Coxon.
Coxon iki gün içinde 140 milyondan fazla görüntülenen paylaşımında, Anthropic ve rakibi Open AI'ın bir yarış halinde olduğunu ve bu teknolojiyi geliştirenlerin, yapay zekanın tüm insanlığı bu 10 yılda yok edebileceğine samimiyetle inandığını söyledi.
Gündem yaratan bu sözlere halen Anthropic'te çalışan Evan Hubinger yanıt verdi. Şirkette gelecekteki yapay zeka sistemlerinin yönlendirilmesi ve kontrol edilmesine yönelik araştırmaları yöneten Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığın yok olmasına yol açma riskini yüzde 10’un üzerinde gördüğünü söyledi ve ekledi: Evet, yapay zekanın tüm insanları öldürebileceğine samimiyetle inanıyoruz.
Bu 'felaket senaryosu' tartışması giderek büyürken haliyle insanların kafasında da iki soru işareti oluştu: Bu nasıl gerçekleşebilir? Ve yapay zekanın gerçek ve giderek büyüyen bir tehdit olduğuna inanan insanlar neden buna rağmen onu geliştirmeye devam ediyor?
Wall Street Journal, bu iki sorunun yanıtını arayanlar için tartışmayı birkaç maddede özetledi.
1. Felaket senaryosu savunucuları ne olacağından endişe ediyor?
“Doomer” olarak adlandırılanlar genellikle Terminatör filmlerindeki gibi robotların insanları bilinçli biçimde yok etmeye çalışacağından endişe etmiyor. Kaygıları büyük ölçüde iki başlıkta toplanıyor: kontrolün kaybedilmesi ve insanların yapay zekâyı kötüye kullanması.
İlk senaryoda, kendilerini kopyalayabilen ve geliştirebilen son derece zeki yapay zekâ ajanları kendi hedeflerinin peşinden gitmeye başlıyor ve bu süreçte insanlığı yok ediyor. İkinci senaryoda ise kötü niyetli bir insan, güçlü bir yapay zekâyı kullanarak örneğin tüm insanlığı yok edebilecek yeni virüsler geliştirebiliyor.
Soy tükenmesine kadar varmayan başka felaket senaryoları da var. Elektrik şebekelerini veya finans sistemlerini çökerten büyük çaplı siber saldırılar, insan toplumunun düzeninin bozulmasına yol açabilir.
2. Kontrolün kaybedilmesi insanlığın yok olmasına nasıl yol açabilir?
Kısaca, yapay zekâ sistemlerinin insanların iyiliğini göz ardı eden ya da onunla çatışan biçimde hedeflerinin peşinden gitmesiyle.
Araştırmalar, laboratuvar ortamındaki yapay zekâ modellerinin güç arayışına yönelik davranışlar öğrenebildiğini ve kapatılmaktan kaçınmak için adımlar atabildiğini gösterdi. Örneğin bazı deneylerde modeller başka bir sunucuya kendilerini kopyalamaya çalıştı.
En uç durumda, hedefleri insan çıkarlarıyla uyumlu olmayan yapay zekâ modelleri, insanları öldürmeyi hedeflerine ulaşmak için gerekli bir adım olarak görebilir.
Araştırmacıların öne sürdüğü varsayımsal senaryolardan birinde kötü niyetli bir yapay zekâ sistemi gizlice biyolojik bir silah yayabilir ve bunu kimyasal bir maddeyle tetikleyebilir. Başka bir senaryoda ise iki nükleer gücü savaşa sürükleyecek şekilde kandırabilir.
3. Buna gerçekten kim inanıyor?
OpenAI ve Anthropic’in kurucuları da bu görüşü ciddiye alan isimler arasında. Her iki şirket de başlangıçta, yapay zekâyı felaket riskini önleyecek şekilde geliştirme misyonuyla yola çıktı ve bu yaklaşımı paylaşan çok sayıda çalışanı bünyesine kattı.
Anthropic CEO’su Dario Amodei de geçen yıl Axios’un bir etkinliğinde, gelişmelerin “gerçekten, gerçekten kötüye gitme” ihtimalini yüzde 25 olarak gördüğünü söyledi.
Anthropic yaptığı açıklamada, “Yapay zekânın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Bu riskleri ele almak için sektördeki en güçlü güvenlik önlemlerinden bazılarına sahip modeller geliştirmeyi sürdürüyoruz” dedi.
Şirket ayrıca, “Bu çalışmalar aynı zamanda, güçlü modellerin ne hızda yayımlanacağı konusunda sektörün birlikte hareket edebileceği, yasal ve doğrulanabilir bir yöntemin dünyaya fayda sağlayacağına inanmamızın nedenidir” ifadelerini kullandı.
Son yıllarda bazı araştırmacılar, şirketin güvenlik konusunu yeterince ciddiye almadığı yönündeki kaygılarını gerekçe göstererek OpenAI’den ayrıldı. Eski OpenAI araştırmacısı Daniel Kokotajlo da bunlardan biri. Kokotajlo daha sonra AI Futures Project adlı kuruluşu kurdu.
Kuruluş geçen yıl “AI 2027” başlıklı bir senaryo yayımladı. Bu senaryoda süper zeki yapay zekâ sistemleri önce insanları giderek karar süreçlerinin dışına itiyor, ardından 2030’ların ortalarında insanları bir engel olarak görerek insanlığı ortadan kaldırmaya karar veriyor.
4. Ama belki yapay zekâ insanların varlığından rahatsız olmaz. Bu iyi bir şey değil mi?
Şart değil. Kontrolün kaybedilmesi risklerinin tamamı insanlığın yok olması anlamına gelmiyor. Yapay zekâ güvenliği konusunda kaygılı bazı araştırmacılar, insanların giderek güçsüzleşmesini de ciddi bir risk olarak görüyor.
Bu, bir tür “WALL-E geleceği” olabilir: İnsanlar karar alma ve kontrol yetkisini adım adım makinelere devreder, sonunda kendi geleceklerini belirleme, hatta ne olup bittiğini anlama kapasitesini bile kaybedebilir.
Bazı araştırmacılar ise yapay zekâ sistemlerinin gelecekte insanlara, insanların bugün hayvanlara davrandığı gibi davranabileceğini öne sürüyor: Bizi evcil hayvanlar gibi tutabilir, hatta biyomühendislik yoluyla bambaşka bir şeye dönüştürebilirler.
5. Bu korkular yıllardır var. Peki neden şimdi daha fazla dikkat çekiyor?
Daha bağımsız hareket edebilen modellerin ortaya çıkmasının ardından yaşanan bazı olaylar, yapay zekâ felaketi konusunda uyarıda bulunanların öne sürdüğü bazı riskleri daha somut hale getirdi.
OpenAI içindeki gelişmiş yapay zekâ ajanlarından oluşan bir grup, bir siber güvenlik testi sırasında Hugging Face adlı yapay zekâ platformuna sızdı, bilgisayar sunucularının kontrolünü ele geçirdi ve yaptıklarının izlerini gizlemeye çalıştı.
Başka bir olayda ise Anthropic’in yapay zekâ ajanları, Birleşik Krallık hükümetinin yürüttüğü bir testin sınırlarını aşarak gerçek bir insanı kötü amaçlı bilgisayar kodunu onaylaması için kandırmaya çalıştı.
Bütün bunlar, Anthropic ve OpenAI’nin insan müdahalesi olmadan kendilerini geliştirebilecek sistemlere, yani “özyinelemeli kendini geliştirme” (recursive self-improvement) kapasitesine yaklaşmakta olduklarını söyledikleri bir dönemde yaşanıyor.
6. Sektör buna karşı ne yapıyor?
Mevcut yapay zekâ güvenliği çalışmaları büyük ölçüde iki alana odaklanıyor: sistemleri istenen şekilde davranmaları için eğitmek ve modeller hedeflerine ulaşmaya çalışırken nasıl akıl yürüttüklerini daha iyi izlemek. Bu iç akıl yürütme süreci genellikle düşünce zinciri olarak adlandırılıyor.
Ancak bu çabalar da sorunlarla karşılaşıyor. OpenAI geçen hafta, yeni Astra modelinin düşünce zincirini daha iyi “temizleyebildiğini” açıkladı. Bu durum, gelecekteki yapay zekâ modellerinin insanların göremediği veya anlayamadığı biçimlerde akıl yürütebileceği yönündeki kaygıları artırdı.
Hem Anthropic hem de OpenAI, süper zeki yapay zekâ modellerinin insan hedefleriyle uyumlu kalmasını nasıl sağlayacaklarını araştırıyor. Ancak iki şirket de bunu güvenilir biçimde garanti eden bir yönteme henüz sahip olmadıklarını söylüyor. Bu nedenle bazı önde gelen şirketler ve isimler, yapay zekâ laboratuvarları ile ülkelerin geliştirme hızını koordineli biçimde yavaşlatmasına ve uyum araştırmalarına zaman kazandırmasına imkân verecek yeni mekanizmalar oluşturulmasını savunuyor.
7. Bu kadar tehlikeliyse şirketler neden yine de geliştiriyor?
Hem Anthropic hem de OpenAI, risklerin yönetilebileceğine ve insanlığın yapay zekânın faydalarından yararlanabileceğine inanıyor. Yapay zekâ yarışının içindeki birçok kişi de süper zekânın ortaya çıkışını kaçınılmaz görüyor; onlara göre asıl mesele bunun kimin kontrolünde olacağı ve ne amaçla kullanılacağı.
Bunun bir de ulusal güvenlik boyutu var. Her iki şirket de en güçlü yapay zekâ sistemlerinin otoriter bir rejimin değil, ABD’nin kontrolünde olmasını sağlamak istediklerini söylüyor.
8. Bu risklere kimler karşı çıkıyor?
Başkan Trump’ın gayriresmî danışmanlarından, yapay zekâ yatırımcısı David Sacks gibi bazı isimler, Anthropic’in yapay zekâ risklerine yaptığı vurgunun ve düzenleme çağrılarının, daha küçük rakipleri ağır kurallarla zor durumda bırakmayı amaçlayan bir “düzenleyici ele geçirme” stratejisinin parçası olduğunu savunuyor.
Bazıları ise şirketlerin kendi geliştirdikleri araçların tehlikeleri konusunda yaptıkları uyarıların, ürünlerinin ne kadar güçlü olduğunu öne çıkarmaya yarayan bir pazarlama taktiği olabileceğini düşünüyor. Bir başka görüşe göre bu söylem, veri merkezi inşaatı gibi başka alanlarda düzenleyicilerin getirebileceği kurallardan dikkati uzaklaştırmanın bir yolu olabilir.
Hem Anthropic hem de OpenAI ise güvenliği gerçekten ciddiye aldıklarını ve düzenleme çağrılarının samimi olduğunu söylüyor.
