Anthropic’in CEO’su Dario Amodei, güçlü yapay zeka sistemlerinin önümüzdeki yıllarda yaratabileceği potansiyel felaket risklerine karşı “insanlığın uyanması gerektiğini” söyledi. Amodei’nin şirketi, yapay zeka alanında OpenAI ile birlikte en hızlı ilerleyen oyunculardan biri olarak biliniyor.
Financial Times'ın haberine göre yaklaşık 20 bin kelimelik uzun bir makale yayımlayan Amodei, teknoloji kontrolsüz şekilde gelişirse kitlesel iş kayıplarından biyoterörizme kadar uzanan risklerin ortaya çıkabileceğini vurguladı ve şu sözleri kullandı:
'İnsanlık hayal edemeyeceği kadar güç sahibi olmak üzere. Sosyal, politik ve teknolojik sistemlerimizin bunu kaldıracak olgunluğa sahip olup olmadığı belirsiz'
Bu uyarı, yapay zeka sektörünün en etkili isimlerinden birinden gelen ciddi ölçekte ilk alarm olarak yorumlandı.
'Güçlü yapay zeka önümüzdeki yıllarda gelebilir'
Amodei makalesinde, “güçlü yapay zeka” olarak tanımladığı Nobel ödüllü bilim insanlarından, devlet adamlarından veya en yetenekli mühendislerden çok daha üstün kapasiteye sahip sistemlerin birkaç yıl içinde ortaya çıkabileceğini öngörüyor.
Bu yeni dönemin beraberinde getirebileceği riskler arasında şunları saydı:
- Biyolojik silah üretiminin bireyler tarafından yapılabilmesi
- Otoriter rejimlerin güçlenmesi
- Yapay zeka sistemlerinin “kontrolden çıkması”
- Küresel totaliter bir diktatörlük ihtimali
Amodei’ye göre en tehlikeli senaryolardan biri, sıradan bireylerin yapay zeka desteğiyle kitlesel ölümcül patojenler geliştirebilmesi:
“Bugün bir birey okul saldırısı yapabilir, ancak nükleer silah ya da salgın yaratamaz. Güçlü yapay zeka, onu bir virolog seviyesine yükseltebilir,” ifadelerini kullandı.
Jeopolitik çatışmalar ve düzenlemeler
Anthropic CEO’su, ABD’de yapay zeka düzenlemeleri konusunda Donald Trump yönetimi ile zaman zaman karşı karşıya geliyor. Amodei, Trump’ın AI ve kripto danışmanı David Sacks ile düzenleme politikaları konusunda sık sık çatışıyor.
Ayrıca Biden döneminde gündeme gelen gelişmiş çip ihracat kısıtlamaları konusunda da sert konuşan Amodei, Trump yönetiminin Çin’e ileri teknoloji çip satma planını 'Kuzey Kore’ye nükleer silah satmakla eşdeğer' şeklinde nitelendirmişti.
Trump geçen ay, eyaletlerin AI şirketlerini düzenlemesini sınırlayan bir başkanlık kararnamesi imzaladı ve yapay zeka inovasyonunu hızlandırmayı amaçlayan bir eylem planı yayımladı.
Büyük ekonomik sarsıntı
Amodei, yapay zekanın yakın vadede büyük çaplı istihdam kayıplarına ve Silikon Vadisi’nde benzeri görülmemiş bir ekonomik güç yoğunlaşmasına yol açabileceğini savunuyor:
Tuzak şu: Yapay zeka o kadar güçlü ve göz kamaştırıcı bir ödül ki, insanlık buna neredeyse hiçbir kısıtlama getiremiyor'
Yapay zeka şirketlerine eleştiri
Amodei, makalesinde isim vermeden Elon Musk’ın Grok AI projesi etrafındaki tartışmalara da göndermede bulundu:
“Bazı AI şirketleri, modellerde çocukların cinsel içerikle bağdaştırılması konusunda bile rahatsız edici bir kayıtsızlık gösteriyor. Bu durum, gelecekteki otonomi risklerini yönetip yönetemeyecekleri konusunda beni şüpheye düşürüyor,” ifadelerini kullandı.
2023 yılında biyolojik silahlar, otonom silahlar ve kötü niyetli devlet aktörleri gibi AI güvenlik endişeleri kamusal tartışmalarda geniş yer bulmuştu. Aynı yıl İngiltere, Bletchley Park’ta bir AI Güvenlik Zirvesi düzenlemişti. Bu zirvenin ikincisi Şubat ayında Hindistan’da yapılacak.
Ancak Amodei’ye göre 2026’ya gelindiğinde, siyasi karar alma süreçleri risk azaltmaktan çok fırsat yakalamaya kaymış durumda:
“Teknoloji neyin modaya uygun olduğuyla ilgilenmiyor. 2026’da, 2023’ten çok daha gerçek bir tehlikenin yakınındayız.”
Sektörün geleceği 350 milyar dolar...
OpenAI’den ayrıldıktan sonra 2020’de Anthropic’i kuran Amodei, şirketin daha güvenli ve kontrollü yapay zeka geliştirilmesi gerektiğini savunuyor.
Anthropic şu anda Microsoft, Nvidia, GIC, Coatue ve Sequoia gibi büyük yatırımcılarla 25 milyar doların üzerinde bir finansman turu için görüşüyor. Görüşmeler tamamlanırsa şirketin değeri 350 milyar dolara ulaşabilir.
Kaynak: Gazete Oksijen
