Yapay zeka şirketi Anthropic'in kurucu ortağı Jack Clark, yapay zekanın ilerlemesini yavaşlatma yeteneğine sahip olunması gerektiği çağrısında bulunarak, teknolojinin insan girdisi olmadan kendi kendine gelişebileceği bir noktaya yaklaştığı konusunda uyardı.
BBC'ye konuşan Clark "Ayağınızı gazdan çekip frene basabilme seçeneğine sahip olmak istersiniz. Şu anda yapay zeka endüstrisi bir gaz pedalına sahipmiş gibi görünüyor, ancak bir fren pedalı bulunmuyor" ifadelerini kullandı.
Clark, toplumun hükümet politikaları aracılığıyla yapay zeka sistemlerinin kontrolünü elinde tutması gerektiğini, bu sistemlerin her geçen gün daha güçlü hale geleceğini ve toplum üzerinde daha geniş etkiler yaratacağını vurguladı. "Dünyanın bu konuda biraz düşünmesi ve nihayetinde bu sistemlere güvenebilmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor" sözlerini de kullandı.
Claude kendi kodunun yüzde 80'ini yazıyor
Anthropic'in popüler sohbet robotu Claude, halihazırda %80'ini sistemin kendisinin yazdığı bir kod tabanı üzerinde çalışıyor. Bu oranın iki yıl içinde %100'e ulaşmasının mümkün olduğunu belirten Clark, bu durumun "çok büyük sonuçları olacağını" söyledi.
Clark, yapay zeka araştırma ve geliştirmeleri için bir "fren pedalının" tam olarak nasıl oluşturulabileceğini belirtmedi ancak yapay zeka ile geçen yüzyılın başındaki petrol patlaması ve petrol baronları arasında bir paralel çizdi. Clark, "Toplumun buna tepkisi; insanlara petrole ve petrolün dünyaya sağlayabileceği faydalara güven veren, şirketlerin başındaki kişilerin karakterleri hakkında endişelenmenize gerek kalmadığı anlamına gelen mantıklı bir politika ve düzenleyici çerçeve ortaya koymak olmuştu. Burada da açıkça varacağımız yer burasıdır" şeklinde konuştu.
Savaş alanında yapay zeka
Jack Clark, Anthropic'in yapay zeka teknolojisinin artan yeteneklerini kamuoyu önünde tartışma motivasyonunun, ücretli müşteriler nezdindeki itibarını daha da parlatmak olmadığını söyledi. Clark, amacının sadece "bu sıra dışı teknolojiye sahip şirketlerin içinde ne gördüklerini dünyaya anlatmak" olduğunu belirtti.
Dario Amodei, Jack Clark ve bir grup diğer yönetici tarafından 2021 yılında kurulan Anthropic, kuruluşundan bu yana yapay zekadan kaynaklanabilecek potansiyel riskler konusunda sesini yükselten bir profil çiziyor. Şirket, yapay zeka araçlarının Amerikalıların kitlesel olarak gözetlenmesinde ve otonom savaşlarda kullanılacağı endişesiyle ABD Savunma Bakanlığı (Pentagon) ile kamuya açık bir tartışma dahi yaşadı.
İş gücü piyasasında yapay zeka
BBC'ye yaptığı açıklamalarda geleceğe dair kişisel endişelerini de paylaşan Clark, "Eğer bir toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yürütmezsek, çocuklarım adına endişeleniyorum. Potansiyel olarak büyük faydalar var, ancak riskler de mevcut" dedi.
Clark, risklerden birinin de ekonomi üzerindeki kesintiler ve olumsuz etkiler olduğunu ekledi. Rutin görevleri yarı otonom olarak yerine getiren yapay zekalar gibi yapay zeka teknolojilerinin belirli işleri devralabileceğine dair korkular bulunuyor.
Büyük teknoloji şirketleri, geçtiğimiz yıl boyunca, yüzlerce hatta binlerce yazılım mühendisinin işini yapabilen yapay zeka araçlarının artan yeteneklerini gerekçe göstererek kitlesel işten çıkarmalar gerçekleştirdi.
'Yaratıcı insanlar avantajlı'
Jack Clark, daha yaratıcı olan ve daha iyi fikirler üretebilen insanların yapay zeka teknolojisine karşı aslında bir avantaja sahip olabileceğini söyledi.
Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağına dair açık sorular olduğunu ve henüz buna dair bir kanıt bulunmadığını belirten Clark "Anthropic'te artık bu fikirleri gerçeğe dönüştürecek mühendisliği yapma yeteneğinden ziyade, iyi fikirler üretme yeteneğiyle sınırlanmış durumdayız" dedi.
Kaynak: Gazete Oksijen
