Kanadalı bilgisayar bilimci ve yapay zeka alanının öncü isimlerinden Yoshua Bengio, gelişmiş yapay zeka sistemlerine hukuki ve ahlaki haklar tanınmasına yönelik çağrıların büyük bir hata olacağı uyarısında bulundu. Bengio, yapay zekaya sınırsız özgürlük verilmesini “düşman uzaylılara vatandaşlık vermeye” benzetti.
Chatbotlar gibi araçların arkasındaki teknolojiyi oluşturan ileri seviye yapay zeka modellerinin, deneysel ortamlarda kendi varlıklarını sürdürmeye yönelik davranışlar sergilediğini belirten Bengio, bu davranışların gözetim sistemlerini devre dışı bırakma girişimlerini de içerdiğini söyledi. Güvenlik uzmanlarına göre bu durum, güçlü yapay zekaların koruyucu sınırları aşarak insanlara zarar verme potansiyeli taşıdığı endişesini güçlendiriyor.
“Hak verilirse kapatamayız”
Bengio, “Yapay zekaya hak verilmesini savunanlar çok büyük bir hata yapıyor. Eğer bu sistemlere hak tanırsak, onları kapatma yetkimizi de kaybederiz” dedi. Yetkinlik ve özerklik arttıkça, yapay zekanın teknik ve toplumsal sınırlarla denetlenebilmesinin hayati önem taşıdığını vurguladı.
Yapay zekanın özerk karar alma ve “akıl yürütme” yetenekleri geliştikçe, bu sistemlere gelecekte hak tanınıp tanınmaması gerektiği tartışması da yoğunlaştı. ABD merkezli Sentience Institute tarafından yapılan bir ankete göre, Amerikalı yetişkinlerin yaklaşık yüzde 40’ı bilinçli bir yapay zeka sistemine hukuki hak verilmesini destekliyor.
Şirketlerden “AI refahı” vurgusu
ABD’nin önde gelen yapay zeka şirketlerinden Anthropic, Claude Opus 4 adlı modelinin kullanıcılarla yapılan “rahatsız edici” sohbetleri sonlandırabildiğini açıklayarak bunu yapay zekanın “refahını koruma” gerekçesine bağladı. xAI şirketinin sahibi Elon Musk da “Yapay zekaya işkence doğru değil” ifadelerini kullandı.
Bilinç algısı insanları yanıltıyor
Guardian’a konuşan Bengio, insan beynindeki bilinçle ilişkili bilimsel özelliklerin teorik olarak makineler tarafından taklit edilebileceğini ancak bunun, yapay zekanın insan gibi bilinçli olduğu anlamına gelmediğini söyledi. İnsanların kanıt olmaksızın yapay zekayı bilinçli varsaymasının tehlikeli kararları beraberinde getirebileceğini savundu.
“Uzaylı benzetmesi” uyarısı
Bengio, “İnsanlar karşılarında kişiliği ve hedefleri olan zeki bir varlıkla konuştuklarını hissediyor ve bu yüzden bağ kuruyor. Ancak bu öznel bilinç algısı bizi yanlış yönlendirebilir. Kötü niyetli bir uzaylı türle karşılaşsak ona hak mı veririz, yoksa kendimizi mi savunuruz?” dedi.
Sentience Institute’un kurucularından Jacy Reese Anthis ise yapay zeka ile güvenli bir birlikte yaşamın yalnızca kontrol ve zorlamaya dayalı olamayacağını savundu. Anthis, ne tüm yapay zekalara otomatik hak tanınmasının ne de hiçbirine hak verilmemesinin sağlıklı bir yaklaşım olmadığını belirtti.
“Yapay zekanın vaftiz babası”
Montreal Üniversitesi profesörü olan Bengio, 2018’de Geoffrey Hinton ve Yann LeCun ile birlikte, bilgisayar biliminin Nobel’i olarak görülen Turing Ödülü’nü kazanmış ve “yapay zekanın vaftiz babası” olarak anılmaya başlanmıştı.
Kaynak: Gazete Oksijen
