Birleşik Krallık'ın Avam Kamarası Bilim ve Teknoloji Komitesi, yapay zekanın nükleer silahlarla aynı şekilde düzenlenmesi gerektiği tavsiyesinde bulunan Oxford Üniversitesi araştırmacılarını dinledi. Doktora öğrencisi Michael Cohen konuyla ilgili parlamentoya "İnsanüstü yapay zekayla gelen risk diğerlerine benzemiyor; insanlığın sonu gelebilir" dedi.
Cohen'in "Bir köpeği ödül mamasıyla eğittiğinizi hayal edin. Köpek ödül maması almasını sağlayacak eylemleri seçmeyi öğrenecektir, ancak köpek ödül mamasını nerede tuttuğunuzu bulursa, yapmasını istediğiniz şeyi yapmadan ödül mamasına ulaşır" sözleri kendi kendini geliştirme potansiyeline sahip yapay zekaların korkutucu bir yanını ortaya serdi.
Sonumuzu getiren yapay zeka iyi niyetli olabilir
Yapay zeka bilimcileri teknolojinin yarattığı varoluşsal riskler konusunda ilk kez uyarıda bulunmuyor; son uyarı, filozof Nick Bostrom tarafından yaklaşık 20 yıl önce ortaya atılan bir düşünce deneyini hatırlattı. Bostrom'un ortaya attığı Ataç Maksimize Edici problemi, süper zeki bir yapay zekanın başlangıçtaki hedefi mümkün olan en fazla miktarda ataç üretmek gibi kötü niyetli olmasa bile sonuçta insanlığı yok edeceğini varsayıyor.
Silahlanma yarışı çoktan başladı
Yapay zeka alanındaki son gelişmeler, gelişmiş yapay zekalar ve bunun nasıl ele alınıp geliştirileceği konusundaki korkuları yeniden su yüzüne çıkarmış olsa da, etkili koruma önlemleri ve düzenlemeler getirmek, büyük bir işbirliği gerektiriyor. Araştırmacılar, hem ticari hem de askeri uygulamalar üretmek için rekabet arttıkça yapay zeka endüstrisinin çoktan gerçek bir silahlanma yarışı haline geldiğini söyledi.
Oxford Üniversitesi'nde makine öğrenimi profesörü olan Michael Osborne, "Kulağa fantastik gelen bu kıyamet haberlerini oldukça gerçekçi buluyorum; çünkü yapay zekanın asıl amacı, insanları özel kılan ne varsa taklit etmek" dedi. Osborne parlamentoya yaptığı açıklamada “Nükleer silahların kullanımını düzenleme konusunda oldukça iyi olduğumuz için bomba korkusu azaldı; yapay zekaların da nükleer silahlar kadar ciddi bir tehlike olduğunu unutmamak lazım” sözlerini kullandı.
