1914 yılında, Birinci Dünya Savaşı'nın arifesinde, HG Wells daha da büyük bir felaketin olasılıkları hakkında bir roman yayınladı. The World Set Free, Manhattan Projesi'nden 30 yıl önce, "bir adamın el çantasında bir şehrin yarısını yerle bir etmeye yetecek miktarda gizli enerji taşımasına" olanak tanıyan atom silahlarının yaratıldığını hayal ediyordu. Küresel savaş patlak verdi ve atomik bir kıyamete yol açtı.
Silikon Vadisi’nden Davos’un arka odalarına
Bir asır sonra, başka bir teknoloji de benzer bir korku ve hayranlık uyandırıyor: Yapay zeka. Silikon Vadisi'nin yönetim kurulu odalarından Davos'un arka odalarına kadar, siyasi liderler, teknoloji patronları ve akademisyenler yapay zekanın getireceği muazzam faydaları kutluyor ancak süper zeki makinelerin dünyayı yönetmeye başlamasıyla insanlığın ölümünün habercisi olabileceğinden de korkuyorlar. Bir asır önce olduğu gibi, tartışmanın merkezinde demokrasi ve sosyal kontrol sorunları yer alıyor.
2015 yılında gazeteci Steven Levy, iki yıl önce ChatGPT adlı insana benzeyen sohbet robotunun piyasaya sürülmesiyle kamuoyunun gündemine oturan teknoloji şirketi OpenAI'ın kurucuları Elon Musk ve Sam Altman ile bir röportaj yaptı. Yapay zekanın potansiyel sonuçlarından korkan Silikon Vadisi'nin ağır topları teknolojiyi insanlığa fayda sağlayacak etik bir şekilde geliştirmek amacıyla kar amacı gütmeyen bir hayır kurumu olarak şirketi kurdu.
Levy, Musk ve Altman'a yapay zekanın geleceği hakkında sorular sordu. Musk, "İki düşünce ekolü var. Çok sayıda yapay zeka mı, yoksa az sayıda yapay zeka mı istiyorsunuz? Biz muhtemelen çok sayıda olmasının iyi olacağını düşünüyoruz” ifadelerini kullandı. "Eğer ben ‘Dr. Evil’ olursam ve bunu kullanırsam, beni güçlendirmiş olmaz mısınız?" diye sordu Levy. Altman, teknolojiyi sadece birkaç kişi kontrol ediyorsa Dr. Evil'ın güçlenme olasılığının daha yüksek olduğunu söyledi ve “O zaman gerçekten kötü bir yerdeyiz demektir” diye ekledi.
Gerçekte, bu söz edilen kötü yer teknoloji şirketlerinin kendileri tarafından inşa ediliyor. Altı yıl önce kendi yapay zeka projelerini geliştirmek için OpenAI'ın yönetim kurulundan istifa eden Musk, şimdi eski şirketine, karını kamu yararının önüne koyduğu ve yapay zekayı insanlığın yararına geliştirmediği gerekçesiyle sözleşmenin ihlali davası açıyor.
Kalkan oluşturmanın kılıfı oldu
2019'da OpenAI, başta Microsoft olmak üzere yatırımcılardan para toplamak için kâr amacı gütmeyen bir yan kuruluş oluşturdu. 2022'de ChatGPT'yi piyasaya sürdüğünde, modelin iç işleyişi gizli tutuldu. OpenAI'ın kurucularından bir diğeri ve o dönemde şirketin baş bilim insanı olan Ilya Sutskever, eleştirilere yanıt olarak, kötü niyetli kişilerin "büyük zararlar vermek için" kullanmasını önlemek için daha az açık olmanın gerekli olduğunu iddia etti. Teknolojiden duyulan korku, incelemeye karşı bir kalkan oluşturmanın kılıfı haline geldi.
Derdi açıklık değil güç mücadelesi
Musk'ın açtığı davaya cevaben OpenAI geçen hafta Musk ve yönetim kurulunun diğer üyeleri arasında geçen bir dizi e-posta yayınladı. Bunlar, en başından beri tüm yönetim kurulu üyelerinin "OpenAI'ın aslında açık olamayacağı konusunda hemfikir olduklarını gösteiryor. Yapay zeka geliştikçe, Sutskever Musk'a, "Daha az açık olmaya başlamak mantıklı olacaktır. OpenAI'daki açık, yapay zeka inşa edildikten sonra herkesin onun meyvelerinden faydalanması gerektiği anlamına gelir" diye yazdı. Musk "Evet" diye yanıt verdi. Açtığı dava ne derse desin, Musk açıklığı diğer teknoloji patronlarından daha sıcak bakmıyor. OpenAI'a yönelik yasal meydan okuma, hesap verebilirliği sağlama girişiminden çok Silikon Vadisi içindeki bir güç mücadelesi.
Yapay zekanın ortaya çıkardığı sorunlar varoluşsal değil, sosyal. Algoritmik önyargıdan kitlesel gözetime, dezenformasyon ve sansürden telif hakkı hırsızlığına kadar, endişemiz makinelerin bir gün insanlar üzerinde güç kullanabileceği değil, halihazırda eşitsizlikleri ve adaletsizlikleri pekiştirecek şekilde çalıştıkları ve iktidardakilerin otoritelerini pekiştirebilecekleri araçlar sağladıkları olmalı. Sorun sadece Dr. Evil değil, kendilerini denetimden korumak için Dr. Evil korkusunu kullananlardır.
