Elon Musk'tan yapay zekayı durdurun çağrısı

Bu ayın başlarında Microsoft destekli OpenAI, GPT (Generative Pre-trained Transformer) yapay zeka programının dördüncü iterasyonunu tanıttı ve bu program kullanıcıları insan benzeri konuşmalara dahil ederek, şarkılar besteleyerek ve uzun belgeleri özetleyerek şaşırttı. 

Yaşamın Geleceği Enstitüsü tarafından yayınlanan mektupta, "Güçlü yapay zeka sistemleri, ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" denildi.

Avrupa Birliği'nin şeffaflık siciline göre, kar amacı gütmeyen kuruluş öncelikle Musk Vakfı'nın yanı sıra Londra merkezli Founders Pledge grubu ve Silicon Valley Community Foundation tarafından finanse ediliyor.

Yapay zeka beni strese sokuyor

Musk bu ayın başlarında "Yapay zeka beni strese sokuyor" demişti. Kendisi endüstri lideri OpenAI'nin kurucu ortaklarından biri ve otomobil üreticisi Tesla otomatik pilot sistemi için yapay zeka kullanıyor.

Otopilot sistemini düzenleme çabalarını eleştiren düzenleyicilere karşı hayal kırıklığını dile getiren Musk, yapay zekanın geliştirilmesinin kamu yararına hizmet etmesini sağlamak için bir düzenleme yetkisi istedi.

Elon Musk'ın imzası dürüstçe değil

Cornell Üniversitesi'nde dijital ve enformasyon hukuku profesörü olan James Grimmelmann, "Tesla'nın sürücüsüz araçlarındaki kusurlu yapay zeka için hesap verebilirliğe karşı ne kadar sıkı mücadele ettiği göz önüne alındığında, Elon Musk'ın bunu imzalaması son derece ikiyüzlü bir davranış" dedi ve ekledi:

"Duraklama iyi bir fikir, ancak mektup muğlak ve mevzuat sorunlarını ciddiye almıyor."

Geçtiğimiz ay Tesla, ABD'li düzenleyicilerin sürücü destek sisteminin kazalara neden olabileceğini söylemesinin ardından 362 binden fazla ABD aracını yazılım güncellemesi için geri çağırmak zorunda kaldı.

OpenAI cephesi şimdilik bu mektuba sessiz

OpenAI, ortak güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilinceye kadar gelişmiş yapay zeka gelişimine ara verilmesi çağrısında bulunan ve geliştiricileri yönetişim konusunda politika yapıcılarla birlikte çalışmaya davet eden açık mektupla ilgili yorum talebine hemen yanıt vermedi.

"Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı haberlerle doldurmasına izin vermeli miyiz?Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz?" diye soran mektupta, "bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir" denildi.

Microsoft ve Google desteklemedi

Mektup Musk dahil 1000'den fazla kişi tarafından imzalandı. OpenAI'nin CEO'su Sam Altman mektubu imzalayanlar arasında yer almadı. Alphabet ve Microsoft CEO'ları Sundar Pichai ve Satya Nadella da mektubu imzalayanlar arasında yer almadı.

Eş imzacılar arasında Stability AI CEO'su Emad Mostaque, Alphabet'e ait DeepMind'daki araştırmacılar ve genellikle "yapay zekanın vaftiz babalarından" biri olarak anılan yapay zekanın ağır toplarından Yoshua Bengio ve bu alandaki araştırmaların öncülerinden Stuart Russell yer aldı.

Europol'un uyarısıyla her şey başladı

Endişeler, ChatGPT'nin ulusal güvenlik ve eğitim üzerindeki etkisine ilişkin sorularla ABD'li kanun yapıcıların dikkatini çekmesiyle ortaya çıktı. AB polis teşkilatı Europol Pazartesi günü sistemin kimlik avı girişimleri, dezenformasyon ve siber suçlarda kötüye kullanılabileceği konusunda uyarıda bulundu.

Bu arada Birleşik Krallık hükümeti, yapay zeka konusunda "uyarlanabilir" bir düzenleyici çerçeve için önerilerini açıkladı.

AI yarışı

Mektubu imzalayan New York Üniversitesi profesörlerinden Gary Marcus, "Mektup mükemmel değil, ancak ruhu doğru: sonuçlarını daha iyi anlayana kadar yavaşlamamız gerekiyor" dedi ve ekledi:

"Büyük oyuncular ne yaptıkları konusunda giderek daha ketum hale geliyorlar ve bu da toplumun ortaya çıkabilecek zararlara karşı savunmasını zorlaştırıyor."

Geçen yıl piyasaya sürülmesinden bu yana, OpenAI'nin ChatGPT'si rakiplerini benzer büyük dil modelleri geliştirmeyi hızlandırmaya teşvik etti ve Alphabet de dahil olmak üzere şirketler ürünlerini yapay zekaya dayandırmak için yarışıyor. Tek bir şirkete güvenmekten çekinen yatırımcılar, OpenAI'nin rakiplerini kucaklıyor.

Reuters'ın haberine göre Microsoft mektupla ilgili yorum yapmaktan kaçınırken, Alphabet de yorum için yapılan aramalara ve e-postalara yanıt vermedi.

Brown Üniversitesi'nde profesör ve Beyaz Saray Bilim ve Teknoloji Politikası Ofisi'nde eski müdür yardımcısı olan Suresh Venkatasubramanian, "Bu sistemleri geliştirme gücünün çoğu sürekli olarak bunu yapacak kaynaklara sahip birkaç şirketin elinde olmuştur" dedi ve sözlerini şöyle tamamladı:

"Bu modeller böyledir, inşa edilmeleri ve demokratikleştirilmeleri zordur."