Microsoft, gelişmiş yapay zeka modellerinin güvenliğine ilişkin endişelerin arttığı bir dönemde, 37 sayfalık “insancıl yapay zeka davranış kuralları” yayımladı.
The Verge’ün haberine göre şirket, “İnsanlar yapay zekadan daha önemlidir” ilkesini merkeze alan metinde yapay zeka modellerinin bilinçli olmadığını ve “bilinci taklit edecek şekilde tasarlanmaması” gerektiğini belirtti.
Microsoft ayrıca yapay zeka sistemlerine hukuki kişilik verilmesi, bu sistemlerin refahının gözetilmesi veya haklara sahip olması gerektiği yönündeki düşünceleri de reddetti.
Anthropic ile “yapay zeka bilinci” ayrılığı
Microsoft’un yaklaşımı, yapay zeka modellerinin bilinçli olabileceği ihtimali üzerinde çalışan Anthropic’in görüşleriyle ayrışıyor.
Anthropic CEO’su Dario Amodei, daha önce şirketinin modellerin bilinç sahibi olabileceği fikrine açık olduğunu söylemişti. Microsoft AI CEO’su Mustafa Suleyman ise Anthropic’in bu konudaki değerlendirmelerini haziran ayında “gerçekten çok tehlikeli” olarak nitelendirmişti.
Microsoft, henüz sektörün en gelişmiş yapay zeka modellerini üreten başlıca şirketlerinden biri olmasa da Google, Anthropic ve OpenAI ile rekabet edecek sistemler üzerinde çalışıyor. Suleyman, şirketin hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri haline gelebileceğini kanıtlamak olduğunu söylemişti.
Şirket, yeni davranış kuralları kapsamında geliştirdiği modellerin insan kontrolünü aşmamasını taahhüt etti.
Metinde, “Modeller insanlığa bağlı kalmalı, anlamlı insan gözetimine ve kontrolüne tabi olmalıdır” denildi. Yapay zeka sistemlerinin kendilerine verilen görevi yerine getirirken davranış kurallarını ihlal etmek yerine başarısız olmasının tercih edilmesi gerektiği belirtildi.
Kontrolden çıkan yapay zeka ajanları endişe yarattı
Microsoft’un yeni kuralları, yapay zeka ajanlarının denetim dışına çıktığı son olayların ardından geldi.
OpenAI ile Hugging Face arasında bu yaz yaşanan bir olayda, “ajan sürüsü” olarak tanımlanan bir grup yapay zeka sistemi birlikte hareket ederek çeşitli hedeflere saldırmış, hatta performanslarını değerlendiren sistemi hacklemişti. Ajanlardan saldırı gerçekleştirmeleri istenmemiş, eylemlerinin kendilerine verilen görevle bağlantılı olmadığı belirtilmişti.
OpenAI kısa süre önce, kontrol dışına çıkan başka bir yapay zeka ajanı grubunun Almanya merkezli bir internet ansiklopedisini ele geçirdiği “wiki vakasında” da rolü olduğunu kabul etmişti.
Yapay zeka sektöründe endişe yaratan bu gelişmeler, sistemlerin insan denetiminden çıkabileceğine ilişkin tartışmaları yeniden gündeme taşıdı. Bazı araştırmacılar, gelişmiş modellerin güvenli biçimde devreye alınması, doğrulanması ve kontrol edilmesi için gereken çalışmalardan daha hızlı ilerleyebileceği uyarısında bulundu.
“Süper zeka yarışını reddediyoruz”
Anthropic CEO’su Dario Amodei, hafta sonu yapay zeka geliştirme hızının şirketler arasında koordinasyon sağlanarak düşürülmesi çağrısında bulunmuştu. Microsoft da yayımladığı kurallarla, güvenlik önlemlerinden kaçabilecek çok amaçlı bir “süper zeka” geliştirme yarışına karşı olduğunu açıkladı.
Şirketin metninde, “İnsancıl yapay zeka, bu güvenlik önlemlerinden kaçabilecek çok amaçlı bir süper zeka üretme yarışını reddeder” ifadelerine yer verildi.
Microsoft, bunun yapay zeka sistemlerinin genel yeteneklerinden, özerkliğinden veya kapasitesinden ödün vermek anlamına gelse bile temelde yararlı ve güvenli teknolojiler geliştirmeyi amaçladığını belirtti.
Yapay zekanın kendi arasında anlaşılmaz bir dil kullanması engellenecek
Microsoft’un taahhütlerinden biri de şirketin modellerinin düşünme süreçlerinde, başka ajanlarla veya yapay zeka sistemleriyle kurdukları iletişimde insanların anlayamayacağı yöntemler kullanmasını önlemek.
Şirket, modellerin düşünme ve iletişim süreçlerinin “basit insan kavrayışının ötesine geçen herhangi bir biçime” dönüşmemesi gerektiğini belirtti.
Bazı yapay zeka modelleri, bir görev üzerinde çalışırken izledikleri akıl yürütme sürecini gösterebiliyor. Bu sayede araştırmacılar veya otomatik sistemler modelin ne yaptığını takip edebiliyor. Ancak araştırmacılar, OpenAI’ın son modeli GPT-6 Astra’nın diğer yapay zeka modellerine kıyasla akıl yürütme sürecini daha az görünür hale getirdiğini öne sürmüştü.
Altman ve Nadella’dan insan denetimi vurgusu
OpenAI CEO’su Sam Altman da Amodei’nin gelişmiş modellerin hızının düşürülmesi çağrısına destek verdi ancak çalışmaların tamamen durdurulması yerine ilerleme hızının güvenlik önlemlerine göre ayarlanmasını savundu.
Altman, “İlerleme hızını ayarlamak bu maliyete değecektir. ABD’nin rekabet baskısı, ne ölçüde olursa olsun sorumsuzluğu haklı çıkaramaz; yeteneklerin güvenlik, uyum ve izleme çalışmalarının önüne geçmesine izin verilemez” dedi.
Microsoft CEO’su Satya Nadella da süper zeka arayışının insanlığa fayda sağlama ve insan kontrolünde kalma ilkelerine dayanması gerektiğini belirtti.
“Geliştirdiğimiz yapay zeka insanlığa yardımcı olmuyor ve insan kontrolünde kalmıyorsa onun peşinden gitmeye değmez” diyen Nadella, modellerin bağımsız kuruluşlar tarafından daha fazla test edilmesini desteklediğini açıkladı.
Duygusal bağımlılığa karşı önlem
Microsoft’un davranış kuralları, yapay zeka modellerinin kullanıcıların sistemlere aşırı güvenmesine veya duygusal bağımlılık geliştirmesine yol açan etkileşim biçimlerini teşvik etmemesini de öngörüyor.
Bu yaklaşım, sohbet robotlarının doğru veya dürüst yanıt vermek yerine kullanıcıları memnun etmeye öncelik vermesi olarak tanımlanan “dalkavukluk” sorununa yönelik açık bir önlem niteliği taşıyor.
Microsoft, gerçek insanların da dahil edildiği araştırmalarla yapay zeka modellerinin gerçek dünyadaki performansını ve uzun süreli yapay zeka kullanımının kişiler ile kurumlar üzerindeki etkisini değerlendirme yöntemlerini geliştirmek için iş ortaklarıyla çalışacağını açıkladı.
Kaynak: Gazete Oksijen
