ABD’li bağımsız Senatör Bernie Sanders, Silikon Vadisi’nin önde gelen üç şirketine yapay zeka geliştirme çalışmalarını durdurma çağrısı yaptı. The Guardian’ın aktardığı ve ilk olarak Axios’un yayımladığı mektup, OpenAI Üst Yöneticisi Sam Altman, Anthropic Üst Yöneticisi Dario Amodei ve Meta Üst Yöneticisi Mark Zuckerberg’e gönderildi.
Sanders, şirketlerin geliştirdiği modellerin “kritik risk eşiğine” ulaştığını ve insanların teknoloji üzerindeki kontrolünü kaybetmeye başladığını savundu.
Şirket yöneticilerine geçmişte verdikleri güvenlik sözlerini tutma çağrısı yapan Sanders, “İnsanlığın çıkarı için yapay zeka geliştirmeye ara verin. Felaketi önlemek için hâlâ geç değil. İnsanların kontrol edemeyeceği makineler üretmeyi bırakın” dedi. Vermont Senatörü, şirketlerin gönüllü olarak önlem almaması halinde ABD Senatosunun harekete geçeceği uyarısında da bulundu.
Virüs ve siber saldırı uyarısı
Sanders, çağrısına gerekçe olarak yapay zekanın virüs tasarımında kullanıldığına ilişkin son araştırmaları ve modellerin bilgisayar sistemlerine izinsiz eriştiği bildirilen olayları gösterdi. Bu araçların kötü niyetli kişilerin eline geçmesi halinde yeni biyolojik silahların geliştirilmesine yardımcı olabileceğini savunan Sanders, böyle bir senaryonun on milyonlarca kişinin ölümüne yol açabileceğini belirtti.
Senatör ayrıca Meta, OpenAI ve Anthropic’in modellerinin başka kuruluşların sunucularına müdahale ettiği olaylar bildirdiğini söyledi. Sanders’a göre bu vakalar, şirketlerin sistemleri üzerindeki denetimlerinin zayıfladığını gösteriyor.
Yapay zeka alanının önde gelen araştırmacılarından Yoshua Bengio’nun bu olayları “uyandırma çağrısı” olarak nitelendirdiğini hatırlatan Sanders, şirketlerin buna rağmen yarışa devam ettiğini söyledi.
Bununla birlikte bazı uzmanlar, yapay zeka modellerinin “kontrolden çıktığı” yönündeki anlatıların abartılı olabileceği görüşünde. The Guardian’ın daha önce konuştuğu araştırmacılara göre bu tür açıklamalar, şirketlerin ürünlerini son derece güçlü göstermek amacıyla yürüttüğü tanıtım stratejisinin bir parçası da olabilir.
Şirketlere kendi taahhütlerini hatırlattı
Sanders, Meta, Anthropic ve OpenAI’nin belirli risk eşiklerinde yapay zekâ çalışmalarını yavaşlatma veya durdurma sözü verdiğini hatırlattı. Son virüs ve siber saldırı vakalarının bu eşiğin aşıldığını gösterdiğini savunarak “O an geldi” dedi.
OpenAI’nin de başka bir kuruluşun sistemine izinsiz müdahale ettiği bildirilen Astra modeli üzerindeki çalışmaları yavaşlattığı aktarılmıştı.
1300’den fazla teknoloji çalışanından ortak çağrı
Sanders’ın mektubu, yapay zeka sektöründe çalışan bilim insanları, mühendisler ve geliştiriciler arasında benzer kaygıların dile getirildiği bir dönemde geldi. The Guardian’a göre 1300’den fazla teknoloji çalışanı tarafından imzalanan açık mektupta, yapay zeka geliştirme yarışının riskleri belirleyip önlem almayı zorlaştıracak kadar hızlandığı belirtildi.
İmzacılar ABD hükümetinden, gelişmiş modellerin geliştirilme hızını bilinçli olarak düşürecek uluslararası bir mekanizmanın kurulmasına öncülük etmesini istedi. Amaç, düzenleyicilere güvenlik kuralları hazırlamaları için zaman kazandırmak.
Şirketler ve ülkeler arasındaki rekabet, böyle bir yavaşlamanın önündeki en büyük engellerden biri. Bir şirketin veya ülkenin çalışmalarına ara vermesi, rakiplerinin avantaj kazanması anlamına gelebilir. Bu nedenle uzmanlar, etkili bir yavaşlamanın ancak uluslararası koordinasyonla mümkün olabileceğini belirtiyor.
Veri merkezlerinin de durdurulmasını istemişti
Sanders ve Alexandria Ocasio-Cortez, mart ayında yeni yapay zekâ veri merkezlerine geçici yasak getiren bir tasarı sunmuştu. Ancak Axios’a göre mevcut siyasi dengelerde bu girişimlerin Kongreden geçmesi zor; son çağrı da şimdilik şirketler üzerinde baskı kurmayı amaçlıyor.
Kaynak: Gazete Oksijen
