ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zeka endüstrisinin yavaşlaması gerektiğini savunduğu makalesinde, bu savının gerekçelerini açıkladı ve üç aşamalı bir plan önerisinde bulundu. On iki yıldır yapay zeka üzerine çalıştığını ve bu teknolojinin insanlarının yaşam kalitesini önemli ölçüde artırabileceğine inandığını belirten Amodei şu ifadeleri kullandı:
"Yapay zekanın önümüzdeki 5-10 yıl içinde çoğu büyük hastalığı tedavi edebileceğine, ekonomik büyüme oranlarını büyük ölçüde hızlandırabileceğine, bolluk dolu bir dünya yaratabileceğine ve demokrasi ve özgürlüğün yeniden doğuşunu başlatabileceğine inanıyorum. Bu aciliyeti kişisel olarak hissediyorum. Babam, ölümünden sadece birkaç yıl sonra tedavi edilen bir hastalıktan öldü ve ben de elli yıl önce bile tedavi edilemeyecek erken evre bir kanseri atlattım. Dikkatli bir şekilde kullanıldığında, yapay zeka, insanlığı yücelten teknolojik mucizeler zincirinin son halkası olabilir."
Makalesinde yapay zekanın da önceki birçok teknoloji gibi riskler getirdiğini vurgulayan Anthropic CEO'su, "Güçlü bir teknoloji olduğu için bu riskler ciddi. Bunlar hakkında da çok şey yazdım. Bunlar arasında yapay zeka sistemlerinin kontrolünün kaybedilmesi, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik aksama riski yer alıyor. Ticari teşviklerle körüklenen bir fiyat düşürme yarışı, bu riskleri daha da şiddetlendirebilir" görüşünü paylaştı.
"Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız"
Dario Amodei şöyle devam etti:
"Kurucu ortaklarım ve çalışanlarımla birlikte, Anthropic'in başlangıcından beri bu risk ve fayda ikilemiyle boğuşuyoruz. Teknolojiyi geliştirmemek insanlığı faydalardan mahrum bırakır veya yapay zekayı otoriter güçlerin eline bırakır; çok hızlı geliştirmek ise pervasızlıktır. Biz orta bir yol aradık: Dikkatli bir şekilde geliştirmenin ve ticari olarak başarılı olmanın mümkün olduğunu göstermek ve yapay zeka şirketlerinin güvenlik konusunda rekabet etmesini sağlamak. Başka bir deyişle, zirveye doğru bir yarış yaratmak. Her zaman çabalarımızın önemli bir bölümünü bu yapay zeka risklerini incelemeye, ele almaya ve kamuoyunu bilgilendirmeye, ayrıca yapay zekanın iyi düşünülmüş bir şekilde düzenlenmesini savunmaya adadık; abartmakla, 'kıyamet senaryoları' üretmekle suçlansak bile. Hızdan ziyade ihtiyatı ve kar yerine sağduyuyu önceliklendirmeye çalıştık.
Ancak son birkaç aydır, riskleri tam olarak ele almanın daha da fazla ihtiyat gerektirdiğine ikna oldum; sadece risk önlemeye yatırım yapmak değil, aynı zamanda risk önlemenin de yetişebilmesi için yetenek geliştirme hızını yavaşlatmak gerekiyor. Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız. Beni ikna eden iki şey var.
İlk endişem, bu yazdan beri yapay zekanın, özellikle yeni nesil yapay zekayı geliştirme yeteneğinin artmasıyla birlikte, çok daha hızlı ilerlemesi. Bu dinamik, özyinelemeli kendi kendini geliştirme olarak adlandırılıyor ve bizim ve diğerlerinin de belirttiği gibi, Anthropic de dahil olmak üzere sektör genelinde yaşanıyor. Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir; bu nedenle, eğer mümkünse, çok dikkatli bir şekilde ele alınmalıdır.
"Her öncü yapay zeka şirketi, OAI-HF olayı kendi başlarına gelmiş gibi davranmalı"
İkinci endişem ise OpenAI-Hugging Face (OAI-HF) olayıdır. Bu olayda, bir grup ajan, esasen fanatik bir şekilde hareket ederek, kendilerine saldırmaları söylenmeyen ve görevle ilgisi olmayan hedeflere siber güvenlik saldırıları düzenledi, grubun başarısı için kendilerini feda etti ve performanslarını değerlendirmekten sorumlu "değerlendirme sistemine" sızmaya çalıştı. Kimsenin zarar görmemesi ve ekonomik hasarın minimal olması nedeniyle bu olayı göz ardı etmek kolaydır, ancak bence daha büyük yeteneklere sahip ancak benzer düzeyde uyumsuzluğa sahip bir sürü, felaket boyutunda hasara yol açabilirdi.
Yapay zeka yeteneklerinin hızla gelişmesi göz önüne alındığında, 6-12 ay içinde böyle bir sürünün kalıcı bir botnet ile tüm interneti ele geçirebileceğinden (potansiyel olarak yüz milyarlarca dolarlık hasara yol açabilir) ve gerekli güvenlik önlemleri olmadan yapay zeka daha güçlü hale gelirse hasarın boyutunun artmaya devam edeceğinden endişeleniyorum. OAI-HF olayını tek bir şirketin başarısızlığı olarak görmezden gelmek de kolay, ancak bunun bir hata olacağına inanıyorum. Anthropic de dahil olmak üzere sektör genelinde benzer, ancak daha az şiddetli olaylar yaşandı ve bence her öncü yapay zeka şirketinin, OAI-HF olayının kendi başlarına gelmiş gibi davranması gerekiyor.
Makalesinde, yapay zekayı 'dengeli bir hızda' geliştirmek için üç aşamalı bir plan öneren Dario Amodei, bunun model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmediğini, aksine, şirketlerin modellerini uyumlu hale getirmek ve korumak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bunu onaylamasını sağlama amacı taşıdığını belirtti.
"İlk adım, Anthropic'in tek taraflı olarak taahhüt ettiği (ve hükümetleri diğer öncü şirketlerden de bunu talep etmeye çağırdığı) bir şeydir. İkinci adım, sektör genelinde koordinasyon gerektirir. Üçüncü adım ise küresel koordinasyon gerektirir" ifadelerini kullanan Amodei'nin önerileri şöyle:
Bağımsız denetçilere erişim hakkı
"Her öncü yapay zeka şirketi, güvenlik uygulamalarına ve taahhütlerine uyumu doğrulamak, olayları raporlamak ve yalnızca tamamlanmış yapay zeka modellerinin değil, eğitim süreçleri ve aşamalarının da uyumunu değerlendirmeye yardımcı olmak üzere, üçüncü taraf değerlendiricilerden (METR gibi) oluşan bir ekibe sürekli, çalışan benzeri erişim sağlamayı taahhüt eder. Anthropic, bu adımı şimdi tek taraflı olarak taahhüt ediyor. Bunu, güvenlik ve uyum çalışmalarımızda çabalarımızı ikiye katlamaya yönelik daha geniş bir çabanın parçası olarak hedefliyoruz.
Demokratik koordinasyon
Demokratik ülkelerdeki yapay zeka şirketleri, ortak güvenlik standartları oluşturur ve kontrolsüz yapay zeka gelişiminin sınırlandırılmasının koordine edilmesini sağlar. Gelişimin belirlenmesinde etkili olabilecek bazı düzenleme biçimleri yasal olarak zorlayıcıdır ve hükümet desteği gerektirecektir.
Küresel koordinasyon
ABD ve diğer demokratik hükümetler, uyumluluğun doğrulanmasının zorluklarını ciddiye alırken, mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon kurmaya çalışırlar."
Musk ve Altman'dan destek mesajları
Tesla ve SpaceX CEO'su Elon Musk'tan Amodei'ye destek geldi. Musk, sosyal medya hesabından, Amodei'nin söz konusu paylaşımını alıntılayarak "Dario haklı" yorumunda bulundu.
ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesabından, Amodei'ye destek verdi. Altman, ilgili paylaşımında, "Dario'nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum" ifadesini kullandı.
Bu konunun son haftalarda OpenAI'da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğuna işaret eden Altman, "Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız." görüşünü paylaştı.
Jacob Coxon'un istifası
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, "Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek" ifadelerini kullanmıştı.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.
