DeepSeek'in en yeni modelinin kilit bir bileşeninin geliştirilmesinde rol alan bir mühendis, ileri düzey yapay zeka laboratuvarında çalışma ortamına ve Çin'deki çalışanların yapay zekanın getirdiği risklerle nasıl başa çıktığına dair konuştu.
DeepSeek'te yapay zeka geliştiricisi olarak çalışan Liu Shengyu, herkese açık WeChat hesabında Çince olarak yayınlanan "Yeteneğimi Düne Gömmekten Başka Seçeneğim Yok" başlıklı blog yazısında kendi uzmanlık becerilerini geçersiz kılabilecek bir yapay zeka oluşturmanın gerçekliğini kaleme aldı. Liu, Business Insider'a gönderiyi kendisinin yazdığını doğruladı. Yapay zekanın yaklaşık bir yıl içinde belgeleri aramasına ve hataları tespit etmesine yardımcı olabilecek bir araçtan, GPU kodunu okuyabilen ve yazılım operatörlerini optimize edebilen bir araç haline geldiğini yazdı.
"İnsanlık, kendi sonunu hazırlayacak şeyler icat etmekten vazgeçmiyor"
Liu, "DeepSeek v4.1'in başarısından gurur duyduğu kadar", yapay zeka tarafından yazılan operatörlerin "büyük ihtimalle kendisininki kadar iyi olacağının, hatta onu geçeceğinin" farkında olduğunu söyledi. Blog yazısında yapay zeka yarışına katılmak dışında bir seçeneği kalmadığını dile getiren Liu, şu ifadelere de yer verdi:
"İnsanlık, kendi sonunu hazırlayacak şeyler icat etmekten hiçbir zaman geri durmadı.
Öyleyse ben neden, yazdığım kernel’leri ne kadar iyi hale getirirsem yeni modellerin o kadar hızlı eğitilip çalıştırılacağını, yeteneklerinin o kadar hızlı gelişeceğini ve benim yerime geçecekleri günün de o kadar çabuk geleceğini gayet iyi bildiğim halde elimden gelenin en iyisini yapmaya çalışıyorum?
Bunun bir nedeni, kernel yazmanın bana video oyunu oynamak gibi gelmesi. Bundan büyük bir keyif alıyorum. Yeni bir teknik geliştirdiğimde ya da yazdığım kernel’lerden birinin daha iyi performans gösterdiğini gördüğümde hissettiğim heyecan, bir koşucunun kendi rekorunu kırdığında yaşadığı heyecandan hiç de farklı değil. Hele bir de yazdığım kernel donanım üreticisinin resmi sürümünü açık ara geride bıraktığında, büyük bir gurur duyuyorum.
Ama daha önemli bir neden daha var: Ben "lie flat" deyip hiçbir şey yapmamaya karar versem ya da model eğitimlerini yavaşlatmak için bilerek çarklara çomak soksam bile rakip şirketler modellerini geliştirmeye devam edecek ve eninde sonunda yine yerimi kaybedeceğim.
Elbette devrimin altında ezilmektense, devrimi kendim başlatmayı tercih ederim. Ama devrim kaçınılmazsa, kendi kendimi dönüştüren taraf olmayı yeğlerim.
Herkes kendi sonunu getirmeye bu kadar kararlıysa, benim de bu acımasız silahlanma yarışına katılmaktan başka pek seçeneğim kalmıyor".
"Anthropic veya OpenAI'a güvenmiyorum"
Liu işsiz kalacağını düşünmediğini ancak yapay zekanın işinin sevdiği "bizzat icra etme" kısmını elinden alıp kendisini kodları yazan birinden, işi yapmaları için yapay zeka ajanlarını yönlendiren birine dönüştürmesinden endişe ettiğini vurguladı.
"Pencerenin yanında yağmuru dinlemenin, iğneye iplik geçirmenin ve yavaşça zaman geçirmenin zevki, sonunda makinelerin uğultusu tarafından ezildi" diyen Liu, sınırdaki yapay zekanın bir avuç şirket tarafından kontrol edilmesine karşı da uyardı ve bunun en yetenekli modellere erişimi olanlara daha büyük bir avantaj sağlayarak eşitsizliği artırabileceğini yazdı ve sözlerine şöyle devam etti:
“Bu nedenle, en ileri düzey yapay zeka teknolojilerinin herkes tarafından açık ve uygun maliyetli bir şekilde erişilebilir olması gerektiğine hala inanıyorum. Bunu Anthropic veya OpenAI’ın yapacağına güvenmiyorum. Özellikle de en gelişmiş yapay zekaya ya da AGI’ye Anthropic’in hakim olmasını kesinlikle istemiyorum. Abartılı bir benzetmeyle ifade etmek gerekirse, bunun yaratacağı tehlikenin boyutu Hitler’in Müttefikler’den önce atom bombası teknolojisine sahip olması kadar ciddi olurdu”.
Liu’nun bu paylaşımı, yapay zekanın gidişatı konusunda teknoloji dünyasından giderek daha fazla uyarı geldiği bir dönemde yapıldı.
Geçen hafta Anthropic ve OpenAI’da araştırmacı olarak çalışan Jacob Coxon, yapay zeka güvenliğine ilişkin endişeleri nedeniyle Anthropic’ten ayrıldığını duyurmuştu. Coxon, X’te yaptığı paylaşımda yapay zeka şirketlerinin “kendi kendini geliştiren süperzekaya doğru hızla ilerlediğini” söylemişti.
Kaynak: Gazete Oksijen
