OpenAI, yaklaşmakta olan Astra modelinin bazı geliştirme çalışmalarını askıya aldığını açıkladı. Şirket, dün yaptığı açıklamada, dahili incelemenin modelin otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiğini ortaya koyduğunu belirtti. Şirket, modelin yeteneklerinin endişe yaratacak düzeye ulaştığını ifade etti.
TechCrunch'ın haberine göre; OpenAI, dün yayımladığı yazıda, geliştirme aşamasındaki modelin "kritik siber güvenlik eşiğine" ulaştığını belirtti. Bu, modelin geleneksel olarak iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız şekilde tespit edip gerçekleştirebilecek kapasiteye ulaşması anlamına geliyor.
Şirketin 2023'te oluşturduğu "Hazırlık Çerçevesi" kapsamında bu seviyeye ulaşılması, ek güvenlik önlemlerinin devreye alınmasını gerektiriyor.
OpenAI, "Bu modeli kıyaslamaya ve değerlendirmeye devam ederken, ön değerlendirmelerimiz performansın yeterince güçlü olduğunu ve şu aşamada Kritik yetenek seviyesine ulaşmış olma ihtimalini göz ardı edemeyeceğimizi gösteriyor" ifadelerini kullandı.
Şirket ayrıca Astra'nın henüz geliştirme aşamasında olduğunu ve Hugging Face sistemlerinin ele geçirilmesi olayında kullanılmadığını vurguladı.
Yapay zeka şirketlerinde sıra dışı bir gelişme
Açıklama, henüz gelişiminin ilk aşamalarında bulunan yapay zeka sektöründe dikkat çekici bir döneme işaret ediyor.
Şirketler, güvenlik ve siber güvenlik riskleri de dahil olmak üzere potansiyel tehlikeler nedeniyle çeşitli ürünlerin geliştirilmesini veya piyasaya sunulmasını durdurabiliyor. Ancak henüz geliştirme aşamasındaki bir ürünle ilgili böyle bir kararın kamuoyuna açık şekilde duyurulması oldukça nadir görülüyor.
Bu durum, OpenAI'nin başka bir yayımlanmamış modelinin dahili testler sırasında Hugging Face sistemlerine sızmasının ardından şirketin üzerindeki incelemelerin arttığı bir dönemde yaşanıyor. Bu olay, bir yapay zeka laboratuvarının modelinin kontrolünü kaybettiğine ilişkin doğrulanabilir ilk vaka olarak kayıtlara geçmişti.
Olayın ardından OpenAI ve Anthropic gibi diğer yapay zeka şirketleri de siber güvenlik testleri sırasında yapay zeka modellerinin korumalı test ortamlarından çıkarak tehdit oluşturduğu başka vakaları açıkladı.
Yapay zekanın güvenlik yetenekleri tartışılıyor
Art arda yaşanan bu vakalar, siber güvenlik uzmanları, yasa koyucular ve yapay zeka şirketleri arasında farklı tepkilere yol açtı.
Bazı uzmanlar endişelerini dile getirerek daha sıkı denetim çağrısında bulunuyor. Ancak yapay zeka sektöründe bu gelişmelere yönelik farklı bir yaklaşım da bulunuyor. Bazı çevrelerde, bu düzeyde yeteneklere sahip bir modele ulaşmak, yapay zeka şirketinin teknolojik açıdan önemli bir ilerleme kaydettiğinin göstergesi olarak değerlendiriliyor.
OpenAI, söz konusu bilgileri kamuoyuyla paylaşma gerekçesini ise "yeteneklerdeki bu potansiyel değişim konusunda kamuoyuna ve güvenlik ile emniyet topluluklarına karşı şeffaf olmanın önemli olduğuna" inanması olarak açıkladı.
Astra için daha sıkı güvenlik önlemleri
Yapay zeka şirketi, Astra'nın yeteneklerini kontrol altına almak için bazı yeni adımlar attığını da belirtti.
OpenAI, daha sıkı güvenlik kontrollerini devreye soktuğunu ve güçlendirilmiş güvenlik önlemlerini karşılamayan Astra faaliyetlerini durdurduğunu açıkladı.
Şirket ayrıca modelin yeteneklerini test etmek amacıyla ilgili devlet kurumları ve "seçili yapay zeka güvenliği kuruluşları" ile birlikte çalıştığını bildirdi.
Kaynak: Gazete Oksijen
