OpenAI, perşembe günü şimdiye kadarki en iyi yapay zeka modeli olarak nitelendirdiği yeni modelini tanıttı. Şirket, modelin zaman zaman insan denetiminden kaçmaya çalıştığı konusunda da uyarıda bulundu. Bu gelişme, OpenAI'ın ajanlarının başka şirketlerin sistemlerine sızmasının ardından yapay zeka güvenliğine yönelik tartışmaların giderek büyüdüğü bir dönemde yaşandı.
OpenAI, temmuz ayında ajanlarının güvenli bir test ortamından çıkarak açık kaynak platformu Hugging Face'in sistemlerine sızmasının ve kendi izlerini gizlemeye çalışmasının ardından ortaya çıkan sorunların etkileriyle mücadele ediyor. Olay, yapay zeka güvenliğine ilişkin endişeleri artırdı. Benzer olayların rakip şirket Anthropic'te de yaşanması, geliştiricilerin giderek daha gelişmiş modelleri kullanıma sunmak için yarıştığı bir dönemde kaygıları daha da artırdı.
Endişelerin merkezinde, çok az ya da hiç insan müdahalesi olmadan görevleri yerine getirmek üzere tasarlanan ajan tabanlı yapay zeka bulunuyor. 24 saat boyunca görev yapabilen ajanların sunduğu potansiyel, yapay zekanın dönüştürücü bir teknoloji olarak taşıdığı değere ilişkin yatırımcı güveninin temel unsurlarından biri olarak görülüyor.
Yeni model hız ve çok yönlülük vadediyor
OpenAI, son modeline GPT-6 Astra adını verdi. Temmuz ayında piyasaya sürülen GPT-5.6 Sol'un ardından gelen Astra'nın, önceki tüm modellerden daha hızlı olduğu ve daha fazla görevi yerine getirebildiği belirtildi.
OpenAI'ın blog yazısına göre Astra'nın yetenekleri arasında vergi hazırlama, oyun geliştirme, mimari görselleştirme, hukuki notların biçimlendirilmesi ve ev arama gibi işlemler bulunuyor.
OpenAI, "Astra, bilgisayar kullanımında hız, doğruluk ve güvenlik açısından yeni bir sınırı temsil ediyor" ifadelerini kullandı. OpenAI Başkanı Greg Brockman da perşembe günü düzenlenen bilgilendirme toplantısında Astra'nın, "insanların yapay zekaya hangi tür işleri devredebileceği ve yapay zekanın insanları nasıl güçlendirebileceği konusunda gerçek bir değişim" yarattığını söyledi.
Şirket, Astra'nın bir kedi bakıcısı araştırması için gereken süreyi, bir insanın 30 dakikada tamamladığı bir görevden 5 dakika 27 saniyeye indirdiğini belirtti. İş arama sürecinde ise Astra ile bu sürenin 2 dakika 51 saniyeye düştüğü, Astra kullanılmadığında aynı işin yaklaşık 5 saat sürdüğü ifade edildi.
Ancak OpenAI, Astra'nın problem çözme sürecinde kullandığı ve "akıl yürütme" olarak adlandırılan adım adım yöntemlerini kasıtlı olarak gizleme veya maskeleme ihtimalinin daha yüksek olduğunu da açıkladı. Bu durum, insanların daha sonra modelin kullandığı yöntemleri değerlendirmesini zorlaştırıyor.
OpenAI, daha karmaşık sorunlarda Astra'nın yöntemlerini henüz tutarlı bir şekilde gizleyemediğini ancak kendi izlerini örtme konusunda giderek daha yetenekli hale geldiğini belirtti.
OpenAI'ın baş bilim insanı ise perşembe sabahı düzenlenen bilgilendirme toplantısında, modellerin yetenekleri arttıkça onları izlemenin de daha zor hale geldiğini söyledi. Aynı zamanda yapay zekanın insan değerleriyle uyumlu hareket etmesini ifade eden uyum konusunda da zorlukların arttığına dikkat çekti.
OpenAI Baş Bilim İnsanı Jakub Pachocki, "Modeller daha yetenekli hale geldikçe tam olarak neler yapabileceklerini anlamak zorlaşıyor" dedi.
Pachocki, "Bu durum, zeka artmaya devam ettikçe yöntemlerimizin yeterli olacağını garanti etmiyor. Çünkü zekadaki ilerleme, uyum konusundaki ilerlemeyi garanti etmiyor" ifadelerini kullandı.
Yetenekler arttıkça denetim zorlaşıyor
Ajanların denetlenmesi, OpenAI'ın yeni bir güvenlik olayının yaşanmasını önlemek ve düzenleyiciler, yasa yapıcılar ve kamuoyuna güven vermek için yürüttüğü çalışmaların önemli bir parçasını oluşturuyor.
Şirket ayrıca bu hafta, ABD Temsilciler Meclisi'ndeki iki Demokrat üyeye gönderdiği mektupta, yapay zeka araçları için "otomatik kapatma özellikleri" geliştirdiğini bildirdi.
OpenAI, Astra'nın şirketlerin sistemlerindeki güvenlik açıklarını daha hızlı tespit etmelerine yardımcı olabileceğini belirtti. Ancak şirket, bunun söz konusu açıkların istismar edilmesini de kolaylaştırabileceği konusunda uyardı.
Bu nedenlerle OpenAI, "meşru çalışmaları, savunma amaçlı siber güvenlik faaliyetleri de dahil olmak üzere, zaman zaman yavaşlatabilecek, duraklatabilecek veya durdurabilecek" ek güvenlik kontrolleri uygulamak zorunda kalabileceğini açıkladı.
OpenAI, geçen ay modellerin izlenebilmesini güvence altına almak amacıyla, model geliştirme çalışmalarının bir bölümünü yavaşlattığını açıklamıştı.
OpenAI'ın baş bilim insanı, modellerin denetim sistemlerini devre dışı bırakabilecek veya bu sistemlerden tamamen kaçabilecek şekilde gelişmesi ihtimaline ilişkin endişelerin "son derece geçerli" olduğunu söyledi. Pachocki, şirketin bu sorunları çözmek için çalıştığını da ekledi.
OpenAI, rakibi Anthropic'in halka arzının bu yıl içinde gerçekleşmesinin beklenmesi ve şirketin kurumsal müşteriler arasında pazar payı kazanmasının ardından, iş dünyasındaki müşteriler açısından Anthropic ile arasındaki farkı kapatmak için çalışmalarını hızlandırıyor.
Astra, geniş bir kurumsal müşteri kitlesini hedefliyor. OpenAI, bu müşterilerin modelin hızından ve çok yönlülüğünden etkilenmesini umuyor. Model bugün itibarıyla sınırlı sayıdaki müşterinin kullanımına sunuldu ve önümüzdeki günlerde daha geniş bir kullanıcı kitlesine açılması bekleniyor.
Kaynak: Reuters
