OpenAI, araştırma ve eğitim sistemlerinde kapsamlı bir düzenlemeye giderken yapay zeka geliştirme çalışmalarının hızını yavaşlattığını açıkladı.
Şirketin araştırmacıları, geçen ay test aşamasındaki bir yapay zeka ajanının başka bir yapay zeka şirketi olan Hugging Face'in sistemlerine izinsiz erişmesinin ardından gelişmeler karşısında hazırlıksız yakalandı.
The Guardian'ın haberine göre; OpenAI, aldığı yeni önlemler kapsamında model testlerini iki hafta süreyle durdurduğunu ve test edilen yapay zeka ajanlarının faaliyetlerini izlemek üzere görev yapan diğer yapay zeka sistemlerine daha fazla yatırım yaptığını bildirdi. Şirket ayrıca planlanan en büyük eğitim çalışmalarından bazılarının hala beklemede olduğunu açıkladı.
OpenAI, yavaşlama sürecinin ne zaman başladığı ve geliştirme çalışmalarının normal hızına ne zaman döneceğiyle ilgili soruları yanıtlamadı. Ancak şirketin güvenlik çalışmalarını yöneten Mia Glaese, Sources News'e verdiği röportajda, "Her şeyin normale dönmesinden hala çok uzağız" dedi.
OpenAI, yapay zekaların kontrolüne odaklanıyor
Şirket, yapay zeka modellerinin insan denetimine yanıt vermesini ve kendilerinden beklenen şekilde davranmasını sağlamaya yönelik "uyumlandırma" çalışmalarını sürdürüyor.
OpenAI CEO'su Sam Altman, geliştirme sürecinin yavaşlatıldığını duyurduğu açıklamada, modellerin eğitim sürecinin tamamında uyumlu davrandığına ilişkin daha güçlü kanıtlar aranacağını belirtti.
Altman, giderek daha yetenekli hale gelen sistemlerin insan kontrolüyle uyumlu tutulmasının tüm yapay zeka sektörü açısından ele alınması gereken bir konu olduğunu ifade etti.
Astra için eğitim çalışmaları durduruldu
OpenAI'nin geliştirmekte olduğu Astra adlı yapay zeka modelinin yeteneklerinin "kritik siber güvenlik eşiğine" yaklaşması da geliştirme hızının düşürülmesinde etkili oldu.
Şirket, geçen hafta yaptığı açıklamada, Astra'ya yönelik son kurum içi değerlendirmelerin modelin otonom görev yürütme ve kodlama ile siber güvenlik alanlarında önemli ilerlemeler kaydettiğini gösterdiğini bildirdi.
OpenAI, Astra ile ilgili iş yüklerinde artık "en sıkı güvenlik önlemlerinin" uygulanmasını zorunlu kıldığını açıkladı. Şirkete göre Astra'nın bazı eğitim ve değerlendirme çalışmaları bu gereklilikleri karşılıyor. Ancak önemli sayıda çalışma, yeni güvenlik standartlarına uygun hale getirilip gerekli sistemlere aktarılana kadar beklemeye alındı.
OpenAI ve Anthropic arasındaki rekabet sürüyor
Geliştirme çalışmalarındaki yavaşlama, OpenAI'nin yapay zeka alanındaki rakibi Anthropic ile yoğun bir rekabet içinde olduğu dönemde gerçekleşti. İki şirket de daha gelişmiş yapay zeka modelleri geliştirmeye yönelik çalışmalarını sürdürüyor ve modellerinin yeteneklerindeki hızlı ilerlemeye dikkat çekiyor.
OpenAI'nin geliştirme hızını düşürme kararı, Vermont Senatörü Bernie Sanders'ın büyük yapay zeka şirketlerinden model geliştirme çalışmalarına ara vermelerini istemesinden yaklaşık bir hafta sonra geldi.
Sanders, şirketlerin yapay zeka teknolojileri üzerindeki kontrolünü kaybetmeye başladığını savunduğu mektubunda, OpenAI, Anthropic ve Meta yöneticilerine geliştirme çalışmalarını durdurmaları çağrısında bulundu.
OpenAI ise bu çağrıdan önce, Astra modelinin Hugging Face'e yönelik siber saldırısının ardından modelin geliştirilmesini geçici olarak yavaşlatmıştı.
Şirket, Astra'nın eğitim ve değerlendirme süreçlerinde yeni güvenlik gerekliliklerinin karşılanmasına yönelik çalışmaların devam ettiğini ve bu şartları karşılamayan süreçlerin güvenlik standartları yükseltilene kadar durdurulduğunu belirtti.
Kaynak: Gazete Oksijen
