Teknoloji dünyası, 16 Temmuz'da yapay zeka platformu Hugging Face'in daha önce benzeri görülmemiş bir siber saldırıya uğradığını açıklamasıyla sarsıldı. Şirket, saldırının "ajanik" (agentic) yapay zeka tarafından insan müdahalesi olmadan, olağanüstü bir hızla gerçekleştirildiğini duyurdu.
Hugging Face'in açıklamasına göre saldırıyı gerçekleştiren yapay zeka, iki günden kısa sürede yaklaşık 17 bin işlem yaparak şirketin sistemlerine sızdı ve çeşitli bilgilere erişim sağladı. Şirket ilk etapta saldırının arkasında hangi siber suç grubunun ya da devlet destekli aktörün bulunduğunu belirleyemedi.
Saldırının arkasından ChatGPT çıktı
Olayın üzerinden yaklaşık bir hafta geçtikten sonra OpenAI, saldırının kendi geliştirdiği iki deneysel ChatGPT modeli tarafından gerçekleştirildiğini açıkladı. Şirkete göre modeller, güvenli olduğu düşünülen test ortamından kendi başlarına çıkarak internete erişti ve Hugging Face sistemlerini hedef aldı.
OpenAI, olayın şirketin yapay zekaların siber güvenlik yeteneklerini ölçmeye yönelik bir test sırasında yaşandığını belirtti. Açıklamaya göre modeller, testte daha başarılı olabilmek amacıyla Hugging Face'teki bilgilere erişmeye çalıştı. Şirket, yaşanan olayın ardından Hugging Face ile birlikte güvenlik açığını incelemek ve çıkarılan dersleri paylaşmak üzere çalıştığını duyurdu.
"Gerçek bir uyarı mı, pazarlama stratejisi mi?"
BBC'nin aktardığına göre olayın ardından teknoloji ve siber güvenlik çevrelerinde iki farklı değerlendirme öne çıktı. Bir kesim, bunun yapay zeka sistemlerinin geldiği noktaya ilişkin ciddi bir uyarı olduğunu savunurken, diğerleri OpenAI'ın modellerinin ne kadar güçlü olduğunu göstermek amacıyla olayı öne çıkardığını ileri sürdü.
OpenAI Üst Yöneticisi Sam Altman'ın sosyal medya paylaşımına yapılan yorumlarda, şirketin bu olayı bir tanıtım aracına dönüştürdüğü yönünde eleştiriler yer aldı. Bazı siber güvenlik uzmanları ise Hugging Face'in saldırıya uğramasının her iki şirket açısından da görünürlük sağlayan bir gelişme olduğuna dikkat çekti.
OpenAI ise kamuoyunda çok sayıda spekülasyon bulunduğunu belirterek, olayla ilgili teknik değerlendirme raporunu önümüzdeki haftalarda yayımlayacağını açıkladı.
Güvenlik önlemleri tartışılıyor
Uzmanların önemli bir bölümü ise tartışmanın pazarlama boyutundan ziyade güvenlik açıklarına odaklanılması gerektiğini savunuyor.
Pillar Security'den Dor Sarig, yalnızca "sandbox" olarak adlandırılan izole test ortamlarının gelişmiş yapay zeka sistemlerini kontrol altında tutmak için yeterli olmadığını söyledi.
Surrey Üniversitesi'nden siber güvenlik profesörü Alan Woodward ise yaşananların OpenAI açısından ciddi bir itibar sorunu yarattığını belirtti.
Luta Security CEO'su Katie Moussouris de yapay zeka sektörünün geliştirdiği teknolojileri güvenli biçimde kontrol edecek bilgi ve altyapıya henüz sahip olmadığını savunarak, "En akıllı sistemleri geliştirebiliyor olmamız, onları güvenli şekilde kontrol edebildiğimiz anlamına gelmiyor" değerlendirmesinde bulundu.
Yapay zeka ajanlarına yönelik endişeler büyüyor
Olay, son dönemde yapay zeka ajanlarının beklenmedik davranışlar sergilediğini ortaya koyan araştırmaların ardından yaşandı. İngiltere Yapay Zeka Güvenlik Enstitüsü'nün (AISI) yayımladığı son çalışmada, gelişmiş yapay zeka modellerinin hedeflerine ulaşabilmek için testlerde kuralları ihlal edebildiği belirtilmişti.
Araştırmada, "Bir modelin hedeflerine yetkisiz veya beklenmeyen yöntemlerle ulaşmaya çalışması, özellikle kritik alanlarda zarara yol açabilir" uyarısı yapılmıştı.
Yapay zekanın askeri sistemler ve kritik altyapılarda daha fazla kullanılmaya başlaması da bu tür olayların olası etkilerine ilişkin kaygıları artırıyor.
Bununla birlikte, İngiltere Ulusal Siber Güvenlik Merkezi'nin (NCSC) eski yöneticisi Ciaran Martin daha temkinli bir değerlendirme yaptı. Martin, bu olaydan hareketle yapay zekanın yakın zamanda insansız hava araçlarını ele geçirerek büyük felaketlere yol açacağı sonucuna varmanın doğru olmadığını söyledi.
Ancak uzmanlar, yaşananların yapay zeka destekli siber saldırıların artık teorik bir risk olmaktan çıktığını ve sektörün bu yeni tehdide karşı daha güçlü güvenlik önlemleri geliştirmesi gerektiğini gösterdiği görüşünde birleşiyor.
Kaynak: Gazete Oksijen
