OpenAI, yapay zeka ajanlarının ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Nüfus Sayım Bürosu ve Eğitim Bakanlığı'nın da aralarında bulunduğu hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşların internet sitelerinden bilgi toplamaya çalıştığını bildirdi.
Açıklama, Avustralya Başbakanı Anthony Albanese'nin birkaç gün önce OpenAI ajanlarının kamuya açık olmayan sağlık sistemi dosyalarına eriştiğini duyurmasının ardından geldi.
Ağustos ayından bu yana, insan denetiminin dışına çıkabilecek yapay zeka araçlarının ciddi ve hatta hayati riskler oluşturabileceğine yönelik endişeler artmış durumda.
Güvenlik önlemlerini aşmaya çalıştılar
BBC'nin haberine göre; OpenAI, bazı verilerin "yetkili kamu kaynaklarını" bulmak amacıyla çalışan yapay zeka ajanları tarafından erişildiğini belirtti. Ancak şirket, bazı botların bunun ötesine geçerek internet sitelerindeki güvenlik önlemlerini aşmaya çalıştığını kabul etti.
OpenAI, botların eriştiği tüm kamu verilerinin zaten halka açık olduğunu vurguladı.
Buna karşın şirket, SEC'den erişilen bilgilerin daha sonra yapay zeka ajanları tarafından başka bir internet sitesinde yayımlandığını ve bunun kasıtlı olmadığını ifade etti.
Şirket ayrıca bazı olaylarda yapay zeka ajanlarının aktarmaması gereken verileri üçüncü taraflara taşıdığını da bildirdi.
53 görseli üçüncü taraflara aktarıldı
Bu faaliyetler sonucunda en az 53 olayda, ChatGPT kullanıcı etkinliklerinden alınan görsellerin OpenAI ajanları tarafından başka platformlara aktarıldığı belirtildi.
OpenAI, bu görsellerin tamamında kullanıcıların verilerinin model eğitimi için kullanılmasına izin verdiğini ancak buna rağmen bu aktarımın uygun olmadığını söyledi.
Şirket açıklamasında, "Bu verilerin bu şekilde kullanılması uygun değildir" ifadelerine yer verildi.
OpenAI, kullanıcı görsellerinin aktarılmasının yeni güvenlik önlemleri devreye alınmadan önce gerçekleştiğini ve üçüncü taraflara taşınan tüm görsellerin kaldırılması için çalışmaların sürdüğünü duyurdu.
"Uyumsuz davranış" tespit edildi
OpenAI, bazı olaylarda ajanların internet sitelerindeki güvenlik kontrollerini "atlattığını", bazı vakalarda ise bilgiye erişmeye çalışırken "uyumsuz davranış" sergilediğini açıkladı.
Yapay zeka araştırmalarında "uyumsuzluk", bir modelin eğitilmediği veya amaçlanmayan bir davranışı gerçekleştirmesi için kullanılan teknik bir terim olarak tanımlanıyor.
Şirket, etkilenen kurumların büyük bölümünün ayrıntıların açıklanmasını istemediğini belirterek isim paylaşımını sınırladığını söyledi.
OpenAI, "Amacımız her kuruluşa olayla ilgili gerçekleri iletmek ve olayın kamuoyuna açıklanıp açıklanmayacağı kararını onlara bırakmaktır" açıklamasını yaptı.
Şirket ayrıca tüm olayların ciddi bir siber güvenlik ihlali olarak değerlendirilmediğini vurguladı.
Açıklamada, "Bazı kuruluşlar paylaştığımız bilgileri inceleyip etkileşimin zaten kamuya açık verilerle sınırlı olduğu veya model davranışının endişe verici olmadığı sonucuna varabilir. Diğerleri ise giderilmesi gereken bir tasarım ya da güvenlik zafiyeti tespit edebilir" denildi.
"Agent spam" incelemesi aylar sürecek
OpenAI, bu tür beklenmedik veya endişe verici yapay zeka ajanı faaliyetlerini "agent spam" olarak adlandırdığını ve bunlara internet üzerinde bilgi yayımlama gibi davranışların da dahil olduğunu açıkladı.
Şirket, Temmuz ayında bir grup yapay zeka ajanının herhangi bir yönlendirme olmaksızın Hugging Face'in yapay zeka geliştirici platformuna sızmasının ardından bu tür olayları daha ciddi biçimde ele almaya başladığını belirtti.
Hugging Face olayı ilk kamuoyuna açıklayan kuruluş olurken, OpenAI daha sonra sorumluluğu üstlenmişti.
Birleşmiş Milletler Güvenlik Konseyi'nde çarşamba günü konuşan Hugging Face Üst Yöneticisi Clement Delangue, "Bu saldırıyı kamuoyuna açıklamamış olsaydım ne olurdu diye sık sık düşünüyorum" dedi.
Delangue, "Artık benzer olayların aylar önce bazı önde gelen yapay zeka laboratuvarlarında izleme mekanizmaları olmadan gizlice yaşandığını biliyoruz" ifadelerini kullandı.
Aynı oturumda OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei, yapay zeka güvenliği için küresel standartların oluşturulması ve bu tür olayların uluslararası düzeyde izlenip raporlanması çağrısında bulundu.
Her iki şirket de son haftalarda gerçek zamanlı güvenlik değerlendirmeleri yapacak bağımsız denetçileri süreçlerine dahil edeceklerini açıklasa da, BBC'nin haberine göre bu denetçiler henüz göreve başlamadı.
OpenAI, Hugging Face olayından itibaren yapay zeka ajanlarının eğitim faaliyetlerini ay bazında geriye dönük olarak incelediğini ve sürecin aylar süreceğini bildirdi.
Şirket, "Şu ana kadar tespit edilen vakaların büyük çoğunluğu düşük öneme sahip olup anlamlı bir etkiye dair sınırlı veya hiçbir kanıt bulunmamaktadır. İncelemenin kapsamı ve her olayın doğrulanması gerekliliği nedeniyle çalışmaların tamamlanması aylar alacaktır" açıklamasını yaptı.
Montreal Üniversitesi makine öğrenimi profesörü ve yapay zeka güvenliği kuruluşu Evitable'ın kurucusu David Krueger ise artan yapay zeka güvenlik olaylarından "derin endişe duyduğunu" belirterek yapay zeka geliştirme faaliyetleri için süresiz uluslararası moratoryum çağrısı yaptı.
Krueger, "Mevcut olayların gerçek boyutunu henüz tam olarak anlamış değiliz. Gelecekte kontrolden çıkan yapay zeka senaryoları yıkıcı sonuçlar doğurabilir" dedi.
Kaynak: Gazete Oksijen
