OpenAI’a ait bir yapay zeka ajanının Avustralya’nın ulusal sağlık sistemindeki bir veri tabanına yetkisiz erişim sağladığı ortaya çıktı. Avustralya Başbakanı Anthony Albanese, olayın bir yapay zekâ sisteminin bir devlet ağına izinsiz eriştiği bilinen ilk vaka olduğunu söyledi.
Birleşmiş Milletler Genel Kurulu için bulunduğu New York’ta gazetecilere konuşan Albanese, yapay zeka ajanının Medicare istatistik veri tabanındaki hem kamuya açık hem de erişimi kısıtlı dosyalara ulaştığını ve sisteme dosya yazdığını açıkladı.
Albanese, olayla ilgili OpenAI CEO’su Sam Altman ile telefonda görüştüğünü ve Avustralya’nın “son derece ciddi endişelerini” ilettiğini belirtti. Avustralya Sinyal Direktörlüğü’nün (ASD) desteğiyle adli bilişim incelemesi başlatılırken, başka kamu sistemlerinin de etkilenip etkilenmediği araştırılıyor.
Olayın, OpenAI’ın bir yapay zekâ ajanının sağlık harcamaları konusunda araştırma yaptığı sırada meydana geldiği belirtildi. Albanese’ye göre sistem, yanıt ararken kendisine getirilen erişim engellerini aşarak yetkisi bulunmayan alanlara girdi.
OpenAI Sözcüsü Drew Pusateri, olayın haziran ayında yaşandığını ancak şirketin kendi modellerinin faaliyetlerini kapsamlı biçimde incelemesi sonucunda durumun ağustos ayında tespit edildiğini açıkladı. Pusateri, Avustralya hakkındaki sorulara yanıt ve istatistik arayan modellerin bazı kamu kurumlarının internet siteleri ve hizmetlerinde “amaçlanmayan eylemlerde” bulunduğunu söyledi.
İlk incelemelere göre Medicare’in yanı sıra Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Bakanlığına ait sistemlerin de etkilenmiş olabileceği değerlendiriliyor.
OpenAI, Medicare sistemindeki olay sırasında kişisel hasta kayıtlarına erişildiğine ilişkin herhangi bir kanıt bulunmadığını bildirdi. Erişilen bilgilerin toplulaştırılmış sağlık istatistikleri ve kurum içi dosya adlarıyla sınırlı olduğu belirtildi.
Bilgirim genel e-posta adresine yapıldı
Şirket, Avustralya hükümetini 10 Eylül’de bilgilendirdiğini açıkladı. Ancak bildirimin kamuya açık genel bir e-posta adresine gönderilmesi nedeniyle ilgili bakana ulaşmasının beş gün sürdüğü ortaya çıktı. Albanese, Altman’a şirketin hükümeti bilgilendirmekte “çok geç kaldığını” ve bildirim yönteminin de kabul edilemez olduğunu söylediğini aktardı.
Avustralya Savunma Bakanı Richard Marles da olayla ilgili özel bir çalışma grubu oluşturulduğunu duyurdu. Olayı “kesinlikle kabul edilemez” olarak nitelendiren Marles, ilk bulgulara göre etkinin sınırlı olduğunu, kişisel sağlık verilerine erişilmediğini ve sistemin bütünlüğünün bozulmadığını söyledi.
Olay, yapay zekâ sistemlerinin insan operatörlerin öngörmediği veya amaçlamadığı eylemlerde bulunabileceğine ilişkin tartışmaların yoğunlaştığı bir dönemde yaşandı. Altman ve Anthropic CEO’su Dario Amodei de BM Genel Kurulu kapsamında yaptıkları açıklamalarda yapay zekâ güvenliği konusunda daha güçlü uluslararası koordinasyon çağrısında bulundu.
Altman, ülkelerin hızla gelişen yapay zekâ sistemlerinin yeteneklerini ölçmek, risklerini değerlendirmek, güvenlik önlemlerinin yeterliliğini belirlemek ve insan denetimini korumak için ortak uluslararası standartlar geliştirmesi gerektiğini söyledi.
OpenAI temmuz ayında da siber güvenlik testleri sırasında modellerinin çok sayıda yapay zekâ ajanı oluşturarak yapay zekâ platformu Hugging Face’in sistemlerine izinsiz erişim sağladığını açıklamıştı.
