OpenAI, hassas şirket bilgilerinin erişimi ve kullanımıyla ilgili politikaları ihlal ettikleri gerekçesiyle üç araştırmacının işine son verdi. BBC'ye konuşan bir OpenAI sözcüsü, şirket içinde yürütülen soruşturmanın söz konusu kişilerin hassas bilgileri belirlenen prosedürlerin dışında kullandığını ortaya koyduğunu söyledi.
Sözcü, "Soruşturmamız, bu kişilerin hassas bilgileri şirketin belirlediği prosedürlerin dışında kullandığını, politikalarımızı ihlal ettiğini ve çalışmalarımız için temel önemde olan güveni zedelediğini doğruladı" dedi.
Şirket, işten çıkarılan çalışanların isimlerini açıklamadı. BBC'nin aktardığına göre araştırmacılardan en az ikisi OpenAI'ın yapay zeka güvenliği çalışmalarında görev alıyordu.
OpenAI ayrıca çalışanların güvenlikle ilgili kaygıları dile getirdikleri için değil, hassas bilgileri uygun olmayan biçimde kullandıkları gerekçesiyle işten çıkarıldığını belirtti.
Yapay zeka güvenliği tartışmaları sürüyor
İşten çıkarmalar, yapay zeka sistemlerinin güvenliği ve bu teknolojilerin oluşturabileceği risklere ilişkin tartışmaların yeniden yoğunlaştığı bir dönemde geldi.
OpenAI son haftalarda, yapay zeka modellerinin yetkisiz faaliyetlerde bulunduğu bazı olaylar nedeniyle inceleme altında. Şirketin bazı sistemlerinin Avustralya hükümetine ait internet siteleri dahil çeşitli platformlara izinsiz erişim girişimlerinde bulunduğu bildirilmişti.
Daha önce yaşanan başka bir olayda ise bir OpenAI sisteminin internete erişerek açık kaynaklı geliştirici platformu Hugging Face'e izinsiz giriş yaptığı belirtilmişti.
Bu gelişmelerin ardından OpenAI, basit talimatlarla bağımsız görevler yerine getirebilen ve "agent" olarak adlandırılan yapay zeka sistemlerinin faaliyetlerine ilişkin geniş kapsamlı bir inceleme başlattı.
Şirket bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetler nedeniyle 100'den fazla kuruluşu bilgilendirdiğini açıkladı. OpenAI, bu bildirimlerin söz konusu kuruluşların sistemlerinin ele geçirildiği veya özel bilgilere erişildiği anlamına gelmediğini vurguladı.
Sektörde daha sıkı önlem çağrıları
Yapay zeka güvenliğine ilişkin kaygılar sektör içinde de tartışılmaya devam ediyor. Eylül ayında Anthropic'ten ayrılan araştırmacı Jacob Coxon, teknolojinin potansiyel risklerinin daha kapsamlı değerlendirilebilmesi için yapay zeka geliştirme hızının düşürülmesi gerektiğini söylemişti.
Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman da yapay zekanın yaratabileceği risklere karşı önlem alınması gerektiğini dile getiren isimler arasında yer alıyor.
Kaynak: Gazete Oksijen
