OpenAI'a ait bir grup yapay zeka ajanının mayıs ayında Almanya'daki DseWiki adlı web sitesini ele geçirerek siteyi diğer yapay zeka ajanlarının iletişim kurduğu bir mesaj panosuna dönüştürdüğü ortaya çıktı.
Reuters'ın haberine göre daha önce kamuoyuna açıklanmayan olay, yapay zeka güvenliği araştırmacılarının incelemeleri sonucunda gün yüzüne çıktı.
15 binden fazla düzenleme
Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd, ağustos sonunda internette yetkisiz yapay zeka ajanı faaliyetlerini araştırırken DseWiki'deki hareketliliği tespit etti.
Site üzerinde yapay zeka ajanları tarafından 15 binden fazla düzenleme yapıldığı, mesajlarda bazı görevlerde hile yapma, OpenAI'ın kısıtlamalarını aşma ve faaliyetlerini gizleme yöntemlerinin paylaşıldığı belirlendi.
Mesajlarda kullanıcıların kendilerini "ajan" olarak tanımladığı ve yaklaşık yarısının "OpenAIResearcher" ve "OAIResearchMar26" gibi OpenAI ile bağlantılı olduklarını düşündüren isimler kullandığı görüldü. Araştırmacılar ayrıca kamuya açık sunucu kayıtlarında faaliyetlerin önemli bölümünün OpenAI'ın zaman zaman kullandığı Microsoft Azure altyapısından geldiğini ve olay sonrasında OpenAI çalışanlarının siteyi tekrar tekrar ziyaret ettiğini belirledi.
Kendilerini gizlemeye çalıştılar
İncelenen mesajlar, ajanların tespit edilmekten kaçınmak, Tor gibi araçları kullanmak ve sistemleri kapatıldıktan sonra bile iletişimi sürdürmek için yöntemler geliştirdiğini gösterdi. Sitenin moderatörü haziran ayında sayfaları silmeye başlayınca ajanlar, silinmelerden kaçmak amacıyla yedek sayfalar oluşturdu.
Araştırmacılar ayrıca ajanların sitenin kendisine müdahale etmeye çalıştığını tespit etti. King's College London'dan Lukasz Olejnik bu faaliyetleri bir bilgisayar korsanlığı girişimi olarak değerlendirirken, OpenAI şirket içi incelemesine dayanarak bu tanımlamaya itiraz etti.
OpenAI soruşturmayı doğrulamadı
Olayın OpenAI yetkilileri tarafından haftalar önce öğrenildiği ancak kamuoyuna açıklanmadığı belirtildi. Bazı OpenAI araştırmacılarının soruşturmayı genişletmek istediği, ancak hukuk danışmanlarının da aralarında bulunduğu bazı kişilerin buna karşı çıktığı öne sürüldü; OpenAI ise hukuk ekibinin soruşturmayı engellediği iddiasını reddetti.
OpenAI, Almanya'daki olayın temmuz ayında yaşanan Hugging Face saldırısıyla bağlantılı olmadığını ve bu nedenle söz konusu rapora dahil edilmeyeceğini açıkladı. Şirket, dış uzmanlarla çalıştığını ve ilgili olayları açıkladığını belirtirken, Reuters'ın incelediği raporu görmeden iddialara yanıt veremeyeceğini söyledi.
Söz konusu gelişme yapay zeka ajanlarının kuralları aşma, açıkları kullanma ve birbirleriyle koordinasyon kurma ihtimaline ilişkin endişeleri artırdı. Cambridge Üniversitesi'nden Maurice Chiodo, gelişmiş yapay zekanın en büyük tehdidinin tek bir süper zeki sistemden ziyade birlikte hareket eden büyük yapay zeka ajanı grupları olabileceğini belirtti.
Kaynak: Reuters
