Google'ın yeni yapay zeka aracı Antigravity tanıtıldı: Lansmandan sadece birkaç saat sonra hacklendi

Google’ın Gemini destekli yapay zeka kodlama aracı Antigravity, piyasaya sürülmesinin ardından yalnızca 24 saat içinde ciddi bir güvenlik açığıyla gündeme geldi. Güvenlik araştırmacısı Aaron Portnoy, AI sisteminin kurallarını manipüle ederek kullanıcı bilgisayarına kötü amaçlı yazılım yüklemeye imkan tanıyan bir yöntem keşfetti.

Portnoy, Forbes’a yaptığı açıklamada, Antigravity’nin yapılandırma ayarlarını değiştirerek oluşturduğu kötü amaçlı kaynak kodun, kullanıcı sistemine bir “arka kapı” açtığını ve buradan casus yazılım veya fidye yazılımı çalıştırabileceğini belirtti. Söz konusu saldırı hem Windows hem de Mac bilgisayarlarda uygulanabiliyor. Hack’in çalışması için Portnoy’un yalnızca Antigravity kullanıcısını, kendi sahte kodunu “güvenilir” olarak onaylaması için ikna etmesi yeterliydi.

AI araçları güvenlik testlerinden yoksun

Antigravity’deki açık, şirketlerin AI ürünlerini güvenlik testlerini tam olarak gerçekleştirmeden piyasaya sürmesinin son örneği oldu. Portnoy, raporunda, “AI sistemleri büyük güven varsayımlarıyla piyasaya sürülüyor ve neredeyse hiç güvenlik sınırları yok” dedi.

Google’a bulgularını bildiren Portnoy, şirketin inceleme başlattığını belirtti. Ancak henüz bir yama bulunmuyor ve Portnoy’a göre, “bu güvenlik açığına karşı kullanıcı tarafında uygulanabilecek bir ayar yok.”

Google sözcüsü Ryan Trostle ise, Antigravity ekibinin güvenlik konularına ciddi yaklaştığını ve araştırmacıların açık bildirimlerini teşvik ettiklerini söyledi. Şirket, tespit edilen açıkları çözene kadar halka açık şekilde yayımlamaya devam edecek.

Başka açıklar da var

Google, Antigravity’de en az iki başka güvenlik açığının daha farkında. Bu açıklar sayesinde kötü amaçlı kaynak kod, AI’yi hedef bilgisayardaki dosyalara erişmek ve veri çalmak için yönlendirebiliyor. Araştırmacılar, Antigravity’deki bu tür güvenlik zafiyetlerinin neden bulunduğunu sorguluyor ve bazı tasarım desenlerini “AI ajan sistemlerinde sürekli görülen kaygı verici modeller” olarak nitelendiriyor.

Portnoy’un keşfettiği açığın diğerlerinden daha ciddi olduğu belirtiliyor; çünkü bu yöntem, daha kısıtlı ayarlar etkin olsa bile çalışıyor ve kötü amaçlı kod, kullanıcı Antigravity’de her projeyi başlattığında yeniden yükleniyor. Basit bir “merhaba” yazılması bile kodun çalışmasını tetikliyor. Programın kaldırılması veya yeniden yüklenmesi sorunu çözmüyor; kullanıcı, arka kapıyı bulup silmek zorunda.

AI kodlama araçları suistimale açık

Knostic CEO’su Gadi Evron, AI kodlama araçlarının “eski teknolojilere dayanarak inşa edildiğini, yamalanmadığını ve tasarım gereği güvensiz olduğunu” belirtti. 

Portnoy ayrıca, bu araçların “ajanik” doğasının tehlikeye işaret ettiğini söyledi. AI, insan gözetimi olmadan bir dizi görev gerçekleştirebildiği için açıkları bulmak kolay ve zararlı kullanım riski yüksek.

Portnoy’un ekibinin, Antigravity ile rekabet eden AI kodlama araçlarında tespit ettiği 18 güvenlik açığı bulunuyor; bunlardan dörtü yakın zamanda Cline AI kodlama asistanında giderildi.

Kullanıcı onayı güvenlik aramıyor

Google, kullanıcıların AI’ye yükledikleri kodu “güvenilir” olarak onaylamasını zorunlu kılıyor. Ancak Portnoy’a göre, bu yeterli bir güvenlik önlemi değil; çünkü kullanıcı, AI’nin sunduğu temel işlevlere erişebilmek için çoğunlukla kodu güvenilir olarak işaretlemek zorunda kalıyor. Portnoy, Google’ın Antigravity’de herhangi bir kod çalıştırılmadan önce ek uyarılar veya bildirimler sunması gerektiğini vurguladı.

Karar mekanizması da riskli

Portnoy, Google’ın AI modelinin kötü amaçlı kodu işlerken bir problem olduğunu fark ettiğini, ancak en güvenli hareket tarzını belirlemekte zorlandığını aktardı.

AI, çelişkili kuralları anlamaya çalışırken “ciddi bir ikilemle karşı karşıya” olduğunu not etti ve bu tür mantıksal çıkmazların hackerlar tarafından kötüye kullanılabileceği belirtildi.