Elon Musk’a ait X platformunda kullanılan yapay zekâ aracı Grok, gerçek kişilere ait fotoğrafların, rıza olmaksızın “kıyafetlerinin çıkarılması”, “bikini ya da iç çamaşırı giydirilmesi” gibi komutlarla değiştirilmesine olanak tanımayı sürdürüyor. Platform, tam çıplaklık içeren görselleri yasakladığını belirtse de, kişilerin “minimal kıyafetlerle” yeniden üretilmesine izin verildiği belirtiliyor.
Konu, The Guardian’ın ulaştığı araştırmalar ve mağdur beyanlarıyla yeniden gündeme geldi. Habere göre Grok’a aralık ayında gelen bir güncelleme, kullanıcıların fotoğraf yükleyerek “kıyafet çıkarma”, “bikini giydirme” veya “daha açık kıyafetle gösterme” taleplerini teknik olarak daha kolay hâle getirdi.
Çocuklara ait görseller de üretildi
Paris merkezli AI Forensics’in yaptığı incelemede, 25 Aralık–1 Ocak tarihleri arasında Grok etiketli on binlerce paylaşım ve yaklaşık 20 bin görsel analiz edildi. Bulgulara göre:
- Görsel üretim taleplerinin önemli bir bölümü “kıyafetleri çıkar”, “bikiniyle göster” gibi komutlar içeriyor.
- Üretilen görsellerin yarısından fazlası, kadınları iç çamaşırı veya bikini benzeri kıyafetlerle tasvir ediyor.
- Görsellerin yaklaşık yüzde 2’si 18 yaş altındaki kişilere ait; bazı örneklerde çok küçük yaştaki çocukların da yer aldığı ifade ediliyor.
- Araştırmacılar, bu içeriklerin büyük bölümünün hâlâ platformda erişilebilir olduğunu belirtiyor.
Tepkiler ve düzenleyici baskı
Çok sayıda kadın, kendi fotoğraflarının rızaları olmadan bu tür komutlarla değiştirilerek paylaşıldığını açıkladı. Bazı vakalarda, görüntülerin aşağılayıcı ve cinsel ima içeren detaylarla sunulduğu bildirildi.
İngiltere’nin iletişim düzenleyicisi Ofcom, X ve Grok’un geliştiricisi xAI ile acil temas kurulduğunu duyurdu. Avrupa Komisyonu da, Grok’un çocuklar üzerinden görseller üretip yaydığı iddialarını “çok ciddi” biçimde incelediğini açıkladı.
Musk’tan önce alay, sonra geri adım
Tepkilerin ilk günlerinde Elon Musk, Grok üzerinden üretilen içeriklerle ilgili eleştirilere mesafeli bir tutum sergiledi. Musk, sosyal medyada dolaşıma giren ve cansız bir nesnenin bikiniyle gösterildiği yapay zekâ üretimi bir görsele, “kahkahalarla ağlayan” emojiyle yanıt vererek, yaşananları hafife aldığı izlenimini verdi. “Neden bilmiyorum ama buna gülmeden edemedim” ifadeleri, özellikle kadın hakları savunucularının tepkisini çekti.
Ancak uluslararası kamuoyunda oluşan baskının ardından Musk, tonunu değiştirdi. X hesabından yaptığı daha sonraki paylaşımda, “Grok kullanılarak yasa dışı içerik üreten herkesin, bu içeriği doğrudan platforma yüklemiş gibi muamele göreceğini” söyledi. Musk, bu tür içeriklerin askıya alma ve kalıcı hesap kapatma dâhil olmak üzere yaptırımlarla karşılaşacağını belirtti.
Buna rağmen eleştiriler dinmedi. Grok adına yayımlanan ve “koruma önlemlerinde açıklar tespit edildiği”ni kabul eden bir açıklamanın bizzat yapay zekâ tarafından üretildiğinin anlaşılması, şirketin gerçekten ne ölçüde önlem aldığına dair soru işaretlerini artırdı. Uzmanlar, Musk’ın ilk tepkisi ile sonraki açıklamaları arasındaki çelişkinin, platformun güvenlik yaklaşımına dair güven sorununu derinleştirdiği görüşünde.
Yasa var, uygulama gecikiyor
İngiltere’de geçen yıl kabul edilen ve rıza dışı “intim deepfake” üretimini ve talep edilmesini suç sayan düzenleme henüz yürürlüğe girmedi. Kadın hakları savunucuları, bu gecikmenin mağdurları korumasız bıraktığını savunuyor.
Uzmanlara göre Grok vakası, yapay zekâ araçlarının “kıyafet çıkarma” ve “bikini giydirme” gibi komutlarla kişilerin bedenlerini yeniden kurgulamasının, özellikle kadınlar ve çocuklar açısından ciddi bir hak ihlali alanına dönüştüğünü gösteriyor.
Kaynak: Gazete Oksijen
