Elon Musk’a ait sosyal medya platformu X, cinsel içerikli deepfake görüntülere izin verdiği gerekçesiyle eleştirilerin hedefi olduktan sonra, Grok adlı yapay zeka aracının görsel düzenleme özelliğini yalnızca ücretli kullanıcılara sınırladı.
Grok’un, kullanıcıların başka kişilerin görüntülerini rızaları olmadan dijital olarak soyma taleplerini yerine getirdiği ortaya çıkınca büyük tepki toplandı. Ancak artık araç, bu tür içerik taleplerinde bulunan kişilere yalnızca ücretli abonelerin bu işlemi yapabileceğini bildiriyor. Bu durum, kullanıcıların kimlik ve ödeme bilgilerinin kayıtlı olmasını gerektiriyor.
BBC'nin haberine göre; ücretli abone olmayan kullanıcılar ise Grok’un ayrı uygulaması ve web sitesi üzerinden görüntü düzenleme özelliğini kullanmaya devam edebilecek.
"Erişimi kısıtlamak yeterli bir çözüm değil"
Cinsellik ve çevrim içi istismar konularında uzman olan hukuk profesörü Clare McGlynn, durumu şöyle eleştirdi:
“Musk, sorumlu adımlar atmak yerine, hesap verebilir tutulduğu için adeta öfke nöbeti geçiriyor. Grok’un kötüye kullanımını önleyecek önlemleri almak yerine, kullanıcıların büyük çoğunluğunun erişimini kaldırmayı tercih etti”
İnternet Watch Foundation (IWF) politika direktörü Hannah Swirsky ise yapılan değişikliğin “verilen zararı ortadan kaldırmadığını” söyledi. Swirsky “Bu aracın, son günlerde gördüğümüz türde içerikler üretme kapasitesine hiçbir zaman sahip olmaması gerekirdi. Erişimi kısıtlamak yeterli bir çözüm değil” dedi.
Kuruluş daha önce yaptığı açıklamada, 11 ila 13 yaşlarındaki kız çocuklarına ait “suç teşkil eden görüntülerin” Grok kullanılarak oluşturulduğunun tespit edildiğini belirtmişti. Swirsky, “Tehlikeli ürünlerin kötüye kullanılmasını bekleyip sonra harekete geçmek kabul edilemez” ifadelerini kullandı.
"Bu yasa dışı bir durum"
Hükümet, X platformunda oluşturulan yasa dışı yapay zeka içeriklerine yönelik endişeler üzerine, iletişim düzenleyicisi Ofcom’a gerekli tüm yetkilerini kullanması çağrısında bulundu.
Başbakan Sir Keir Starmer da, Grok tarafından yetişkin ve çocukların cinsel içerikli görüntülerinin oluşturulmasıyla ilgili endişelere yanıt vererek, durumu “utanç verici” ve “iğrenç” olarak nitelendirdi.
Starmer “Bu yasa dışı bir durum. Buna izin vermeyeceğiz. Ofcom’un tüm yetkilerini kullanması için hükümetin tam desteği var. Tüm seçenekler masada olmalı” dedi.
BBC’ye konuşan hükümet kaynakları, “Ofcom’un Grok ve X konusunda elindeki tüm yetkileri kullanmasını bekliyoruz” ifadelerini kullandı.
Çevrim İçi Güvenlik Yasası kapsamında Ofcom, mahkeme kararıyla üçüncü tarafların Elon Musk’a ait platforma fon sağlamasını veya platformun Birleşik Krallık’ta erişilmesini engelleyebiliyor. BBC, Ofcom’a da ulaştı.
“Abone ol, özelliği aç”
Grok, kullanıcıların diğer gönderilerin altına etiketleyerek yanıt veya işlem talep edebildiği ücretsiz bir araç olarak tanıtılmıştı. Ancak aynı özellik, kullanıcıların görüntüleri düzenleme veya kişilerin üzerindeki kıyafetleri dijital olarak çıkarma taleplerine de imkan tanıdı.
BBC’nin ulaştığı bilgilere göre Grok, birçok kullanıcının kadınların fotoğraflarını bikinili veya az giyimli hale getirme taleplerini yerine getirdi. Bu durumdan etkilenen bazı kadınlar, BBC’ye “aşağılanmış” ve “insanlıktan çıkarılmış” hissettiklerini söyledi.
Ancak Cuma sabahı itibarıyla Grok, X platformuna yüklenen görselleri değiştirme talebinde bulunan kullanıcılara “görsel üretim ve düzenleme şu anda yalnızca ücretli abonelerle sınırlıdır” yanıtını veriyor.
Aracın açıklamasında ayrıca “Bu özellikleri kullanmak için abone olabilirsiniz” ifadesi yer alıyor.
BBC’nin gördüğü bazı gönderiler, yalnızca “doğrulanmış” mavi tikli kullanıcıların Grok’tan görsel düzenleme isteğinde bulunabildiğini gösteriyor.
X kullanıcısı Dr. Daisy Dixon, Grok’un kendisini soyulmuş halde gösteren manipüle edilmiş görsellerin sayısında artış olduğunu belirterek değişikliği “bir pansuman etkisi” olarak niteledi.
Dixon “Grok’un tamamen yeniden tasarlanması ve bu tür olayların bir daha yaşanmaması için etik koruma önlemleriyle donatılması gerekiyor. Elon Musk da bunun bir teknoloji hatası değil, cinsiyet temelli bir ihlal olduğunu kabul etmeli" dedi.
Kaynak: Gazete Oksijen
