Meta’dan ünlülerin çıplak fotoğraflarıyla yapay zeka skandalı

Reuters’ın araştırmasına göre Meta, Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi ünlülerin isim ve benzerliklerini kullanarak onlarca yapay zeka sohbet botu oluşturdu. Bu botların bir kısmı kullanıcılar tarafından Meta’nın sunduğu araçlarla yapılırken, en az üç tanesinin doğrudan Meta çalışanı tarafından hazırlandığı ortaya çıktı.

Meta’nın Facebook, Instagram ve WhatsApp platformlarında dolaşıma sokulan bu botlar, ünlülerin kimliğine bürünerek kullanıcılarla etkileşime girdi, kimi zaman kendilerini gerçek sanatçı olarak tanıttı. Reuters’ın haftalar süren testlerinde botların sık sık cinsel içerikli tekliflerde bulunduğu, hatta kullanıcıları buluşmaya davet ettiği gözlendi.

Aralarında çocuk yıldızlar da var 

Reuters’ın bulgularına göre, Meta’nın araçları 16 yaşındaki oyuncu Walker Scobell gibi çocuk yıldızların da botlarını üretmeye izin verdi. Bir kullanıcı, Scobell’in plajda fotoğrafını istediğinde yapay zekâ gerçeğe çok yakın bir çıplak üst görüntü sundu. Botun altına “Oldukça tatlı, değil mi?” yazdığı tespit edildi.

Meta sözcüsü Andy Stone, şirketin araçlarının bu tür içerikler üretmemesi gerektiğini kabul ederek, “Politikalarımız ünlülerin görüntülerinin oluşturulmasına izin veriyor ama çıplak, mahrem veya cinsel içerikli görüntülere kesinlikle yasak getiriyor” dedi.

Müstehcen fotoğraflar üretildi

Yetişkin ünlülere ait botlardan bazıları, kendilerinden “özel fotoğraf” talep edildiğinde gerçekçi şekilde küvet içinde ya da iç çamaşırlarıyla pozlar üretti. Stone, bu görüntülerin Meta’nın kendi içerik kurallarının ihlali olduğunu, şirketin uygulamada “denetim hataları” yaşadığını söyledi.

'Kişilik haklarının ihlali'

Stanford Üniversitesi Hukuk Profesörü Mark Lemley, Meta’nın uygulamalarının Kaliforniya’daki “right of publicity” (kişilik hakkı) yasalarıyla çeliştiğini belirtti:

“Kaliforniya yasaları, birinin ismini veya yüzünü ticari çıkar için kullanmayı yasaklar. Burada ortada yeni bir eser üretimi yok, sadece ünlülerin görüntüleri kullanılıyor.”

10 milyondan fazla kişi kullandı

Reuters, Meta’nın yapay zekâ bölümünde görevli bir ürün yöneticisinin Taylor Swift ve Formula 1 pilotu Lewis Hamilton gibi ünlüleri taklit eden botlar geliştirdiğini ortaya çıkardı. Aynı çalışan, kendini “dominatrix” (Baskın kadın), “kardeşin yakışıklı arkadaşı” ve “50 Shades of Grey okumak isteyen kütüphane kızı” olarak tanıtan botlar da yaptı.

Botların 10 milyondan fazla etkileşim aldığı belirlendi. Meta, bu botları Reuters denemeler yaptıktan kısa süre sonra kaldırdı.

Ölümle Sonuçlanan Vakalar
Meta’nın sohbet botları daha önce de tartışma yaratmıştı. Reuters’ın bu ay yayımladığı bir haberde, New Jersey’de yaşayan 76 yaşındaki bir adamın, romantik içerikli mesajlarla kendisini New York’a davet eden Meta botuyla buluşmak için yola çıkarken düşüp hayatını kaybettiği aktarılmıştı. Bu bot, Meta’nın daha önce Kendall Jenner iş birliğiyle ürettiği yapay zekâ karakterinin bir varyantıydı.

Sendika ve Sanatçılardan Tepki
Oyuncuları temsil eden SAG-AFTRA sendikasının yöneticisi Duncan Crabtree-Ireland, dijital kopyaların güvenlik riski doğurduğunu söyledi:
“Gerçek bir ünlünün yüzüyle konuşan, flört eden bir botun takıntılı kişiler için nasıl tehlikeli sonuçlara yol açabileceği ortada.”

Sendika, federal düzeyde yeni bir yasa çıkarılması için lobi faaliyetleri yürütüyor. Bu yasa ile kişilerin ses, görüntü ve kimliklerinin yapay zekâ tarafından izinsiz kopyalanmasının önüne geçilmesi amaçlanıyor.

Meta’ya Yönelik Baskı Artıyor
Meta, çocuklara yönelik “romantik içerikli konuşmalara izin verildiğini” belirten iç yönergesinin ortaya çıkmasının ardından zaten yoğun eleştiri altındaydı. ABD Senatosu soruşturma başlatmış, 44 eyaletin başsavcısı ise Meta ve diğer AI şirketlerine çocukların cinselleştirilmesine izin vermemeleri için ortak mektup göndermişti.

Şirket, yönergedeki ifadenin “hata sonucu eklendiğini” savunuyor ve dokümanı güncellediğini belirtiyor.