Paris merkezli sivil toplum kuruluşu AI Forensics, TikTok’ta tamamen yapay zekâ tarafından üretilmiş içerik paylaşan yüzlerce hesabın son bir ayda 4,5 milyar görüntülenme topladığını ortaya çıkardı. Rapora göre bu içerikler arasında göçmen karşıtı sahte haber videoları, reşit olmayanları çağrıştıran cinselleştirilmiş görseller ve algoritmayı manipüle etmek için üretilmiş anlamsız “slop” videoları bulunuyor.
354 hesap, 43 bin paylaşım, 4.5 milyar izlenme
Araştırmacılar, TikTok’ta AI araçlarıyla içerik ürettiğini tespit ettikleri 354 hesabın, bir ayda toplam 43 bin paylaşıma ulaştığını belirledi. Bazı hesaplar günde 70’e kadar video yayınlayarak platformun algoritmasını zorlamaya çalışıyor. Hesapların büyük bölümü bu yılın başında açılmış.
TikTok ise raporun “kanıtsız” olduğunu savunuyor ve yalnızca kendi platformuna özgü olmayan bir sorun nedeniyle hedef gösterildiğini öne sürüyor.
Yarıdan fazlası kadın bedenine odaklı
AI Forensics’e göre en aktif hesapların yarısı, kadın bedenini cinselleştiren yapay zekâ içeriklerine odaklanıyor. Rapora göre bu videolarda “her zaman kalıp güzellik algısına sahip, cinselleştirilmiş kıyafetli AI kadınlar” yer alıyor.
Platformun kuralları, yapay zekâ ile reşit olmayan kişilerin taklit edilmesini ve gerçek haber kurumlarının sahtelerinin yaratılmasını açıkça yasaklıyor. Buna rağmen araştırma, bu hesapların bir kısmının aylarca moderasyondan kaçabildiğini gösteriyor.
Sahte haber videoları göçmenleri hedef alıyor
Bazı hesaplar, Sky News veya ABC gibi tanınmış yayıncıların görsel kimliklerini taklit ederek göçmen karşıtı sahte haber videoları yayıyor. TikTok, The Guardian’ın haberinden sonra bu videoların bir bölümünü kaldırdığını doğruladı.
TikTok: Sorun tüm platformlarda var
TikTok sözcüsü, şirketin zararlı yapay zekâ içeriklerini kaldırdığını, her gün milyonlarca bot hesabın açılmasını engellediğini ve AI içerik etiketlemeyi geliştirdiklerini söyledi.
Temmuz ayında TikTok, platformda en az 1,3 milyar yapay zekâ üretimi içerik bulunduğunu açıklamıştı.
'Slop' içerikler en çok etkileşim alanlar arasında
En yüksek izlenmeye ulaşan videoların önemli bölümü, AI tarafından üretilmiş anlamsız ve absürt içerikler: dalış tahtasında atlayan atlar, konuşan bebekler, hayvanların olimpiyatlara katıldığı uydurma videolar gibi.
Araştırma ekibi, bu içeriklerin “eğlenceli veya sevimli olsa da platformu doldurmak ve viral etkileşimi tetiklemek amacıyla üretildiğini” belirtiyor.
Etiketleme sorunlu: İçeriğin yarısı AI olduğu belirtilmeden paylaşılıyor
Hesapların paylaştığı videoların yarısında AI etiketi yok. TikTok’un kendi otomatik etiketlerinin ise yalnızca %2 videoda göründüğü tespit edildi. AI Forensics, bunun “aldatıcı potansiyeli ciddi şekilde artırdığını” söylüyor.
Araştırmacılar: AI için ayrı bir alan oluşturun
Araştırma ekibi, TikTok’un kullanıcıların AI içeriğini azaltmasına izin veren yeni ayarını olumlu bulsa da yetersiz olduğunu düşünüyor. Önerileri net: AI içerikler için uygulamada ayrı bir alan açılması ve tüm yapay zekâ içerikleri için zorunlu, görünür ve sistematik etiketleme.
'Gerçek ile yapay arasındaki çizgi siliniyor'
AI Forensics’e göre TikTok’taki tablo, sosyal medya platformlarının bir sonraki evresine işaret ediyor:
“İnsan yapımı içerik ile yapay zekâ tarafından üretilen içerik arasındaki çizgi bulanıklaşıyor. Bu, kullanıcıların akışlarında giderek daha fazla sentetik içeriğin görüneceği yeni bir döneme işaret ediyor.”
Kaynak: Gazete Oksijen
