TikTok’un kurum içi bir belgesi, Çin merkezli sosyal medya şirketinin kullanıcılarının "aklını okumak için" bir algoritma kullandığını, bunun da uygulamanın bağımlılık yaratmasında kullanılabileceğini ortaya koydu. TikTok, birkaç saat içinde müzik zevkinizi, ruh halinizi ve birçok başka kişisel bilginizi deyim yerindeyse ele geçiriyor. Yani uygulamayı kullanırken önünüze gelen tavsiyeler, sizin beğenilerinizi gözeten masum sonuçlar değil, uygulamada daha fazla kalmanız için yapılan matematiksel bir değerlendirmenin ürünü TikTok, mikro düzeyde sizi hedef almak üzere tavsiyelerde bulunabiliyor.
Belgeyi TikTok çalışanı gazeteye verdi
New York Times'ın ele geçirdiği belgeye göre algoritmanın kullandığı dört kriter var:
"Kullanıcı değeri", "uzun vadeli kullanıcı değeri”, "yaratıcı değeri" ve "platform değeri”. Bu “değer” ifadeleri, şirketin "TikTok Algo 101" başlıklı belgesinde yer alıyor ve
TikTok'un Pekin'deki mühendislik ekibi tarafından üretilmiş. Gazete belgeyi görme yetkisi olan ancak paylaşma yetkisi bulunmayan bir TikTok çalışanından aldığını açıkladı.
YouTube’u inceleyen analist yorumladı
Belge, şirketin günlük aktif kullanıcılar eklemeye yönelik "nihai hedefi" doğrultusunda, sunduğu video akışında birbiriyle yakından ilişkili iki ölçütü (metrik) optimize ediyor: "Kullanıcıyı elde tutmayı" yani kullanıcının tekrar uygulamaya girip girmediği ve "harcanan zamanı."
Bu tür algoritmik tavsiyeler, pek çok analiste göre bağımlılık gibi sosyal tehditler oluşturuyor.
Daha önce YouTube'un da sıradaki video tavsiyelerini nasıl belirlediği üzerine çalışan ve şirketlerin bu tür algoritmalarının şeffaf olması gerektiğini savunan Algo Transparency'nin kurucusu Guillaume Chaslot, matematiksel formüller içeren TikTok belgesini New York Times için analiz etti. Chaslot “Bu sistem, şirket için asıl önemli olanın izlenme süresi olduğunu gösteriyor. Algoritma, size istediğinizi vermek yerine insanların bağımlı hale gelmesi için çalışıyor” diyor.
“Çocukların kullanmasına izin vermek delilik”
TikTok'un algoritmasının çocuklarımızın hayatını yönlendirmesine izin vermenin "delilik" olduğunu söyleyen Chaslot, “Bir çocuk her video izlediğinde TikTok onun hakkında bir parça daha bilgi ediniyor. Algoritma, birkaç saat içinde kullanıcının müzik zevkini, neyi fiziksel olarak çekici bulduğunu, depresyonda olup olmadığını, uyuşturucu kullanıp kullanmadığını, bunlar gibi pek çok hassas bilgiyi tespit edebilir. Bu bilgilerin yine kullanıcıya karşı kullanılması riski yüksek. Bu bilgilerin bir kullanıcıyı tekil olarak hedeflemesi ve platforma daha bağımlı hale getirmesi potansiyeli var" diyor. Belgeye göre izlenme süresi TikTok'un dikkate aldığı tek faktör değil. Belge, videoların nasıl puanlandığına ilişkin kaba bir denklem sunuyor. Bu da üç verinin akıllı zeka ve gerçek kullanıcı davranışlarından gelen bilgilerle işlenmesi anlamına geliyor: Beğeniler, yorumlar ve videoları oynatma süresi.