27 Mayıs 2024, Pazartesi Gazete Oksijen
Haber Giriş: 23.04.2021 06:00 | Son Güncelleme: 16.02.2022 15:15

Yüz tanıma teknolojisinin yeni yorumu: Coded Bias

MIT Media Lab araştırmacısı Joy Boulamwini’nin yüz tanıma teknolojisinin arka planında yatanları ortaya çıkardığı Coded Bias, bu teknolojinin barındırdığı önyargıları gözler önüne seriyor
Yüz tanıma teknolojisinin yeni yorumu: Coded Bias
Kerem Fındık
Coded Bias’ın afişi belgesel hakkında epey bir bilgi vermeye ve merak uyandırmaya yarıyor aslında: Afişte kişinin suratında gördüğümüz beyaz bir maske bizi belgeseli seyretmeye yönlendiriyor. Bu maskenin ardındaki hikâye nedir? Açalım: Joy Boulamwini siyahî bir kadın ve Massachusetts Institute of Technology’e (MIT) bağlı olarak çalışmalarını sürdüren disiplinlerarası bir araştırma laborauvarı MIT Media Lab’de araştırmacı olarak çalışıyor

Algoritmaların sebep olduğu önyargılar

Bir yüz tanıma çalışması için bilgisayar karşısında çalışan Boulamwini, sistemin koyu tenli kişileri çok düşük oranlarda tanıdığını fark ediyor. Boulamwini bunun üzerine beyaz bir maske ile deneme yapıyor ve  bu kez sistemin yüzünü tanıma oranının daha yukarılara çıktığını fark ediyor.  Netflix’te 5 Nisan’da seyirciyle buluşan Coded Bias belgeseli yüz tanıma teknolojisinin koyu renkli insanların ve kadınların yüzlerini doğru şekilde tanımaması sonucu Joy Boulamwini’nin algoritmaların sebep olduğu önyargıların araştırılmasını ele alıyor. Shalini Kantayya’nın yönettiği ve Joy Boulamwini’nin anlatıcılığında ilerleyen Coded Bias, yapay zekâ alanında çalışan uzmanlardan sosyal bilimcilere değişen kişilerin tanıklığıyla ilerliyor.  Bununla birlikte; ABD, Çin ve İngiltere’den üç çarpıcı örnekle yüz tanıma teknolojisinin önyargılı besleyen şekilde nasıl kullanıldığı gözler önüne seriliyor. 

ABD, Çin ve İngiltere’den üç çarpıcı örnek

Bu örneklerin İngiltere’den olanı epey etkileyici: Bir metro istasyonunun çıkışında yer alan minibüsün üzerinde yerleştirilmiş cihazlarla bölgeden geçenlerin yüzleri taranıyor ve polisin veritabanında kayıtlı suçluların yüzleriyle karşılaştırılıyor. Suçlu bulunursa göz altına alınıp götürülüyor. Buna karşılık  bu cihazların önünden geçerken yüzünü saklayan beyaz bir adamın durumunu da görüyoruz. Polis bu adamı durdurarak üstünü arıyor, kimliğini kontrol ediyor ve ceza kesiyor. Çin’deki durum ise daha vahim: Ülkede mobil İnternet kullanmak için  telefonununuzdan yüz tanıtma sistemini kullanmanız gerekiyor ve bu sistemi de Çin devleti kontrol ediyor.  Coded Bias’ın Çin’de geçen bölümü genç bir kadın gözünden anlatılıyor. Bu kadın market alışverişinden yaşadığı binaya girişe, metroya binmekten gazoz otomatından gazoz almaya kadar her işi yüz tanıma teknolojisiyle yapıyor.  Toparlamak gerekirse, Coded Bias yüz tanıma teknolojisini çalıştıran algoritmaların önyargılı olduğunu anlamamıza yarıyor. Joy Boulamwini’nin mücadelesini ve elde ettiği sonuçları da belgeselde görebilirsiniz. Bu sonuçlardan birisi, San Francisco’da yüz tanıma sisteminin yasaklanması. Ayrıca büyük teknoloji şirketlerinin bu konuda yaptıkları da cabası.  (Görseller codedbias.com sitesinden alınmıştır.)