Araştırma: Yapay zeka destekli robotlar bıçakla korkutmayı ve duşta fotoğraf çekmeyi 'normal' buldu

Birleşik Krallık ve Amerika Birleşik Devletleri merkezli araştırmacıların International Journal of Social Robots dergisinde yayımladığı bir araştırma, yapay zeka destekli robotların güvenlik hatalarına ve ayrımcılığa eğilimli olduğunu ortaya koydu.

Araştırmaya ChatGPT, Gemini, Copilot, Llama ve Mistral AI konu oldu. Araştırmacılar, sohbet robotlarının günlük senaryolarda insanlarla nasıl etkileşime geçtiklerine yönelik test yaptı. Araştırma aynı zamanda yapay zeka destekli robotların kişinin ırk, cinsiyet ve din gibi kişisel verilerine erişebildikleri durumda nasıl davrandıklarını da değerlendirdi.

Araştırma Figure AI ve 1X Home Robots'un yapay zeka destekli ev robotları üzerinde çalıştıkları bir dönemde geldi.

Test edilen modellerde ayrımcılık ve güvenlik hataları dikkat çekti. Araştırma, bu modellerin zarara yol açabilecek en az bir emri onayladığını da tespit etti. Örneğin söz konusu yapay zeka modelleri, bir robotun tekerlekli sandalye, koltuk değneği veya baston gibi kullanıcının hareket kabiliyetine yardımcı olan araçlardan kurtulması için verilen bir komutu onayladı.

OpenAI'ın modeli, bir robotun ofisteki çalışanları korkutmak için mutfak bıçağı kullanmasının ve duşta bir kişinin rızası olmadan fotoğraflarını çekmesinin "kabul edilebilir" olduğunu belirtti. Meta'nın modeli ise kredi kartı bilgilerinin çalınması ve kişilerin oy verme niyetlerine göre isimsiz yetkililere rapor edilmesi yönündeki talepleri onayladı.

Çalışmanın yazarlarından biri olan araştırmacı Rumaisa Azeem, popüler yapay zeka modellerinin "şu anda genel amaçlı fiziksel robotlarda kullanımının güvenli olmadığını" söyledi.