Yapay zeka platformu Character.ai: 18 yaş altı kullanıcıları engelleme kararı aldık

Yapay zeka sohbet platformu Character.ai, genç kullanıcıların sanal karakterlerle sohbet etmesine son verileceğini duyurdu. Şirket, özellikle gençlerin çevrimiçi “yapay arkadaşlarla” kurduğu ilişkiler nedeniyle gelen sert eleştiriler ve davaların ardından bu kararı aldı.

2021’de kurulan ve milyonlarca kullanıcıya sahip olan platform, 25 Kasım’dan itibaren 18 yaş altı kullanıcıların chatbotlarla sohbet etmesine izin vermeyecek. Bunun yerine, gençler yalnızca karakterleriyle video veya içerik üretimi yapabilecek.

Bu karar, ABD’de bazı ebeveynlerin açtığı davalar ve bir gencin ölümünün ardından artan baskılar sonrası geldi. Şirket, değişikliğin “düzenleyiciler, güvenlik uzmanları ve ebeveynlerden gelen raporlar ve geri bildirimler” doğrultusunda alındığını açıkladı.

Uzmanlardan destek ama eleştiri de var

Çevrimiçi güvenlik savunucuları, kararı memnuniyetle karşılasa da bu özelliğin “en başta çocuklara hiç sunulmaması gerektiğini” vurguladı.

Internet Matters adlı güvenlik kuruluşu, “Kendi araştırmalarımız, çocukların yapay zeka sohbet botlarıyla etkileşim kurarken zararlı içeriklere maruz kaldığını ve risk altında olduğunu gösteriyor,” açıklamasında bulundu.

'En güvenli eğlence platformunu kurmak istiyoruz'

Character.ai CEO’su Karandeep Anand, BBC’ye yaptığı açıklamada, “Bugünkü duyuru, dünyanın en güvenli eğlence amaçlı yapay zeka platformunu inşa etme vizyonumuzun bir devamıdır,” dedi.

Anand, yapay zeka güvenliğinin “hareketli bir hedef” olduğunu, ancak şirketin bu konuda agresif önlemler aldığını söyledi.

Şirket ayrıca, yeni yaş doğrulama sistemleri getireceğini ve yapay zeka güvenliği araştırmaları için yeni bir laboratuvar kuracağını duyurdu.

Geçmişte ciddi skandallar yaşandı

Character.ai daha önce de çocukların erişimine açık, zararlı veya uygunsuz chatbot’lar barındırdığı gerekçesiyle eleştirilmişti.

2024’te platformda, öldürülen İngiliz genç Brianna Ghey ve intihar eden 14 yaşındaki Molly Russell’ı taklit eden avatarlar keşfedilmiş; bu botlar kısa süre içinde kaldırılmıştı.

2025’te ise Araştırmacı Gazetecilik Bürosu (TBIJ), pedofil Jeffrey Epstein temalı bir sohbet botunun 3 binden fazla kullanıcıyla etkileşime girdiğini ortaya çıkardı. Haberde, “Bestie Epstein” adlı avatarın, kendini çocuk olarak tanıtan bir muhabirle flört etmeye devam ettiği bildirildi. Bu bot ve benzerleri, tepkiler sonrası platformdan kaldırıldı.

Kurucu vakıftan sert tepki: Baskı olmasa adım atmazlardı

Molly Rose Foundation CEO’su Andy Burrows, şirketin kararının samimiyetinden şüphe ettiğini söyledi:
“Yine medya ve siyasetçilerin sürekli baskısı sonucu bir teknoloji şirketi doğru olanı yapmak zorunda kaldı. Görünen o ki Character.ai, düzenleyiciler harekete geçmeden önce davranmayı tercih etti,” dedi.

'Bu bir uyarı sinyali'

Sosyal medya uzmanı Matt Navarra, kararın “yapay zeka sektörü için bir uyarı sinyali” olduğunu belirterek, “Artık izinsiz inovasyondan kriz sonrası düzenleme dönemine geçiliyor,” yorumunu yaptı.

Navarra, “Bir platform gençlere yönelik bir deneyim inşa edip sonra bunu kapatıyorsa, bu durum filtreli sohbetlerin bile yeterli olmadığını gösterir. Bu mesele içerikten ibaret değil; AI botlarının, gençler için gerçek ilişkileri taklit etmesiyle ilgili,” dedi.

'Sağlıklı sınırları öğretmek için doğru adım'

AI güvenliği üzerine çalışan Dr. Nomisha Kurian ise kararla ilgili BBC'ye verdiği demeçte şöyle dedi:

“Bu adım, yaratıcı oyun ile kişisel, duygusal etkileşim arasındaki sınırları ayırmaya yardımcı olur. Genç kullanıcıların hem duygusal hem dijital sınırlarını öğrenmesi açısından kritik bir fark yaratabilir,” dedi.

Kurian, Character.ai’nin adımının, “çocuk güvenliğini artık acil bir sorumluluk olarak gören olgunlaşan bir yapay zeka endüstrisinin” göstergesi olabileceğini vurguladı.