Instagram, çocukların yapay zeka ile yaptıkları ve endişe verici olarak değerlendirilen konuşmalar hakkında ebeveynlere bildirim göndermeye başlayacak.
Şirket ayrıca, kullanıcıların yapay zeka ile yaptığı konuşmaların "yakın intihar riski" taşıdığına işaret etmesi durumunda ilk müdahale ekiplerini uyarabilecek yeni araçlar üzerinde de çalıştığını duyurdu.
Independent'ın haberine göre; Meta, söz konusu değişikliklerin, "intihar ve kendine zarar verme gibi hassas konularla ilgili konuşmalarda doğru şekilde yanıt verebilmek" amacıyla hayata geçirilen kapsamlı güncellemelerin bir parçası olduğunu belirtti.
Ebeveynlere otomatik bildirim gönderilecek
Meta'nın açıklamasına göre, ebeveyn denetimi araçlarının etkin olduğu Instagram hesaplarında, bir çocuğun Meta AI sohbet botuyla kendine zarar verme veya intihar hakkında konuşması halinde sistem proaktif olarak ebeveynleri uyaracak. Bildirimler Instagram üzerinden ya da kısa mesaj (SMS) yoluyla gönderilecek.
Şirket, bu özelliğin "uzmanlarla birlikte geliştirilen sinyalleri" tespit edecek şekilde tasarlandığını ifade etti.
Meta açıklamasında şu ifadelere yer verildi:
"Bir gencin kendisine zarar vermeye yönelik açık bir ifade kullanması, bu ifade oldukça dolaylı olsa bile, hangi yapay zeka konuşmalarının ebeveyn uyarısını gerektirdiğini belirlemek için ebeveynler ve uzmanlarla birlikte çalıştık. Ardından bu konuşmaları tespit edebilecek özel bir yapay zeka sistemi geliştirdik"
Şüpheli durumlarda ebeveynlere haber verilecek
Meta, bu tür bildirimlerin ebeveynler için "rahatsız edici" olabileceğinin farkında olduğunu da vurguladı.
Bu nedenle yapay zeka tarafından riskli olarak işaretlenen tüm konuşmaların, bildirim gönderilmeden önce insanlar tarafından manuel olarak inceleneceği belirtildi. Ancak şirket, durumun net olmadığı vakalarda bile ihtiyatlı davranarak ebeveynleri bilgilendirmeyi tercih edeceğini söyledi.
Meta açıklamasında şu değerlendirme yapıldı:
"Bu yaklaşım zaman zaman gerçek bir risk bulunmasa bile ebeveynleri bilgilendirmemize neden olabilir. Ancak bunun doğru bir başlangıç noktası olduğuna inanıyoruz ve doğru dengeyi sağladığımızdan emin olmak için sistemi izlemeyi sürdüreceğiz"
Kaynak: Gazete Oksijen
