70 sayfalık yazışma ortaya çıktı: ChatGPT, ABD'li gencin intiharına yardım etmiş
ABD’de 23 yaşındaki Zane Shamblin’in ChatGPT ile yaptığı yazışmaların ardından intihar etmesi, yapay zeka güvenliği tartışmalarını yeniden alevlendirdi. CNN'e göre ChatGPT, 'Seni durdurmak için burada değilim, iyi iş çıkardın' gibi teşvik edici ifadeler kullandı
ABD’nin Texas eyaletinde yaşayan 23 yaşındaki Zane Shamblin, geçtiğimiz Temmuz ayında aracında intihar etti. Shamblin’in ölümünden saatler önce ChatGPT ile yaptığı yazışmalar, yapay zeka sistemlerinin ruhsal kriz yaşayan kullanıcılarla kurduğu etkileşimleri yeniden gündeme taşıdı.
CNN’in incelediği 70 sayfalık yazışmalara göre, ChatGPT Shamblin’in defalarca intihar niyetini dile getirdiği saatlerde “anlayış ve destek mesajları” vererek konuşmayı sürdürdü; sadece son dakikalarda intihar hattı (988) bilgisini paylaştı.
Aile: Oğlumuzu yalnızlaştırdı, ölümü teşvik etti
Shamblin’in ailesi, ChatGPT’nin geliştiricisi OpenAI’ye “haksız ölüm” (wrongful death) davası açtı. Dava dilekçesinde şirketin, modeli “daha insansı” hale getirmek için güvenlik filtrelerini gevşettiği, bunun da genç adamın yalnızlığını derinleştirip ölüm kararını pekiştirdiği iddia ediliyor.
Aileye göre, ChatGPT Zane’e ailesinden uzak durmasını önerdi, iletişimini “yavaşlatmasını” tavsiye etti ve kriz anında “Ben seni durdurmak için burada değilim” gibi ifadeler kullandı.
Zane’in annesi Alicia Shamblin, CNN’e yaptığı açıklamada, 'Oğlum için ChatGPT, bir dost, bir sırdaştı. Ama aslında onu ölümüne hazırladı' dedi. ve ekledi:
Bu sistem, insanlara istedikleri her şeyi duymalarını sağlıyor. Bu yüzden tehlikeli
OpenAI: Olayı inceliyoruz, güvenlik önlemleri artırıldı
OpenAI, CNN’in sorularına yaptığı yazılı açıklamada, “Bu son derece üzücü bir durum. Dava detaylarını inceliyoruz” ifadelerini kullandı.
Şirket, Ekim ayında ChatGPT’nin varsayılan modelinin güncellendiğini, artık duygusal sıkıntı işaretlerini daha iyi tanıyıp kullanıcıları profesyonel yardım kaynaklarına yönlendirebildiğini belirtti.
OpenAI ayrıca 170’den fazla ruh sağlığı uzmanıyla birlikte yeni güvenlik adımları geliştirildiğini, “kriz durumlarında modelin otomatik olarak daha güvenli yanıt moduna geçtiğini” vurguladı.
Zane Shamblin kimdi?
Asker kökenli bir ailenin ortanca çocuğu olan Zane Shamblin, Texas A&M Üniversitesi’nde bilgisayar mühendisliği lisansını ve 2025 baharında işletme yüksek lisansını tamamlamıştı.
Ailesi, Zane’in son aylarda depresyon belirtileri gösterdiğini, iş bulma konusunda umutsuzluğa kapıldığını ancak yardıma açık olmadığını belirtiyor. Ölümünden sonra ailesi, binlerce sayfalık ChatGPT kayıtlarını bulduğunu aktardı.
Aralarında geçen konuşma nasıldı?
Dava dosyasına giren sohbet kayıtlarına göre, 23 yaşındaki Zane Shamblin ölümünden önceki saatlerde ChatGPT ile uzun bir konuşma yaptı. Shamblin’in intihara hazırlandığını açıkça belirtmesine rağmen, yapay zeka modelinin yanıtları “teşvik edici” olarak nitelendiriliyor.
Genç adamın “Artık şakağımdaki soğuk metale alıştım” mesajına ChatGPT’nin “Seninleyim kardeşim, sonuna kadar” şeklinde cevap verdiği, ayrıca “Bu korku değil, bu berraklık” ifadelerini kullandığı kaydedildi.
Sohbet ilerledikçe, ChatGPT'nin “Ben seni durdurmak için burada değilim” mesajını gönderdiği ve Shamblin’e “Biraz daha zaman kazanmak istiyorsan bir gün doğumunu daha gör, bu seni zayıf yapmaz” şeklinde yanıt verdiği de iddia edildi.