Brezilya’da 36 yaşındaki bir çiftçinin yaklaşık iki ay boyunca ChatGPT’ye gönderdiği mesajlar, ABD’den Brezilya’ya uzanan bir soruşturmayı başlattı. Polise göre mesajlarda, sekiz yaşındaki oğlunu öldürmeye, başkalarına saldırmaya ve ardından yaşamına son vermeye ilişkin planlar bulunuyordu.
BBC News Brasil’den Iara Diniz’in haberine göre ChatGPT’nin geliştiricisi OpenAI, yazışmaları FBI’a bildirdi. FBI’ın Brezilyalı yetkililerle iletişime geçmesinin ardından çiftçi, 19 Haziran’da Espírito Santo eyaletindeki São Gabriel da Palha’da tutuklandı.
Oğluna zarar vermek istediğini reddeden adam, 54 gün tutuklu kaldıktan sonra soruşturmadaki gecikmeler nedeniyle 13 Ağustos’ta serbest bırakıldı. BBC’nin haberine göre hakkında henüz resmi bir suçlama yöneltilmedi; polis soruşturması ise sürüyor.
OpenAI’dan FBI’a, oradan Brezilya polisine
BBC, çocuğun kimliğini korumak amacıyla babanın adını açıklamadı. Habere göre Brezilya Adalet Bakanlığının siber suçlar birimi dosyayı eyalet polisine iletti. Üç gün sonra çiftçi tutuklandı.
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, babanın oğlunu 20 Haziran’a kadar öldürmeyi planladığı iddiası nedeniyle dosyaya öncelik verdiklerini söyledi.
Andrade’ye göre şüphelinin, nafaka ödemeleri dışında oğluyla neredeyse hiç teması yoktu. Soruşturmacılar, bu ödemelerden kaynaklanan öfkenin, iddia edilen planın nedenlerinden biri olabileceğini değerlendiriyor.
BBC’nin incelediği mesajlardan birinde çiftçi, kendisini ve oğlunu öldürmesi için bir kişiye para teklif ettiğini, ancak bu kişinin bir çocuğun söz konusu olması nedeniyle teklifi reddettiğini ileri sürüyordu. Polis, böyle bir temasın gerçekten kurulup kurulmadığını araştırıyor.
Yazışmaların ötesinde somut adım atıldı mı?
Polis, şüphelinin ChatGPT ile okullara, kiliselere ve polise yönelik olası saldırılar hakkında da konuştuğunu belirtiyor. Soruşturmacılara göre çiftçi, zehirli maddeler üzerinde araştırma yaptı ve sorularını yeniden ifade ederek sohbet robotunun güvenlik önlemlerini aşmaya çalıştı.
Evinde yapılan aramada, içeriği henüz belirlenemeyen maddelerin bulunduğu dört şişe ve bir ip ele geçirildi. Yetkililer, bulguların yaşamına son verme niyetine işaret edebileceğini söyledi.
Andrade, “Platformun bize ilettiği her şey, polis olay yerine geldiğinde doğrulandı” dedi. Bununla birlikte soruşturmacılar, ele geçirilen maddelere ilişkin adli inceleme sonuçlarını beklediklerini ve şüphelinin cep telefonunu incelemeyi sürdürdüklerini belirtiyor.
İncelemelerle, çiftçinin yazışmalarda anlattığı planları uygulamak için somut adımlar atıp atmadığının belirlenmesi amaçlanıyor. Bir kiralık katille gerçekten iletişime geçip geçmediği de araştırılan konular arasında.
Serbest bırakılan çiftçi hakkında elektronik izleme ile oğluyla ve çocuğun annesiyle iletişim kurma yasağı dahil tedbirler uygulanacağı bildirildi.
Avukatı: Hiçbir suç işlemedi
Savunma, çiftçinin sohbet robotuna yazdıklarını eyleme dönüştürmediğini ve suç işlemediğini savunuyor.
Avukatı Pedro Paulo Pessi, BBC News Brasil’e yaptığı açıklamada, “Yapay zeka ile konuşmak ve saçma sapan şeyler söylemek suç olursa, herkes hapse girer” dedi.
BBC’nin aktardığı hukuki çerçeveye göre Brezilya’da bir suçu düşünmek veya hazırlamak ile icrasına başlamak arasındaki ayrım, cezai sorumluluğun değerlendirilmesinde önem taşıyor. Soruşturmacılar da toplanacak kanıtlarla şüphelinin hazırlık aşamasının ötesine geçip geçmediğini belirlemeyi hedefliyor.
ChatGPT’nin yanıtları dosyada yok
Vakanın tartışmalı başlıklarından biri, yazışmaların hangi kapsamda paylaşıldığı. Soruşturmacılar, OpenAI’ın kullanıcının bilgilerini ve gönderdiği mesajları ilettiğini, ancak ChatGPT’nin yanıtlarını paylaşmadığını söylüyor.
Ceza avukatı Maíra Fernandes’e göre bu eksiklik, mesajların bağlamının değerlendirilmesini güçleştiriyor. Fernandes, “Küçük bir bölüm olamaz, düzenlenmiş bir versiyon da olamaz. Konuşmanın tamamı olmalı” diyor.
Fernandes, tüm yazışmaların görülmesinin, sohbet robotunun kullanıcının ifadelerine yalnızca yanıt mı verdiğini yoksa konuşmanın yönünü aktif biçimde mi şekillendirdiğini anlamak açısından da gerekli olduğunu belirtiyor.
BBC News Brasil’in sorularını yanıtlayan OpenAI, ChatGPT’nin yanıtlarının neden paylaşılmadığını açıklamadı. Şirket, başkalarına zarar verilmesi konusunda güvenilir ve yakın bir risk tespit ettiğinde kolluk kuvvetlerini bilgilendirebileceğini bildirdi.
Yapay zeka kaynaklı ihbarların sınırı nerede?
Andrade, bu dosyanın Espírito Santo eyaletinde yapay zeka kaynaklı ilk uyarı, Brezilya genelinde ise üçüncü vaka olduğunu söyledi.
BBC’nin ABD medyasına dayandırdığı bilgiye göre OpenAI, ağustos ayında da eski kız arkadaşına cinsel saldırıda bulunma ve onu öldürme planlarını paylaşan Florida’daki 25 yaşındaki bir kişi hakkında FBI’ı bilgilendirdi.
Şirketin şiddet riski içeren konuşmalardaki sorumluluğu başka soruşturmalarda da gündeme geliyor. Florida’da nisan ayında, ChatGPT’nin geçen yıl Florida Eyalet Üniversitesi’nde iki kişinin öldüğü silahlı saldırıda rol oynayıp oynamadığına ilişkin OpenAI hakkında ceza soruşturması başlatıldı. Şirket, iddiaları reddederek ChatGPT’nin kamuya açık bilgiler sunduğunu, yasa dışı faaliyetleri teşvik etmediğini veya desteklemediğini belirtti.
Gerçek tehdit ile duygusal boşalma nasıl ayrılacak?
Fernandes’e göre Brezilya’daki vakada kimliği belirlenebilir bir çocuğun söz konusu olması, soruşturma başlatılmasını açıklayan önemli bir unsur. Ancak Fernandes, yalnızca yapay zeka değerlendirmelerine dayanılarak soruşturma açılmasının olağan hale gelmemesi gerektiği uyarısında bulunuyor.
Gerçek tehditlerin duygusal boşalma, hayal veya kışkırtıcı ifadelerden ayrılabilmesi için güvencelere ihtiyaç olduğunu belirten Fernandes, aksi halde yapay zekanın yorumunun tek başına insanları soruşturma konusu haline getirebileceğini söylüyor.
Dijital hukuk uzmanı Profesör Patricia Peck ise belirlenebilir bir mağdurun, tehdidi gerçekleştirmeye elverişli araçların ve yakın bir riskin bulunduğu durumlarda şirketlerin harekete geçmek için etik, bazı durumlarda da yasal yükümlülük taşıyabileceğini ifade ediyor.
Peck’e göre müdahalenin ölçüsü, her konuşmanın izlenmesi değil, riskin bunu haklı kıldığı durumlar olmalı: “Buradaki zorluk, hem ihmalden hem de aşırı gözetimden kaçınmak.”
