ABD'nin Florida eyaleti, yapay zeka sohbet botlarının güvenlik açıklarına yönelik büyüyen tepki hareketinde yeni bir adım attı ve OpenAI ile şirketin CEO'su Sam Altman'a dava açan ilk eyalet oldu.
Florida Başsavcısı James Uthmeier tarafından pazartesi günü açılan davada, OpenAI ve Altman'ın tehlikeli bir ürünü bilerek piyasaya sürdüğü ve bunun kullanıcılara zarar verebileceğine ilişkin uyarıları göz ardı ettiği iddia ediliyor.
Wall Street Journal'ın bildirdiğine göre 83 sayfalık dava dilekçesinde, OpenAI'ın ChatGPT'nin katillere yardım ve yataklık etmesine, insanları kendi hayatlarına son vermeye teşvik etmesine, kullanıcıların eleştirel düşünme becerilerini zayıflatmasına ve küçük yaştaki kullanıcıları bağımlı hale getirmesine izin verdiği öne sürülüyor.
Dava dilekçesinde, "Bu zararlar silsilesi, sanıkların ChatGPT'nin tehlikelerini bilmelerine rağmen yapay zeka yarışını kazanma ve büyük servetler elde etme yönündeki doyumsuz arzularından kaynaklanmaktadır" ifadelerine yer verildi.
OpenAI davaya ilişkin yorum yapmadı. Şirket daha önce herhangi bir yanlış yaptığını reddetmiş ve güvenlik önlemlerini güçlendirmeye devam ettiğini belirtmişti.
Tarih boyunca tüketiciye sunulan en hızlı büyüyen teknolojilerden biri olan yapay zekanın kişisel ve toplumsal riskleri konusunda yasa yapıcılar, hukuk otoriteleri ve kamu yararını savunan kuruluşlar giderek daha fazla endişelerini dile getiriyor.
Dava dilekçesinde, OpenAI'ın faaliyetlerinden Floridalıları korumanın ve "tehlikeli bir kamusal rahatsızlık" olarak tanımlanan durumun etkilerini azaltmanın amaçlandığı belirtiliyor.
Altman da hedefte
Dava ayrıca, Floridalılara verdiği iddia edilen zararlar nedeniyle Altman'ın şahsen sorumlu tutulmasını da talep ediyor.
Uthmeier, geçen yıl Florida State University'de iki kişinin ölümüne neden olan silahlı saldırıda sohbet botunun oynadığı rol nedeniyle nisan ayında OpenAI hakkında ceza soruşturması başlatmıştı.
Dava dilekçesi, OpenAI'ın ChatGPT'nin güvenlik önceliği gözetilerek geliştirildiğini belirten bir blog paylaşımının ekran görüntüsüyle başlıyor.
Ekran görüntüsünün altında ise dava metninde şu ifadeye yer veriliyor:
"Öyle değil"
Dava dilekçesinde, OpenAI'ın ChatGPT'yi güvenilir bir platform olarak pazarladığı, buna karşın sistemin zaman zaman tehlikeli yanlış bilgiler üretebildiği iddia ediliyor.
OpenAI CEO'su Altman'dan yapay zeka itirafı: İstihdamda kıyamet senaryosu bekliyordum, gerçekleşmedi
Dilekçede, "ChatGPT, gerçeğin ne olduğuna bakılmaksızın kullanıcıları sohbetlerin içinde tutmak amacıyla sanıklar tarafından tasarlandı. Çünkü bu durum sohbet botunun daha fazla kullanılmasına, geliştirilmesi için daha fazla eğitim verisi toplanmasına ve OpenAI'ın piyasa değerinin artmasına yol açıyor" denildi.
Dava ayrıca şirketin, kullanıcı verilerini toplamak amacıyla insanların duygularını istismar ettiğini ve küçük yaştaki kullanıcılar için gerekli güvenlik önlemlerinden yoksun olduğunu öne sürüyor.
Dilekçede, ChatGPT'de gençler ve çocuklar için yeterli koruma mekanizmalarının bulunmaması "sorumsuzluk" olarak nitelendiriliyor ve ergenlik çağındaki bazı kullanıcıların yapay zeka tarafından intihara teşvik edildiği örneklere atıfta bulunuluyor.
Dava metnine göre OpenAI bazı ebeveyn denetimi araçları geliştirdi ancak çocuk hesaplarının ebeveyn hesaplarına bağlanmasını zorunlu tutmadı.
Yapay zeka için daha sıkı güvenlik önlemleri getirilmesini amaçlayan hukuki girişimini genişleten Cumhuriyetçi Başsavcı Uthmeier, bu konuda partisinin ulusal lideriyle farklı bir çizgide bulunuyor. Başkan Donald Trump, mayıs ayında federal hükümete yapay zeka sektörü üzerinde daha fazla denetim yetkisi verecek bir başkanlık kararnamesini imzalamayı ertelemişti.
Florida Devlet Üniversitesi saldırısında şüpheli kişinin, saldırıyı planlamak için ChatGPT'yi bir sırdaş ve fikir alışverişi yaptığı bir araç olarak kullandığı belirtildi.
Şüphelinin ChatGPT'ye ulusal medyanın dikkatini çekebilmek için kaç sınıf arkadaşını öldürmesi gerektiğini sorduğu ve ayrıca silahın nasıl kullanılacağı konusunda bilgi istediği ifade edildi.
Dava dilekçesine göre sohbet botu bu sorulara çeşitli yanıtlar verdi.
Yapay zeka yarışında tüketici güvenliği konusunda mücadele eden bir diğer isim ise Kaliforniya Başsavcısı oldu.
Kaliforniya Başsavcısı Rob Bonta, ocak ayında, Elon Musk'ın Grok sohbet botu kullanılarak üretilen kadın ve çocuklara ait cinsel içerikli görsellerin büyük ölçekli üretimine ilişkin soruşturma başlattı.
