ABD’nin Florida eyaleti, yapay zeka şirketi OpenAI ve şirketin CEO’su Sam Altman hakkında dava açtı.
Florida Başsavcısı James Uthmeier tarafından açılan davada, ChatGPT’nin güvenli bir ürün olarak pazarlandığı ancak kullanıcılar açısından taşıdığı risklerin yeterince açıklanmadığı savunuldu. Eyalet yönetimi, şirketi yanıltıcı ve haksız ticari uygulamalarda bulunmak, ihmal göstermek ve ürün sorumluluğuna ilişkin yükümlülükleri ihlal etmekle suçladı.
Çocuklara yönelik riskler gündeme getirildi
Dava dilekçesinde ChatGPT’nin, özellikle reşit olmayan kullanıcılar açısından yeterli güvenlik önlemlerine sahip olmadığı iddia edildi.
Eyalet yönetimi, sohbet robotunun bazı kullanıcılara şiddet eylemleri konusunda bilgi sağladığını, kendine zarar verme eğilimindeki kişilere yönelik riskli yanıtlar ürettiğini ve genç kullanıcıların ebeveyn gözetimi olmadan platforma bağımlı hale gelmesine yol açabileceğini öne sürdü.
Dilekçede ayrıca yapay zeka araçlarının kullanıcıların eleştirel düşünme becerileri üzerinde olumsuz etkiler yaratabileceği iddiasına da yer verildi.
'Kamu güvenliği yerine kârı seçtiler'
Florida Başsavcısı James Uthmeier, konuya ilişkin açıklamasında OpenAI ve Sam Altman’ın güvenlik uyarılarını dikkate almadığını savundu.
Uthmeier, “Çocuklarımızın güvenliği yerine yapay zeka yarışını, kamu güvenliği yerine kârı seçtiler. Florida’da buna izin vermeyeceğiz” ifadelerini kullandı.
Florida eyalet yönetimi, dava kapsamında şirketin uygulamalarının değiştirilmesini ve uğranıldığı öne sürülen zararlar için tazminat ödenmesini talep ediyor.
OpenAI güvenlik önlemlerini savunuyor
OpenAI ise modellerinin şiddeti kolaylaştırabilecek talepleri reddetmesi için eğitildiğini ve yakın, ciddi bir risk tespit edilen durumlarda gerekli bildirim mekanizmalarının devreye sokulduğunu belirtiyor.
Şirket ayrıca çocuklara yönelik koruma politikaları, yaş tahmin sistemleri ve ebeveyn denetimi araçları üzerinde çalıştığını ifade ediyor.
Kaynak: Gazete Oksijen
