19 Nisan 2024, Cuma
Haber Giriş: 30.03.2024 16:23 | Son Güncelleme: 30.03.2024 16:59

NYT dezenformasyon riskini yazdı: Open AI ses klonlama teknolojisini duyurdu

Open AI potansiyel tehlikeleri anlamaya çalışırken Voice Engine teknolojisini test etmeye başladı. NYT, şirketin yeni ürünü geniş çapta paylaşmadığını ve dezenformasyon yayma potansiyeli olduğunu yazdı
San Francisco'daki OpenAI ofisleri (Jason Henry/The New York Times)
San Francisco'daki OpenAI ofisleri (Jason Henry/The New York Times)

Cade Metz / New York Times

İlk olarak OpenAI, insanların sadece görmek istedikleri şeyi tarif ederek dijital görüntüler oluşturmalarına olanak tanıyan bir araç sundu. Ardından, bir Hollywood filmindeki gibi tam hareketli video üreten benzer bir teknoloji geliştirdi. Şimdi de, bir kişinin sesini yeniden yaratabilen teknolojiyi tanıttı. Yüksek profilli yapay zeka girişimi Open AI yaptığı açıklamada, küçük bir grup işletmenin 15 saniyelik bir kayıttan bir kişinin sesini yeniden oluşturabilen yeni Voice Engine sistemini test ettiğini söyledi. Kendinizin ve bir paragraf metnin kaydını yüklerseniz, sizinkine benzeyen sentetik bir ses kullanarak metni okuyabilir.
Metnin ana dilinizde olması gerekmiyor. Örneğin İngilizce konuşuyorsanız, sesinizi İspanyolca, Fransızca, Çince veya diğer birçok dilde yeniden oluşturabilir.

Dezenformasyonun yayılmasına yardımcı olabilir

OpenAI teknolojiyi geniş çapta paylaşmıyor çünkü hala potansiyel tehlikelerini anlamaya çalışıyor. Görüntü ve video programları gibi, bir ses programı da sosyal medyada dezenformasyonun yayılmasına yardımcı olabilir. Ayrıca suçluların çevrimiçi ortamda ya da telefon görüşmeleri sırasında insanları taklit etmesine de olanak sağlayabilir.

"Bu hassas bir konu"

Şirket, bu tür bir teknolojinin çevrimiçi bankacılık hesaplarına ve diğer kişisel uygulamalara erişimi kontrol eden sesli kimlik doğrulayıcıları kırmak için kullanılabileceğinden özellikle endişe duyduğunu söyledi. OpenAI ürün müdürü Jeff Harris "Bu hassas bir konu ve bunu doğru yapmak önemli" dedi. Şirket, sentetik sesleri filigranlaştırmanın ya da bu teknolojiye politikacıların ya da diğer tanınmış kişilerin seslerinin kullanılmasını engelleyecek kontroller eklemenin yollarını arıyor.

Şubat ayında OpenAI, Sora adlı video programını tanıttığında benzer bir yaklaşım benimsemişti. Teknolojiyi gösterdi ama kamuya sunmadı. OpenAI, hızlı ve kolay bir şekilde sentetik sesler üretebilen yapay zeka teknolojisi geliştiren birçok şirket arasında yer alıyor. Bu şirketler arasında Google gibi teknoloji devlerinin yanı sıra New York merkezli ElevenLabs gibi startuplar da yer alıyor. (New York Times, OpenAI ve ortağı Microsoft'a, metin üreten yapay zeka sistemleriyle ilgili telif hakkı ihlali iddiasıyla dava açtı).

Teknolojiyi tehlikeli kılan unsur

İşletmeler bu teknolojileri sesli kitaplar oluşturmak, çevrimiçi sohbet robotlarına ses vermek ve hatta otomatik bir radyo DJ'i oluşturmak için kullanabilir. OpenAI, geçen yıldan bu yana teknolojisini ChatGPT'nin konuşan versiyonunu güçlendirmek için kullandı. Ve uzun zamandır işletmelere benzer uygulamalar için kullanılabilecek bir dizi ses sunuyor. Bunların hepsi seslendirme sanatçıları tarafından sağlanan kliplerden oluşturuldu. Ancak şirket henüz Voice Engine'in yaptığı gibi bireylerin ve işletmelerin kısa bir klipten sesleri yeniden oluşturmasına olanak tanıyan halka açık bir araç sunmadı. Harris, herhangi bir sesi bu şekilde yeniden yaratma yeteneğinin, teknolojiyi tehlikeli kılan unsur olduğunu söyledi. Harris, bu teknolojinin özellikle seçim yılında tehlikeli olabileceğinin altını çizdi.

Ocak ayında New Hampshire sakinleri, büyük olasılıkla ABD Başkanı Joe Biden'ın sesine benzetilmiş yapay bir sesin kendilerini ön seçimlerde oy kullanmamaya çağıran robot çağrısını aldılar. Federal İletişim Komisyonu daha sonra bu tür aramaları yasakladı.

Sesini kaybeden insanlar için

Harris, OpenAI'ın bu teknolojiden para kazanmak gibi bir planı olmadığını söyledi. Bu aracın özellikle hastalık ya da kaza sonucu sesini kaybeden insanlar için faydalı olabileceğini söyledi. Beyin kanseri nedeniyle sesi zarar gören bir kadının sesini yeniden yaratmak için bu teknolojinin nasıl kullanıldığını gösteren Harris bir zamanlar lise öğrencisiyken yaptığı sunumun kısa bir kaydını verdikten sonra artık konuşabildiğini söyledi.

©️ 2024 The New York Times Company