Haber Giriş: 19.02.2024 11:54 | Son Güncelleme: 19.02.2024 13:44

Wall Street Journal yazarı: Google arama sonuçlarına dikkat edin, yapay zeka çıkabilir

Google da aradığınız güvenli bilgiye ulaşmak sandığınızdan daha zor olabilir. Yapay zeka ile tık almak ya da dolandırıcılık için üretilen içerikler gerçek sonuçlara ulaşmayı engelliyor. Wall Street Journal yazarı Nicole Nguyen, kendi karşılaştığı örneklerle dikkatli olmanın yollarını yazdı
Wall Street Journal yazarı: Google arama sonuçlarına dikkat edin, yapay zeka çıkabilir
A+ Yazı Boyutunu Büyüt A- Yazı Boyutunu Küçült

Son zamanlarda Google'da yaptığınız bazı aramaların sizi yanlış yönlendirdiğini fark ettiniz mi? Bunun bir nedeni var. Spam gönderenler yapay zeka araçlarını kullanarak bir içerik okyanusu oluşturuyor ve Google'ın algoritmaları robotlar tarafından oluşturulan bu sayfalardan bazılarını gerçekten ihtiyacınız olan bilgilerin önünde sıralıyor. 

Bu, yanıltıcı hedefli reklamlar ve sonuç sayfasının tepesinde görünmek için oluşturulmuş düşük kaliteli web siteleri de dahil olmak üzere aramalarınızı bozan hilelere yeni bir katman ekliyor. Bu tıklama tuzakları en iyi ihtimalle can sıkıcıdır. En kötüsü de sizi kredi kartı numaranızı ve diğer kişisel bilgilerinizi elde etmeye yönelik dolandırıcılıklara yönlendirebilir.

"Böyle biri yok"

İşte hızlı bir örnek: Gmail için kullandığım Google hesabını değiştirmek istediğimde, "varsayılan Google hesabı nasıl değiştirilir" diye arattım. En üstteki sonuç, LinkedIn'de yayınlanan bir makaleye yönlendirdi. Yazar, Adobe'da içerik yöneticisi olan Morgan Mitchell'di. Mitchell, tamamı arama dostu soru-cevap formatında yazılmış 150 makaleye imza attı. Bu makalelerin çoğu, daha karmaşık sorunlar için ve teknolojiyle arası çok iyi olmayan kullanıcılar için başvurulacak çözüm olan müşteri hizmetleri telefon numaralarını içeriyor.

Sorun şu ki, Mitchell diye biri yok. Makaledeki telefon numarası da Google ya da Adobe'a ait değil. Muhtemelen Mitchell bir yapay zeka ürünü. Bir Google sözcüsü, bağımsız analizlerde Google sonuçlarının rakip arama motorlarından daha kaliteli olduğunu söyledi."Spamle mücadele sistemlerimiz aramanın yüzde 99 oranında spamden arındırılmasına yardımcı oluyor" diyen sözcü, şirketin kullanıcı geri bildirimlerini incelediğini ve arama aracını yılda binlerce kez güncellediğini de sözlerine ekledi. Google'ı her gün kullanıyorum ve çoğumuz da kullanıyoruz, dünya genelinde yapılan aramaların yüzde 91'inden fazlası onunla yapılıyor. Alternatiflerinden daha güvenilir buluyorum. Yine de ortalıkta çok fazla pislik var. Üretken yapay zeka sadece bu karmaşaya katkıda bulunuyor. Peki bunlara dikkat ederek nasıl daha akıllıca arama yapacaksınız? İşte dikkat etmeniz gerekenler:

İçerik akını

Spam gönderenler artık arama sonuçlarında üst sıralarda yer almak için LinkedIn, Reddit ve Quora gibi Google'ın tercih ettiği sitelerde yayın yapıyor. Arama motoru uzmanı ve pazarlama ajansı Candour'un yöneticisi Mark Williams-Cook, metin üreten sohbet robotlarının bu tip parazit denilen içeriği üretmeyi kolaylaştırdığını söyledi. Williams-Cook, "Web'de spam içerikler yeni değil ancak kullanılan araçlar yeni ve engellemeleri aştılar" dedi. 

Google, arama sonuçlarını ele geçirmeyi amaçlayan seri üretim içeriği yasaklıyor. Yazılım kullanarak anahtar kelime dolu anlamsız içerikler üreten ya da diğer web sitelerinden metin kopyalayanları engelleyebiliyor. Yine de, yapay zeka tarafından oluşturulan içeriğin Google'ın spam kurallarını ihlal etmesi gerekmiyor. Bir YZ'nin içeriği yeterince iyiyse, aramada görünebiliyor. 

İçerikler kusursuz değil

Ancak Williams-Cook, Google'ın arama sıralama sistemleri için yeterince iyi görünen şeylerin sizin için yararlı olmayabileceğini söyledi. Hem makineler hem de kullanıcılar için içeriğin iyi okunduğunu, ancak uzman olmayanların gözden kaçırabileceği göze batan hatalar içerebileceğini söyledi. Şimdi 150 LinkedIn gönderisinin sözde yazarı Mitchell'e dönelim: Adobe, bu isimde birinin şirketle bağlantısı olmadığını doğruladı. Williams-Cook, profilin ve gönderilerin yapay zeka kullanılarak oluşturulduğundan şüpheleniyor. Görsel aramalarıma göre Mitchell profil fotoğrafı da yapay zeka tarafından oluşturulmuş olabilir.

Google sözcüsü, "Yapay zeka tarafından oluşturulan içerik de dahil olmak üzere, içeriğin yalnızca sıralama amacıyla üretilmesi durumunda bunun spam politikalarımızı ihlal edeceğini ve bu durumu ele alacağımız konusunda uzun zamandır açıktık" dedi. Profili LinkedIn ile paylaştıktan sonra şirket, platformun sahte hesap ve spam politikalarını ihlal ettiği gerekçesiyle profili kaldırdı.

İşte Google'ın filtrelerini aşan, ancak web'e gürültü katan yapay zeka destekli bir hizmet örneği: OpenAI'nin ChatGPT'sinin yardımıyla Eightify, YouTube videolarından metin tabanlı özetler ve soru-cevaplar oluşturuyor. Williams-Cook'a göre son altı ay içinde hiç trafik almazken aylık 1,2 milyon Google yönlendirmesine ulaştı. Site, "arabanızda uyumak için güvenli yerler" gibi yüzlerce aramada üst sıralarda yer alıyor. Eightify'ın kurucusu Alex Kataev, şirketin her makaleyi kontrol etmediğini, ancak en popüler olanları ve kullanıcılar tarafından işaretlenenleri kontrol ettiğini söyledi.

Kataev, "Ne yazık ki yanlış bilginin yayılması yapay zeka kullanımından kaynaklanmıyor. YouTube'un moderasyonuna güveniyoruz ve bu çoğu zaman yetersiz kalıyor" ifadelerini kullandı. Bir YouTube sözcüsü, şirketin yanıltıcı veya aldatıcı içeriğe izin vermediğini ve bu politikayı ihlal eden videoları kaldırdığını belirtti. 

Öne çıkanlar

Arama yaptığınızda, genellikle Google'da bir snippet ile karşılaşırsınız: Google'ın algoritmasının yetkili olduğunu düşündüğü bir kaynaktan sayfanın üst kısmında vurgulanmış bir alıntı olan bu alan sayesinde basit bir cevap arıyorsanız daha fazla tıklamanıza gerek kalmaz. "Grip belirtileri" şeklinde arama yaparsanız, Hastalık Kontrol ve Önleme Merkezleri web sitesinden bilgiler çıkar. Ancak algoritma bazen bu noktayı daha az arzu edilen kaynaklara verir.

Ocak ayında Luan Santos, yaklaşan bir Delta Air Lines rezervasyonunda eşinin adının yanlış yazıldığını fark etti. Hızlı bir Google araması sonucunda müşteri hizmetleri numarasını içeren bir sonuç buldu ve aradı. Bir temsilci hemen telefonu açtı. Onu bir ses kaydı karşıladı ve ardından  yarım saat beklemesi gerekiyordu. Rezervasyon onay numarasını verdi ve kendisine eşinin soyadı soruldu. Bu noktada, Google snippet'indeki bağlantının Delta'nın web sitesini göstermediğini fark etti. Bir dolandırıcılıktan korkarak telefonu kapattı. Artık Google'a daha az güvendiğini söyledi. 

Teklikeli reklamlar

Google arama sonuçları genellikle en üstte bir reklamla başlar. Bazen o kadar çok olur ki sponsorlu olmayan bağlantılara ulaşmak için sayfayı kaydırmanız gerekir. Reklam bölümünde yer almak için ödeme yapmak, kötü niyetli kişilerin müşterileri hedefledikleri bağlantıdan uzaklaştırmasının bir başka yolu. 

"ChatGPT Plus" aramasını ele alalım. Bu, OpenAI'nin ayda 20 dolarlık premium sohbet robotu hizmeti. Kaydolmak çok kolay, özellikle de telefonunuzda zaten ChatGPT uygulaması varsa. Google sponsorlu ilk bağlantıda "ChatGPT 4.0 artık mevcut" yazıyor ve sizi OpenAI tarafından yönetilmeyen bir web sitesine götürüyor. Bu hizmet de aylık 20 dolar ücret alıyor ancak daha eski, ücretsiz olarak kullanılabilen bir yazılım sunuyor.

İnceleme sitesi Trustpilot'un kullanıcıları siteden geri ödeme alamadıklarını söylüyor. Sitenin operatörleriyle iletişime geçmeye çalıştım ama bir yanıt alamadım. Google sözcüsü, şirketin kötü amaçlı yazılım dağıtan veya kullanıcıları dolandırmaya çalışan reklamları yasakladığını ve her yıl şartlarını ihlal eden milyarlarca reklamı kaldırdığını söyledi. Ne arıyor olursanız olun, tetikte olun. Bağlantının konuyla ilgili resmi bir yer olup olmadığını kontrol edin. Müşteri hizmetleri veya ürün bilgileri arıyorsanız, şirketin web sitesi ile başlayın. Muhtemelen en iyi bilgiyi doğrudan kaynağından alacaksınız.

SONRAKİ HABER
Haber Giriş: 19.02.2024 00:00 | Son Güncelleme: 19.02.2024 00:05

Seçimler yaklaşıyor: Yapay zeka tehdidine karşı teknoloji devleri çözüm arıyor

Yapay zeka şirketleri bu dönüştürücü teknolojinin geliştirilmesinde öncü rol oynadılar. Şimdi de dünya çapında büyük seçimlerle dolu bir yılda yapay zekanın nasıl kullanılacağına dair sınırlar koymak için yarışıyorlar
Seçimler yaklaşıyor: Yapay zeka tehdidine karşı teknoloji devleri çözüm arıyor
A+ Yazı Boyutunu Büyüt A- Yazı Boyutunu Küçült

Tiffany Hsu - Cade Metz / The New York Times

Geçtiğimiz ay ChatGPT sohbet robotunun üreticisi OpenAI, kısmen gerçek kişi ya da kurumlar gibi davranan sohbet robotlarının oluşturulmasını yasaklayarak, araçlarının seçimlerde kötüye kullanılmasını önlemek için çalıştığını söyledi. Geçtiğimiz haftalarda Google da yapay zeka destekli sohbet robotu Bard'ın (yeni adıyla Gemini) seçimle ilgili belirli istemlere yanıt vermesini "tedbir amacıyla" sınırlandıracağını söyledi. Facebook ve Instagram'ın sahibi olan Meta ise, seçmenlerin hangi materyalin gerçek, hangisinin sahte olduğunu daha kolay ayırt edebilmeleri için platformlarında yapay zeka tarafından üretilen içeriği daha iyi etiketleme sözü verdi.

Cuma günü, aralarında Adobe, Amazon, Anthropic, Google, Meta, Microsoft, OpenAI, TikTok ve X'in de bulunduğu 20 teknoloji şirketi, aldatıcı yapay zeka içeriğinin 2024'teki oylamayı aksatmasını önlemeye yardımcı olmak için gönüllü bir taahhüt imzaladı. Münih Güvenlik Konferansı'nda açıklanan anlaşma, şirketlerin yapay zeka tespit araçları ve diğer eylemler konusunda işbirliği yapma taahhütlerini içeriyor, ancak seçimle ilgili yapay zeka içeriğinin yasaklanması çağrısında bulunmuyordu.

Anthropic ayrıca Cuma günü yaptığı açıklamada, teknolojisinin siyasi kampanya veya lobi faaliyetlerine uygulanmasını yasaklayacağını belirtti. Claude adlı bir sohbet robotu üreten şirket, bir blog yazısında, kurallarını ihlal eden kullanıcıları uyaracağını veya hesaplarını askıya alacağını söyledi. Şirket, yanlış bilgilendirme ve etki operasyonlarını otomatik olarak tespit etmek ve engellemek için eğitilmiş araçlar kullandığını da ekledi.

Şirket, "Yapay zeka uygulamalarının tarihi aynı zamanda sürprizler ve beklenmedik etkilerle dolu olmuştur" dedi ve şu sözleri kaydetti: "2024'te yapay zeka sistemlerinin öngörmediğimiz şekilde sürpriz noktalarda kullanılabileceğini düşünüyoruz"

Yapay zekayı kontrol altına alma çabası

Bu çabalar, yapay zeka şirketlerinin milyarlarca insan sandık başına giderken popüler hale getirdikleri bir teknolojiyi kontrol altına alma çabalarının bir parçası. Bir danışmanlık firması olan Anchor Change'e göre, bu yıl dünya çapında en az 83 seçim yapılması bekleniyor ki bu da en azından önümüzdeki 24 yıl için en büyük seçim yoğunluğu olarak nitelendirilebilir. Geçtiğimiz haftalarda Tayvan, Pakistan ve Endonezya'da insanlar oy kullanırken, dünyanın en büyük demokrasisi olan Hindistan'da da ilkbaharda genel seçimlerin yapılması planlanıyor.

'Sora' büyük ses getirdi

Yapay zeka araçlarına getirilen kısıtlamaların ne kadar etkili olacağı, özellikle de teknoloji şirketleri giderek daha sofistike teknolojilerle ilerledikçe, belirsizliğini koruyor. Perşembe günü OpenAI, anında gerçekçi videolar üretebilen bir teknoloji olan Sora'yı tanıttı. Bu tür araçlar siyasi kampanyalarda metin, ses ve görüntü üretmek için kullanılabilir, gerçek ve kurguyu bulanıklaştırabilir ve seçmenlerin hangi içeriğin gerçek olduğunu anlayıp anlayamayacağı konusunda soruları gündeme getirebilir.

Yapay zeka tarafından üretilen içerik, ABD'deki siyasi kampanyalarda çoktan ortaya çıktı ve düzenleyici ve yasal tepkilere neden oldu. Bazı eyalet yasa koyucuları, yapay zeka tarafından üretilen siyasi içeriği düzenlemek için yasa tasarıları hazırlıyor.

Geçtiğimiz ay New Hampshire sakinleri, yapay olarak Başkan Joe Biden'a benzetilmiş bir sesle, kendilerini eyalet ön seçimlerinde oy kullanmaktan caydıran robotik çağrı aldılar. Bu olay sonrası Federal İletişim Komisyonu geçen hafta bu tür aramaları yasakladı.

FCC Başkanı Jessica Rosenworcel o dönemde yaptığı açıklamada, "Kötü niyetli aktörler, savunmasız aile üyelerini gasp etmek, ünlüleri taklit etmek ve seçmenleri yanlış bilgilendirmek için yapay zeka tarafından üretilen sesleri kullanıyor" demişti.

Yapay zeka ile seçim zaferini ilan etti

Yapay zeka araçları Arjantin, Avustralya, İngiltere ve Kanada'da da siyasetçilerin ve siyasi konuların yanıltıcı veya aldatıcı tasvirlerini yarattı. Geçtiğimiz hafta, Pakistan'daki seçimlerde partisi en çok sandalyeyi kazanan eski Başbakan İmran Han, cezaevindeyken zaferini ilan etmek için bir yapay zeka sesi kullandı.

Uzmanlar, hafızalardaki en önemli seçim döngülerinden birinde, yapay zekanın yaratabileceği yanlış bilgi ve aldatmacaların demokrasi için yıkıcı olabileceğini söyledi.

Yapay zekaya 'yanıltıcı içerik' testi

Anthropic Cuma günü yaptığı duyuruda, Claude sohbet robotunun siyasi adaylar, siyasi konular ve seçim yönetimiyle ilgili nasıl yanlı veya yanıltıcı içerik üretebileceğini belirlemek için testler planladığını söyledi. Genellikle bir teknolojinin güvenlik açıklarını daha iyi tespit etmek amacıyla koruma önlemlerini aşmak için kullanılan bu testler, yapay zekanın seçmenleri nasıl etkisi altında bıraktığını ve zararlı sorgulara nasıl yanıt verdiğini de araştıracak.

Anthropic önümüzdeki haftalarda, oy verme ile ilgili sorguları olan ABD'li kullanıcıları, Democracy Works'ten TurboVote gibi yetkili bilgi kaynaklarına yönlendirmeyi planlıyor. Şirket, yapay zeka modelinin belirli seçimler hakkında gerçek zamanlı bilgileri güvenilir bir şekilde sağlamak için yeterince sık eğitilmediğini söyledi.

Etiketleme önlemi

Benzer şekilde, OpenAI geçen ay yaptığı açıklamada ChatGPT aracılığıyla insanları oylama bilgilerine yönlendirmeyi ve yapay zeka tarafından oluşturulan görüntüleri etiketlemeyi planladığını söyledi.

Dezenformasyon kampanyalarıyla ilişkilendirilen yapay zeka video üreticisi Synthesia da teknolojinin yanlış, kutuplaştırıcı, bölücü veya yanıltıcı materyaller de dahil olmak üzere "haber benzeri içerik" için kullanılmasını yasaklıyor. Synthesia'nın kurumsal ilişkiler ve politika başkanı Alexandru Voica, şirketin teknolojisinin kötüye kullanımını tespit etmek için kullandığı sistemleri geliştirdiğini söyledi.

Filigran ile sahte içerikler engellenecek

Görüntü oluşturma aracına sahip bir startup olan Stability AI, teknolojisinin yasadışı veya etik olmayan amaçlarla kullanılmasını yasakladığını, güvenli olmayan görüntülerin oluşturulmasını engellemek için çalıştığını ve tüm görüntülere algılanamayan bir filigran uyguladığını söyledi.

En büyük teknoloji şirketleri de Cuma günü Münih'te verilen ortak sözün ötesine geçtiler.

Geçtiğimiz hafta Meta, içeriğin yapay zeka ile oluşturulduğunu anlamaya yardımcı olacak teknolojik standartlar konusunda diğer firmalarla işbirliği yaptığını söyledi. Avrupa Birliği'nin Haziran ayındaki parlamento seçimlerinden önce TikTok, Çarşamba günü bir blog yazısında, potansiyel olarak yanıltıcı ve manipüle edilmiş içeriği yasaklayacağını ve kullanıcıların gerçekçi yapay zeka içeriklerini etiketlemelerini gerektireceğini söyledi.

Google Aralık ayında yaptığı açıklamada, YouTube'daki video yaratıcılarının ve tüm seçim reklamcılarının dijital olarak değiştirilmiş veya oluşturulmuş içerikleri açıklamasını zorunlu kılacağını söyledi. Şirket, Bard gibi yapay zeka araçlarının seçimle ilgili belirli sorgulara yanıt vermesini kısıtlayarak 2024 seçimlerine hazırlandığını söyledi.

Google, "Gelişmekte olan her teknoloji gibi, yapay zeka da yeni fırsatlar ve zorluklar sunuyor" dedi. Şirket, yapay zekanın istismarla mücadeleye yardımcı olabileceğini de sözlerine ekledi:

"Ancak yanlış bilgilendirme ortamını nasıl değiştirebileceğine de hazırlanıyoruz"

© 2024 The New York Times Company