Hiç kimse geleceği teknoloji endüstrisinden daha ustaca satamaz. Teknoloji savunucularına göre hepimiz metaverse içinde yaşayacağız, finansal altyapımızı web3 üzerine kuracağız ve hayatlarımızı yapay zeka ile güçlendireceğiz. Bu terimlerin üçü de, gerçeklik tarafından geri püskürtülmelerine rağmen milyarlarca dolar kazandıran seraplar. Özellikle yapay zeka, düşünen makineler kavramını çağrıştırıyor. Ancak hiçbir makine düşünemez ve hiçbir yazılım gerçekten akıllı değildir. Bu ifade tek başına tüm zamanların en başarılı pazarlama terimlerinden biri olabilir.
"Bu zeka değil"
Geçtiğimiz hafta OpenAI, ChatGPT'nin temelini oluşturan teknolojide büyük bir yükseltme olan GPT-4'ü duyurdu. Sistemin sesi öncekinden daha da insana benziyor ve bu da doğal olarak zeka kavramlarını güçlendiriyor. Ancak GPT-4 ve onun gibi diğer büyük dil modelleri, ölçeğini düşünmesi zor olan metin veri tabanlarını (önceki model için bir trilyon kelimeye yakın) yansıtıyor. Düzeltmelerle yeniden programlayan bir insan ordusunun yardımıyla, modeller olasılığa dayalı olarak kelimeleri bir araya getiriyor. Bu zeka değil.
Bu sistemler kulağa mantıklı gelen metinler üretmek üzere eğitilmiş olsalar da arama motorlarına takılabilecek yeni bilgi kehanetleri olarak pazarlanıyorlar. GPT-4 hata yapmaya devam ederken ve sadece birkaç hafta önce Microsoft ve Alphabet'in Google'ı, yeni arama motorlarının gerçekler üzerinde hata yaptığı utanç verici demolar yaşarken, bu aptalca.
"En fazla 302 nöronlu solucan beyni taklit edildi"
Sinir ağları ve derin öğrenme gibi terimler bu programların insan benzeri olduğu fikrini güçlendiriyor. Sinir ağları hiçbir şekilde insan beyninin kopyası değildir. Sadece onun işleyişinden bir şekilde ilham alırlar. Yaklaşık 85 milyar nöronuyla insan beynini kopyalamaya yönelik uzun soluklu çabaların hepsi başarısız oldu. Bilim insanları en fazla 302 nöronlu bir solucanın beynini taklit edebildi.
Bilgisayar sistemleri hakkında büyülü düşünceleri yaymayan ve bu sistemleri tasarlayan insanları sorumluluklarından muaf tutmayan farklı bir sözlüğe ihtiyacımız var. Daha iyi bir alternatif nedir? Aklı başında teknoloji uzmanları yıllardır yapay zeka yerine makine öğrenimi sistemleri ifadesini kullanmayı denediler ancak bu da aynı şekilde kulağa hoş gelmiyor.
Eski bir İtalyan politikacı ve teknoloji uzmanı olan Stefano Quintarelli, insanların yapay zeka hakkında sorduğu soruların gülünçlüğünün altını çizmek için Algoritmaları ve Makine Çıkarımlarını Öğrenmek için Sistemik Yaklaşımlar (SALAMI) adında başka bir alternatif ortaya attı: SALAMI bilinçli mi? SALAMI insanlar üzerinde bir üstünlüğe sahip olacak mı?
Anlamsal bir alternatif için en umutsuz girişim muhtemelen yazılım kelimesi olacaktır. "Ama" dediğinizi duyar gibiyim: Bu kadar sihirli görünen bir teknolojiyi tanımlamak için biraz mecazi kısaltma kullanmanın nesi yanlış? Cevap, makinelere zeka atfetmenin onlara insanlardan hak etmedikleri bir bağımsızlık kazandırması ve yaratıcılarını etkileri konusunda sorumluluktan kurtarmasıdır. ChatGPT'yi zeki olarak görürsek, yaratıcısı olan San Francisco'lu start-up OpenAI'ı yanlışlıklarından ve önyargılarından sorumlu tutmaya daha az meyilli oluruz. Bu aynı zamanda teknolojinin zararlı etkilerine maruz kalan insanlar arasında kaderci bir yaklaşım yaratır.
Meta Platforms Inc. şirketinden Snap Inc. şirketine ve Morgan Stanley'e kadar pek çok şirket chatbot'ları, metin ve görüntü oluşturucuları sistemlerine dahil etmek için acele ettiğinden bu konu daha da önem kazanıyor. Google ile girdiği yeni silahlanma yarışının da etkisiyle Microsoft, OpenAI'nin henüz büyük ölçüde test edilmemiş dil modeli teknolojisini Word, Outlook ve Excel gibi en popüler iş uygulamalarına yerleştiriyor. Microsoft yeni özelliği hakkında "Copilot, insanların yapay zeka ile çalışma şeklini ve yapay zekanın insanlarla çalışma şeklini temelden değiştirecek" dedi.
"Gözlerin kamaşmasını sağlamak için harika bir yol"
Ancak müşteriler için akıllı makinelerle çalışma vaadi neredeyse yanıltıcı. Kelimelerin ve etiketlerin tehlikeli gücü hakkında Unspeak kitabının yazarı Steven Poole, "Yapay zeka mevcut gerçeklikten ziyade bir tür ütopik umudu ifade eden etiketlerden biridir, tıpkı birinci Körfez Savaşı sırasında akıllı silahlar ifadesinin yükselişinin, hala mümkün olmayan tamamen hassas hedeflerin kansız bir vizyonunu ima etmesi gibi" dedi.
Büyük dil modellerindeki önyargıları eleştiren bir makale yayınladıktan sonra Google tarafından kovulan bilgisayar bilimcisi Margaret Mitchell, son yıllarda çalışmalarını isteksizce yapay zeka temelli olarak tanımladı. Mitchell bir konferansta, "Önceden benim gibi insanlar makine öğrenimi üzerinde çalıştığımızı söylüyordu. Ancak şimdi yapay zeka diyoruz. Bu, insanların gözlerinin kamaşmasını sağlamak için harika bir yol" diye itirafta bulundu.
"O zaman insanlar söylediklerimi dinliyor"
Google'daki eski meslektaşı ve Dağıtılmış Yapay Zeka Araştırma Enstitüsü'nün kurucusu Timnit Gebru da yapay zeka kelimesini ancak 2013 civarında kullanmaya başladığını söyledi. Gebru, "Söylenmesi gereken bir şey haline geldi" dedi. Mitchell, "Korkunç ama ben de bunu yapıyorum. Dokunduğum her şeye yapay zeka diyorum çünkü o zaman insanlar söylediklerimi dinleyecek" diye ekledi.
Ne yazık ki, yapay zeka kelime dağarcığımıza o kadar yerleşmiş durumda ki bundan kurtulmak neredeyse imkansız. En azından, bu tür sistemlerin yan etkilerinden sorumlu tutulması gereken insanlara ne kadar bağımlı olduğunu kendimize hatırlatmalıyız. Birden fazla yönden, gerçekten de yapay zeka ile baş başa kaldık.
Gazeteci Parmy Olson, Bloomberg'te teknoloji alanında yazılar yazıyor. Daha önce Wall Street Journal ve Forbes'ta muhabir olarak çalıştı. Olson aynı zamanda, We Are Anonymous kitabının da yazarı.
