Bilmediğini öğrenen YZ her şeyi bilenden iyidir!

Yıllardır her şeyi bilen Google’dan sonra hayatımıza giren yapay zeka (YZ) fırtınası, bizi başka bir bilgelik boyutu ile tanıştırdı. Fakat YZ’nin özellikle bilgi verme konusunda zaman zaman kendinden gayet emin biçimde ‘yanlış cevaplar’ sunması (buna halüsinasyon adı veriliyor) en büyük sorun olarak ortada duruyor. Bu hafta The Independent’ta yayınlanan “YZ artık ‘bilmiyorum’ demeyi öğrendi” başlıklı araştırma bu yüzden ilgimi çekti. Sanki ChatGPT’nin prompt terbiyecileri ona artık ‘sen biraz mütevazı ol’ demiş gibi geldi. Çünkü YZ’nin yanlış cevapları bugüne dek bir uzman edasıyla vermesi her kullanıcı için ciddi bir şüphe kaynağıydı. Ben de bu köşede ‘YZ bazen bilmediğini bilmiyor, daha kötüsü, bilmediği konularda çok emin konuşuyor’ diye yazmıştım. Haberin konusu tam da bu. Uzmanlar YZ’nin verdiği cevaba duyduğu güven ile cevabın doğruluğu arasındaki ilişkiyi incelemiş. Bilimsel adıyla buna ‘belirsizlik kalibrasyonu’ deniyor. Yani model gerçekten mevzuyu biliyorsa kendinden emin olsun, bilmiyorsa biraz duraksasın. Hatta gerekiyorsa ‘bu konudan pek emin değilim’ diyebilsin. Bilmemenin bir zaaf olmadığı nihayet sisteme öğretilmiş. Nature Machine Intelligence’taki araştırma bu konuyu vurguluyor. Güncel modeller kimi zaman aşırı güvenli, hatalı hatta uydurma cevaplar üretebiliyor. Araştırmacılar bu sıkıntıya karşı, modele gerçek veriyi öğretmeden önce kısa bir ‘ısınma’ aşaması öneriyor. Bunun için de insan beyninden ilham alınmış. Bebeklerin hayatı tanıması gibi, rastgele gürültü ve rastgele etiketlerle kısa bir ön eğitim veriliyor. Yeni doğmuş bir çocuğun her şeyi kurcalaması gibi o da bu aşamada yeni bilgiler öğreniyor. Yani YZ artık bazı şeyleri ‘bilmiyor olabileceğini’ idrak edecek noktaya geldi. Biz de zaten insanların cehaletindeki özgüvenden bıkmışken bir de YZ’nin cehaletini çekmek istemiyoruz. Üstelik insanlarda da pek ‘bilmiyorum’ diyen kalmadı. Bugün kanaat önderi haline gelmiş ekran figürleri ve çokbilmiş sosyal medya canavarları zaten her konuda uzman. E bu durumda YZ de bizi taklit ettiği için maalesef insanlığın bu kötü huyunu dijital biçimde kopyalıyor. YZ şirketleri de herhalde karizmaları çizilmesin diye ürünlerinin her konuda fikri varmış gibi davranmasını sağlıyor.