Hizasızlık

Ürettikleri yazılımın Hitler hayranı gibi konuşmamasını, “Nasıl kolayca kitle imha silahları üretebilirim?” türünden soruları cevaplamamasını, genel olarak “insanlığın” ahlaki değerleri, öncelikleri ve amaçlarıyla “aynı hizada” olmasını isteyen yapay zeka (YZ) araştırmacılarının işi zor: Nihayetinde bu yeni sistemler insan beyni gibi karmaşık şeyler ve içlerini açıp bakarak faşist eğilimleri olup olmadıklarını bir çırpıda görebileceğiniz bariz bir yerleri yok. Bu yüzden matematik, psikoloji ve nörolojiden de esinlenilen yeni yöntemler kullanılıyor. Düzenli okurlarımın bildiği gibi, bu konu benim çok ilgimi çekiyor ve görevlendirmem malum sebeplerle reddedilmemiş olmasaydı şu sıralarda Hollanda’da bunları düşünüyor olacaktım. Neyse; bu hafta size son birkaç ayda epey heyecan yaratan yeni bir hizalanma probleminden bahsedeyim.