Yapay zekanın babasından "Çernobil" uyarısı: Elektrik şebekeleri ve finans sistemi tehlikede

"Yapay zekanın babalarından" biri olarak görülen Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, insanlığın bu teknolojiyi hiç geliştirmemesinin daha iyi olabileceğini söyleyerek bu yılın sonunda ya da gelecek yıl Çernobil benzeri bir olay yaşanabileceğini öngördü

"Yapay zekanın babalarından" biri olarak kabul edilen Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, insanlığın bu teknolojiyi hiç geliştirmemiş olmasının daha iyi olabileceğini söyledi.

Hinton, yapay zekanın bu yıl veya gelecek yıl, finansal sistemlerde ya da elektrik şebekelerinde geçici kesintiler gibi büyük çaplı olayları tetikleyebileceği konusunda uyarıda bulundu.

Yapay sinir ağlarına yönelik çığır açan araştırmalarıyla desteklenen teknoloji konusunda "felaket tellalı" olmadığını ve yapay zekanın "harika bir gelecek" yaratma potansiyeline sahip olduğuna inandığını belirtti fakat "Belki de onu hiç geliştirmememiz daha iyi olurdu" ifadelerini kullandı.

"Sam Altman'a hiç güvenmiyorum"

Hinton, Sam Altman'a "hiç" güvenmediğini söyleyerek üstünlük ve pazar payı için yarışırken giderek daha güçlü yapay zeka modelleri yayınlamaya devam eden bazı büyük yapay zeka şirketlerinin liderlerinin risk almasından da bahsetti ve şöyle konuştu:

"Sanırım [Mark] Zuckerberg, [Elon] Musk ve Sam Altman risklerin farkındalar ve umursamıyorlar. Parayı almayı tercih ediyorlar. Benim inancım bu".

Altman'ın en güçlü yapay zekayı geliştirmek için Çin ile yarışan bir avuç öncü yapay zeka şirketinden birinin sorumlusu olmasının "son derece endişe verici" olduğunu söyledi.

Yaklaşık 44 yıldır yapay zeka üzerine çalışan Hinton, 1970’lerde tıpkı insanlar gibi öğrenebilen ve deneyim kazanabilen matematiksel bir sistem olan "sinir ağı" (neural network) kavramını ortaya attı. 2023 yılında, yapay zekanın riskleri hakkında özgürce konuşabilmek için Google’daki görevinden ayrıldı ve şu uyarıda bulundu: "Eğer bu sistemler daha fazla kontrol elde etme konusunda aşırıya kaçarlarsa, başımız dertte demektir".

"Ya bu yılın sonlarında ya da gelecek yıl Çernobil'i göreceğiz ve bu, insanların gerçekten dikkat etmesi için yeterli olabilir" diyen Hinton, bu "Çernobil" tipi olayın nükleer bir olay değil, elektrik üretim sistemine yönelik “büyük bir kesintiye neden olan” yapay zeka destekli bir saldırı veya finansal sistemi bir hafta boyunca çökerten bir olay olabileceğine işaret etti.