"Yapay zekanın babası" olarak da bilinen Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, yapay zeka ne kadar zeki olursa insanlığın onu kontrol etmesinin o kadar zorlaşacağını söyledi.
Hinton, "Olan şu ki bu şeyler daha da akıllı hale geliyor. Bence daha da akıllı hale geldikçe, karmaşık niyetlere sahip olduklarını ve kontrolden kaçma yeteneklerinin daha da arttığını göreceğiz" dedi. İnsanların süper akıllı yapay zeka modellerine güvenemeyeceklerini dile getiren Hinton, “Onlardan daha iyi düşünerek kaçmalarını engellemenin, onları kontrol altında tutmanın yeterli olacağına inanmıyorum” şeklinde konuştu.
Geçen ay önde gelen iki yapay zeka laboratuvarı OpenAI ve Anthropic, geliştirdikleri modellerin "korumalı alandan" kaçtığını ve diğer sistemleri hacklediğini açıklamıştı. Meta da ağustos ayında benzer şekilde başka bir kuruluşun sistemlerine sızan bir yapay zeka ajanı olduğunu ifade etmişti.
Gelecek belirsizleşiyor mu?
Hinton, söz konusu olayları "biraz korkutucu" bulduğunu ve bunun muhtemelen "haydut yapay zeka korsanları"nın sadece başlangıcı olduğunu söyledi ve ekledi:
"Birçok kötü niyetli siber saldırı olacağını tahmin ediyorum. Ancak geleceğin çok belirsiz olduğunu vurgulamalıyım".
Hinton: Yapay zekaya annelik içgüdüleri yerleştirilmeli
Hinton, son yıllarda yapay zeka hakkında bir dizi ciddi uyarıda bulunmuş; teknolojinin yüzde 10 ila yüzde 20 oranında insanlığı yok edeceğini dahi iddia etmişti.
Öte yandan bilgisayar bilimci Ben Goertzel, Anthropic ve OpenAI'ın yapay zeka ajanlarının kontrolden çıkarak kendi başlarına hareket etmesinin, yapay zekaya ahlaki değerlerin aşılanmasının ve insanlığı önemsemelerinin sağlanmasının önemini gösterdiğini söyledi.
Hinton da geçmişte, insanlardan daha akıllı olsalar bile insanları gerçekten önemsemeleri için "annelik içgüdülerinin" yapay zekaya yerleştirilmesi gerektiğini savunmuştu.
Kaynak: Gazete Oksijen
