Önde gelen iki yapay zeka firmasının yöneticileri, gelişmiş yapay zekanın yarattığı varoluşsal tehdit konusunda bir kez daha uyarıda bulundu. DeepMind ve OpenAI genel müdürleri Demis Hassabis ve Sam Altman, Centre for AI Safety tarafından yayınlanan ve sorumluların ciddi riskleri daha fazla önemsemeleri gerektiğini ortaya koyan bir açıklamada imzacı oldu. Açıklamada, "YZ'den kaynaklanan yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır" ifadeleri yer aldı.
Savaş ve kimyasal silahlar için kullanılma ihtimali
San Francisco merkezli kar amacı gütmeyen bir kuruluş olan Centre for AI Safety, 2022 yılında yapay zekadan kaynaklanan toplumsal ölçekli riskleri azaltmak amacıyla kuruldu ve yapay zekanın savaşta kullanılması ya da yeni kimyasal silahlar geliştirmek için kullanılması halinde son derece zararlı olabileceğini iddia etti.
Üst düzey yöneticiler ve yaratıcılar imzacı oldu
Neyin neslinin tükenebileceğini düşündüklerine açıklık getirmeyen son bildirinin imzacıları arasında bu alandaki iş dünyası ve akademik liderler de yer aldı. Bunlar arasında bazen Yapay Zekanın Babası olarak adlandırılan Geoffrey Hinton ve ChatGPT geliştiricisi OpenAI'nin CEO'su ve kurucu ortağı Ilya Sutskever de vardı. Listede ayrıca Google'ın üst düzey patronu, Skype'ın kurucu ortağı ve yapay zeka şirketi Anthropic'in kurucuları da yer aldı.
Birkaç firmanın, kullanıcıların sadece istediklerini sorarak metin, görüntü ve hatta bilgisayar kodu üretmelerine olanak tanıyan yeni araçlar yayınlamasının ardından yapay zeka artık küresel bir bilinç haline geldi. Uzmanlar teknolojinin işleri insanlardan devralabileceğini söylüyor ancak bu uyarı daha da derin bir endişe konusunda uyarıyor.
İnsanlığı yok edebileceği korkusu
ChatGPT ve Dall-E gibi araçların ortaya çıkması, yapay zekanın insan zekasını geçmesi halinde bir gün insanlığı yok edebileceğine dair korkuları yeniden gündeme getirdi. Bu yılın başlarında teknoloji liderleri, önde gelen YZ firmalarına, riskleri azaltmanın yolları üzerinde çalışmak için sistemlerinin geliştirilmesine altı ay ara vermeleri çağrısında bulundu.
Yaşamın Geleceği Enstitüsü'nün açık mektubunda "İnsanla rekabet edebilecek zekaya sahip YZ sistemleri toplum ve insanlık için derin riskler oluşturabilir. YZ araştırma ve geliştirme çalışmaları günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır" ifadeleri yer aldı.
