New York Times yazdı: OpenAI çalışanları yapay zeka endişelerine dair uyardı

Kevin Roose / The New York Times

Bir grup OpenAI çalışanı, şimdiye kadar yaratılmış en güçlü yapay zeka sistemlerini kurmak için yarışan San Francisco yapay zeka şirketinde kayıtsızlık ve gizlilik kültürü olduğunu söyledikleri tutumu ifşa ediyor. Dokuz mevcut ve eski OpenAI çalışanını içeren grup, son günlerde şirketin yapay zeka sistemlerinin tehlikeli hale gelmesini önlemek için yeterince çaba göstermediği yönündeki ortak endişeler etrafında toplandı.

Kar ve büyümeye öncelik veriyor

Üyeler, kâr amacı gütmeyen bir araştırma laboratuvarı olarak başlayan ve 2022'de ChatGPT'nin piyasaya sürülmesiyle kamuoyunun dikkatini çeken OpenAI'ın, bir insanın yapabileceği her şeyi yapabilen bir bilgisayar programı için kullanılan sektör terimi olan yapay genel zekâ ya da AGI'yi oluşturmaya çalışırken kar ve büyümeye öncelik verdiğini söylüyor. Ayrıca OpenAI'ın çalışanların endişelerini dile getirmelerini engellemek için sert taktikler kullandığını iddia ediyorlar.

OpenAI'ın yönetişim bölümünde eski bir araştırmacı ve grubun organizatörlerinden biri olan Daniel Kokotajlo, “OpenAI, AGI inşa etme konusunda gerçekten heyecanlı ve orada ilk olmak için pervasızca yarışıyorlar” dedi. Grup salı günü bir açık mektup yayınlayarak OpenAI dahil önde gelen yapay zeka şirketlerini daha fazla şeffaflık ve muhbirler için daha fazla koruma sağlamaya çağırdı.

Kokotajlo, mevcut OpenAI çalışanlarından bazılarının şirketten misilleme gelmesinden korktukları için mektubu isimsiz olarak desteklediklerini söyledi. Google'ın merkezi yapay zeka laboratuarı olan Google DeepMind'ın bir mevcut ve bir eski çalışanı da mektubu imzaladı. OpenAI sözcüsü Lindsey Held yaptığı açıklamada, "En yetenekli ve en güvenli yapay zeka sistemlerini sağlama konusundaki geçmişimizle gurur duyuyoruz ve riski ele alma konusundaki bilimsel yaklaşımımıza inanıyoruz. Bu teknolojinin önemi göz önüne alındığında titiz bir tartışmanın çok önemli olduğu konusunda hemfikiriz ve hükümetler, sivil toplum ve dünyanın dört bir yanındaki diğer topluluklarla iletişim kurmaya devam edeceğiz" ifadelerini kullandı. Google sözcüsü yorum yapmayı reddetti.

OpenAI geçen hafta yeni bir amiral gemisi yapay zeka modelini eğitmeye başladığını ve yeni model ve gelecekteki diğer teknolojilerle ilgili riskleri araştırmak için yeni bir emniyet ve güvenlik komitesi oluşturduğunu söyledi. Held, şirketin anonim bir hattı da dahil olmak üzere çalışanların endişelerini ifade edebilecekleri yollara sahip olduğunu ekledi. Kokotajlo ve grubu yetkilileri sektörü düzenlemeye çağırıyor.