Steve Lohr / The New York Times
Ali Farhadi teknoloji asisi değil. 42 yaşındaki bilgisayar uzmanı son derece saygın bir araştırmacı, Washington Üniversitesi'nde profesör ve dört ay öncesine kadar çalıştığı Apple’da çalışıyordu. Apple Farhadi’nin kurduğu startup'ı satın aldı.
Temmuz ayında Allen Yapay Zeka Enstitüsü'nün CEO'su olan Farhadi, birçok kişinin on yıllardır teknolojideki en önemli ilerleme olduğuna inandığı yeni bir yapay zeka dalgasında araştırma ve geliştirmeyi demokratikleştirmek için "radikal açıklık" çağrısında bulunuyor.
Allen Enstitüsü, Google gibi teknoloji devlerine ve OpenAI gibi startup'lara alternatif, serbestçe kullanılabilen bir yapay zeka oluşturmak için iddialı bir girişim başlattı. Açık kaynak olarak adlandırılan bir endüstri sürecinde, diğer araştırmacıların bu yeni sistemi ve onu besleyen verileri incelemesine ve kullanmasına izin verilecek.
Seattle'da kâr amacı gütmeyen etkili bir araştırma merkezi olan Allen Enstitüsü'nün benimsediği bu tutum, onu yeni yapay zekanın ne kadar açık ya da kapalı olması gerektiğine dair şiddetli bir tartışmanın bir tarafında konumlandırıyor. OpenAI’ın ChatGPT'si ve Google'ın Bard'ı gibi sohbet robotlarına güç veren sözde üretken yapay zekayı açmak daha fazla inovasyon ve fırsata yol açar mı? Yoksa Pandora'nın dijital zarar kutusunu mu açar?
‘Açık’ olmak ne anlama geliyor?
Üretken YZ bağlamında "açık" kelimesinin ne anlama geldiğine ilişkin tanımlar çeşitlilik gösteriyor. Geleneksel olarak, yazılım projeleri programların altında yatan "kaynak" kodunu açıyor. Böylece herkes koda bakabiliyor, hataları tespit edebiliyor ve önerilerde bulunabiliyor. Değişikliklerin yapılıp yapılmayacağını düzenleyen kurallar var.
Yaygın olarak kullanılan Linux işletim sistemi, Apache web sunucusu ve Firefox tarayıcısının arkasındaki popüler açık kaynaklı projeler bu şekilde çalışıyor. Fakat üretken yapay zeka teknolojisi koddan daha fazlasını içeriyor. Yapay zeka modelleri muazzam miktarda veri üzerinde eğitiliyor ve ince ayara tabi tutuluyor.
Her ne kadar iyi niyetli olsa da uzmanlar Allen Enstitüsü'nün izlediği yolun doğası gereği riskli olduğu konusunda uyarıyor.
Uluslararası anlaşmalara ihtiyaç var
Harvard Üniversitesi Berkman Klein İnternet ve Toplum Merkezi'nde araştırmacı olan Aviv Ovadya, "YZ sistemlerinin açıklığına ilişkin kararlar geri döndürülemez ve muhtemelen zamanımızın en önemli kararları arasında yer alacak" dedi. Ovadya, hangi teknolojinin kamuya açıklanmaması gerektiğini belirlemek için uluslararası anlaşmalara ihtiyaç olduğuna inanıyor.
Üretken yapay zeka güçlü ama çoğu zaman öngörülemez. Anında e-posta, şiir ve dönem ödevi yazabilir ve akla gelebilecek her türlü soruya insani bir akıcılıkla yanıt verebilir. Ama aynı zamanda araştırmacıların "halüsinasyon" olarak adlandırdığı, bir şeyler uydurma gibi sinir bozucu bir eğilimi de var.
Önde gelen sohbet robotu üreticileri -Microsoft destekli OpenAI ve Google- yapay zeka modellerinin nasıl eğitildiğini ve ayarlandığını açıklamayarak yeni teknolojilerini kapalı tuttular. Özellikle Google, araştırmalarını yayınlama ve AI yazılımını paylaşma konusunda uzun bir geçmişe sahipti, ancak Bard'ı geliştirdikçe teknolojisini giderek daha fazla kendine sakladı.
Şirketler bu yaklaşımın, suçluların teknolojiyi ele geçirerek interneti yanlış bilgi ve dolandırıcılıkla doldurma ya da daha tehlikeli davranışlarda bulunma riskini azalttığını söylüyor.
Açık sistemleri destekleyenler riskleri kabul ediyor ancak bunlarla mücadele etmek için daha fazla akıllı insanın çalışmasının daha iyi bir çözüm olduğunu söylüyorlar.
Meta’nın hamlesini övdü ama…
Meta bu yıl LLaMA (Large Language Model Meta AI) adında bir yapay zeka modeli yayınladığında heyecan yarattı. Farhadi Meta'nın bu hamlesini övdü ancak yeterince ileri gitmediğini düşünüyor: "Yaklaşımları temelde şu: Ben biraz sihir yaptım. Bunun ne olduğunu size söylemeyeceğim.”
Farhadi, yapay zeka modellerinin teknik detaylarının, eğitildikleri verilerin, yapılan ince ayarların ve davranışlarını değerlendirmek için kullanılan araçların açıklanmasını öneriyor.
Allen Enstitüsü, yapay zeka modellerinin eğitimi için büyük bir veri seti yayınlayarak ilk adımı attı. Bu veri seti web, kitaplar, akademik dergiler ve bilgisayar kodlarından elde edilen kamuya açık verilerden oluşuyor. Veri seti, kişisel olarak tanımlanabilir bilgiler ile ırkçı ve müstehcen ifadeler gibi zehirli dilden arındırılıyor.
Düzenlemede, belirleyici kararlar veriliyor. Zehirli olduğu düşünülen bazı dillerin çıkarılması bir modelin nefret söylemini tespit etme kabiliyetini azaltacak mı?
Farhadi, Allen Enstitüsü veri hazinesinin şu anda mevcut olan en büyük açık veri seti olduğunu söyledi. Ağustos ayında yayınlandığından bu yana, açık kaynaklı yapay zeka kaynakları ve işbirliği için bir site olan Hugging Face'de 500 binden fazla indirildi.
Allen Enstitüsü'nde veri seti, bu yıl veya önümüzdeki yılın başlarında piyasaya sürülecek olan OLMo (Açık Dil Modeli) adlı büyük bir üretken yapay zeka programını eğitmek ve ince ayar yapmak için kullanılacak.
30 milyon dolar yatırım
Allen Enstitüsü'nün aklındaki büyüklükte sadece bir avuç çekirdek üretken yapay zeka modeli açık olarak mevcut. Bunlar arasında Meta'nın LLaMA'sı ve Birleşik Arap Emirlikleri'nin Abu Dabi hükümeti tarafından desteklenen bir proje olan Falcon yer alıyor.
Allen Enstitüsü büyük bir yapay zeka projesi için mantıklı bir yuva gibi görünüyor. Carnegie Mellon Üniversitesi'nde bilgisayar uzmanı olan Zachary Lipton, "İyi finanse ediliyor, ancak akademik değerlerle çalışıyor ve açık bilimi ve yapay zeka teknolojisini ilerletmeye yardımcı olma geçmişine sahip" dedi.
Allen Enstitüsü açık vizyonunu ilerletmek için başkalarıyla birlikte çalışıyor. Bu yıl, kâr amacı gütmeyen Mozilla Vakfı, başlangıçta Allen Enstitüsü'nünki gibi açık yapay zeka motorlarını çevreleyen araçlar geliştirmeye odaklanacak açık kaynaklı yazılımlar oluşturmak için Mozilla.ai adlı bir girişime 30 milyon dolar yatırdı.
Mozilla Vakfı endişe duyuyor
İnternetin herkese açık küresel bir kaynak olarak kalmasını teşvik etmek amacıyla 2003 yılında kurulan Mozilla Vakfı, teknoloji ve ekonomik gücün daha da yoğunlaşmasından endişe ediyor.
Vakıf Başkanı Mark Surman, "Hepsi ABD'nin Batı Yakası'nda bulunan küçük bir oyuncu grubu, üretken yapay zeka alanını daha kapıdan çıkmadan kilitlemeye çalışıyor" dedi.
Farhadi ve ekibi açıklık stratejilerinin risklerini kontrol etmek için zaman harcadılar. Örneğin, bir modelin eğitim aşamasındaki davranışını değerlendirmenin ve ardından ırk ayrımcılığı ve biyolojik silah yapımı gibi belirli eylemleri önlemenin yolları üzerinde çalışıyorlar.
Farhadi, büyük sohbet robotu modellerindeki korkulukları, zeki bilgisayar korsanlarının kolayca yırtabileceği yara bantları olarak görüyor: "Benim argümanım, bu tür bilgilerin bu modellerde kodlanmasına izin vermememiz gerektiği yönünde.”
Farhadi, insanların tüm güçlü teknolojilerde olduğu gibi bu teknolojiyle de kötü şeyler yapacağını söyledi. Topluma düşen görevin ise riskleri daha iyi anlamak ve yönetmek olduğunu sözlerine ekledi. Farhadi'ye göre açıklık, güvenliği sağlamak ve ekonomik fırsatları paylaşmak için en iyi seçenek.
Farhadi, "Düzenleme bunu kendi başına çözmeyecektir" dedi.
© 2023 The New York Times Company
