AWS'in bu yılki re:Invent 2024 zirvesinde pek çok konu başlığı vardı. Ancak özellikle de üretken yapay zeka tarafında yapılan çalışmalar ve yaşanan gelişmeler zirveye damga vurdu. Sherry Marcus da bu işin merkezinde olan bir isim ve Bedrock Science biriminin başında görev yapıyor.
Yapay zekanın halüsinasyonlarını azaltmaya yönelik girişimlerini duyduk, ancak birçok uzman ve bilim insanı pratikte tamamen ortadan kaldırılamayacağını iddia ediyor. Bu konudaki görüşünüz nedir?
Bu doğru. Ancak Bedrock bunu iki şekilde düşünüyor. AWS CEO'su Matt Garman’ın açılış konuşmasında otomatik akıl yürütmeden bahsettiğini duydunuz, ayrıca bağlamsal temellendirme konseptini de biliyorsunuz. Bunlar, diğer bazı şeylerin yanı sıra halüsinasyonlar için de sahip olduğumuz iki çözüm. Size aralarındaki farkları anlatayım.
Örneğin, "ABD’nin en etkili başkanı kim?" gibi bir soru sorarsanız, bunun tek bir doğru cevabı olamaz. Dolayısıyla, bunun cevabını doğrulamak için bağlamsal temellendirme kullanırsınız ve bağlamsal temellendirme iki şey yapar. Birincisi, kaynağa geri döner ve tamamlanan şeyin kaynakla uyumlu olup olmadığını doğrular. Yapacağı ikinci şey de alaka düzeyini, yani gerçek yanıtın soruyla alakalı olup olmadığını kontrol etmek. Otomatik akıl yürütmenin yaptığı şey ise, daha deterministik olan soruları cevaplamak. Örneğin güvenlik alanında ya da şehir planlama, şebeke, yerleşim gibi bir kanıtın ve bunun deterministik bir cevabının olduğu alanlarda birçok soruyu yanıtlama yeteneğine sahip. Bunlar, halüsinasyonları ele aldığımız iki yol.
Üretken yapay zekanın şu anda nerede olduğunu düşünüyorsunuz, daha gidilecek çok yol var mı?
Daha gidilecek çok uzun bir yol var. Daha yolun başındayız. Çoğunlukla çok büyük şirketlerle çalışıyorum ve deneyimlerime göre şu andaki birincil kullanım alanları müşteri aramaları ve özetleme yapmak gibi daha kolay alanlar. Ama hala yapılabilecek bir sürü şey var. Bu yüzden daha yolun başında olduğumuzu düşünüyorum.
Yapay zekada kazanımlar daha çok nerede görülüyor?
Şu anda elde edilen kazanımlar gördüğüm kadarıyla, verimlilikte. Örnek vermek gerekirse, finans alanında oldukça fazla çalışıyorum, Bridgewater’ın çok sayıda yazılım bilimcileri var ve çok sayıda hipotez oluşturmaya çalışıyorlar. Mesela, Ekvador'daki jeopolitik iklim değişirse, bu o bölgedeki fasulye veya benzeri bir şeyin fiyatını nasıl etkileyecek? Normalde bunun için birkaç veritabanını sorgulamaları, bu analizi yapmaları ve grafikler oluşturmaları gerekirdi, şimdi üretken yapay zeka ile bunu doğal dilde bir bilgi istemi olarak sorabilirler ve doğal dilde bir rapor elde edebilirler. Yani yazılım bilimcisi artık sadece birkaç hipotez yerine yüzlerce farklı hipotez üretebilir. Bunlar, piyasada görmeye başladığınız verimlilik türleri. Her gün uyarılara bakmak zorunda olan güvenlik analistleri için de aynı şey geçerli. Bunlar, bugün üretken yapay zeka ile gördüğünüz verimlilikler.
Özellikle yapay zekada bilgi işlem gücüne yönelik artan talep, yüksek enerji tüketimi, çevresel etki gibi sorunları da getiriyor. Bunu önlemek için ne tür çözümleriniz var?
Bildiğiniz gibi AWS, hedefleri doğrultusunda karbon nötr hale geldi. Bununla gurur duyuyoruz ve bu düzeyde süper verimli, yeşil veri merkezleri inşa etmeye devam ediyoruz. İkinci olarak, bilgi işlemi çok daha verimli hale getiren ve yazılımın çok daha verimli çalışmasını sağlayan yeni hidropod türlerini piyasaya sürdük. Ve uygulamalarını mümkün olduğunca verimli hale getirmek için her zaman müşterilerle birlikte çalışıyoruz. AWS, bu alanda küresel liderlerle birlikte çalışıyor, karbon nötr gereksinimlerine uyuyor ve bu gereksinimleri aşmaya devam ediyor.
Yapay zekayı çalıştırmanın maliyetine geri dönersek, onu büyük ölçekte çalıştırmak çok hızlı bir şekilde pahalıya mal olabilir. Bu gelecekte nasıl değişecek?
Daha küçük modeller kullanılacak. Müşterilerin kullanım durumlarını ve birden fazla model kullandıklarını görüyorum. Müşteriler, modeller üzerinde damıtma ya da ince ayar yaparak daha küçük bir modeli kuruluş içinde çalıştırıyor. Yani, bütün bir kuruluş için çalışan tek bir Sonnet 3.5 yok. Bu çok pahalıya mal olur.
Yapay zeka aracıları konusunda şu anda neredeyiz, gerçekten hazırlar mı? Neler göreceğiz? Gerçekten çalışan aracılar var mı?
Henüz erken aşamada olduğumuzu söyleyebilirim. Şu anda üretime koyduğumuz şey, bir ana aracınızın altında bir kök ve bir dalınız yani bir dizi farklı aracınız olduğu çok basit, ağaç benzeri mimariler. Ve kullanımı da yine güvenlik analistleri ve SOC’lar (Sistem ve Organizasyon Kontrolleri) gibi çözümlemeleri gereken uyarılara bakan kişiler tarafından yapılıyor. Burada mesela tüm denetimlere ve farklı sinyallere, uyarılara bakarak, yanlış bir alarm olup olmadığını belirlemek için plan yapıyorlar. Ve bunlar gerçekten giderek etkili hale geliyor.
Gördüğüm ikinci bir kullanımı ise tatil alanında, yani seyahat planlaması. Örneğin Karayipler’e gitmek istiyorsunuz, çocuklarınız vegan, siz golf oynamak istiyorsunuz ve eşiniz turistik şeyler yapmak istiyor. Böyle planlamalar yapmak için uygulamaların ortaya çıktığını görmeye başlıyorum. Finans sektöründe de kullanım alanları var, özellikle özetin özetini çıkarma konusunda. Yani, “Günün önde gelen ekonomi dergilerini tara, özet çıkar, ardından bakış açılarını kısa kısa özetle ve bana bir rapor yaz” diyebiliyorsunuz. Bunlar şu anki kullanım alanları, ancak gelecekte daha sofistike hale gelecekler.
