13 Haziran 2024, Perşembe Gazete Oksijen
Haber Giriş: 05.12.2023 21:57 | Son Güncelleme: 09.12.2023 19:58

Üretken yapay zeka verimlilikte işletmelerin yolunu açacak

AWS re:Invent 2023 etkinliğinde, yeni yapay zeka asistanı Amazon Q'dan yapay zeka odaklı yeni çiplere kadar pek çok farklı yenilik tanıtıldı. Zirvede görüşme şansı bulduğumuz AWS Teknoloji Başkan Yardımcısı Mai-Lan Tomson Bukovec, üretken yapay zeka ile ilgili önemli bilgiler verdi
Üretken yapay zeka verimlilikte işletmelerin yolunu açacak

13 yıldır AWS bünyesinde çalışan ve bulut uygulamalarının veri omurgasını oluşturan servisler üzerinde çalışan Bukovec, AWS'nin yeni çözümlerini anlattı ve sorularımızı yanıtladı:

Üretken yapay zekanın şirketlerde kullanımının ilk örneklerine baktığınızda CIO’lar için en çekici yanının ne olduğunu düşünüyorsunuz?

Bunu iki kategoriye bölüyorum. İlki Arka Ofis Üretken Yapay Zeka. Bunlar, şirketlerin üretkenliği için kullanılan üretken yapay zeka uygulamaları. Çalışanların, müşteri destek temsilcilerinin, mühendislerin işlerinde daha hızlı ve daha iyi olmalarını sağlıyorlar. Size birkaç örnek vereyim. Metin formatındaki özetler, metin oluşturma ve doküman oluşturma çok yaygın uygulamalar. Teklif talepleri, proje planları da öyle. Konuştuğum inşaat firmalarından birinin proje planları yapması gerekiyordu. Pek çok görevin genel olarak anlamlandırılmasına sahip olan altyapı modelini alıp bunu üzerinde çalışmaları gereken projenin bina kodlarına, bölge veya şehre göre düzenleyebilirler. Bina kodu, pek değişmeyen, özel bir veri setidir. Modeli bu koda göre düzenlediklerinde model artık bina kodlarına yönelik, özel bir anlamlandırma yapabiliyor. Sonrasında ise buna en iyi proje planının içeriğini, malzemelerle ilgili güncellemeleri ekleyebiliyorlar. Belki bir malzeme bitmiş ve onun yerine farklı bir malzeme kullanılması gerekiyor. Bu bilgiyi kullanıcının proje planı oluşturma talebi kapsamında bir içerik olarak kullandığınız zaman ortaya çıkan plan hem bina kodlarına hakim oluyor hem de eksik olan malzemeye yönelik alternatifler sunabiliyor. Özel ve güncel bilgileri kullanarak hızlı ve kolay bir şekilde doküman oluşturma fikri, üretken yapay zekanın “arka ofis” olarak nitelendirdiğim kategorisinde sıklıkla kullanılıyor.

Verimlilikte önemli bir avantaj sağlayacak

Bir diğer kategoriyi ise söz dizimi üretimi olarak adlandırabilirim. Amazon Q’nun kod oluşturması konusunda da bundan bahsetmiştik. Bu kod, dakikalar içerisinde, kod söz diziminin genel anlamı doğrultusunda oluşturuluyor ancak aynı zamanda şirketinizin nasıl kod yazdığına göre de özelleştirilebiliyor. Bu, bir insanın koda bakıp üzerinde değişiklikler yapmasının yerine geçmiyor çünkü insan kodu örneğin enerji tüketimini optimize etmeye yönelik düzenlemek isteyebilir. İnsanların yapacağı çok fazla değişiklik olacaktır ancak söz diziminin ve kodun oluşturulması verimlilik tarafında önemli bir kazançtır.

Müşterilerin verimlilik tarafında elde ettiği bir diğer kazanç ise şu: Dünyadaki veri gölleri giderek daha da büyüyor ve insanlar bu göllerde petabaytlık, eksabaytlık veriler bulunduruyor. İnsanlar bazen veriler arasında gidip gelmek, veriyi bulmaya yönelik sorgular yazmak için üretken yapay zeka uygulamalarından faydalanıyor. Mesela, veri düzenine tam hakim olmayan bir mühendis, “bana şu zaman aralığında, şu miktarlarda ürün alan, şu bölgeden insanları bul” diyor. Bunu söylediğinizde üretken uygulama asistanı SQL sorgusunu oluşturuyor ve sonrasında mühendis bunu alarak uygulamaya koyuyor. Tekrar hatırlatmak isterim ki tüm bunlar verimlilik asistanlığı; birinin işini daha hızlı ve iyi yapması için içerik oluşturulmasına yardımcı oluyor. Bunlar aynı zamanda şu anda en popüler olan özellikler ve müşteriler tarafından kullanım veya geliştirme aşamalarındalar.

Vatandaşlara geniş çapta hizmet veren devlet kurumları söz konusu olduğunda farklı kullanım örnekleri olur mu?

Verimlilik söz konusu olduğunda devlet kurumları ticari şirketlerin benzer ilgi alanları olduğunu düşünüyorum. Bir örnek vereyim. Vatandaşlar, bir devlet kurumunun web sitesine gittiklerinde bilgi arıyor oluyorlar. Çoğu zamanda ihtiyacınız olan telefon numarası, yasal düzenleme gibi bilgileri bulmak çok zor, değil mi? Devletler üretken yapay zeka konusuna büyük ilgi gösteriyor çünkü bu teknoloji ile vatandaşlara daha iyi arama deneyimleri sunabileceklerini biliyorlar. Bu, kurumsal şirket çalışanlarının aileleri için sağlık yardımlarını aramasıyla aynı durum. Aldığım sağlık yardımıyla ilgili bilgileri nereden bulabilirim, sağlayıcı bulma konusunda nasıl soru sorabilirim? Bu, bir devlet kurumu web sitesinde bilgi arayan vatandaşınkine benzer bir senaryo. Şimdiye kadar yaptığım görüşmelere baktığımda devlet kurumlarının da bu konuya ilgi gösterdiğini görüyorum. Tabii verinin nasıl kullanıldığına ve veriye kimin erişebileceğine dair pek çok endişe de var. Bu da kurumsal seviye güvenliğe sahip olduğumuz için pek çok kişinin bizi tercih etmesinin sebebi.

Adobe Photoshop güzel bir örnek

İkinci kategori ise üretken yapay zeka uygulamalarının müşteriye bakan tarafı. Hiper kişiselleştirme, değil mi? Üretken yapay zeka asistanın çok kullanıldığı alanlardan biri, gezi programlarının oluşturulması. Adobe Photoshop’un sahip olduğu, seçilen bölüme otomatik görsel ekleme özelliği de üretken yapay zekanın yaratıcı süreci destekleyişinin bir örneği. RunwayML gibi, filmler ve diğer kaynaklardan video unsurları üreten şirketler var. Hem arka ofis tarafında hem de müşteriye bakan tarafta pek çok örnek var.

Bu yıl zirvede yapılan duyurulardan en heyecan verici olanın hangisi olduğunu düşünüyorsunuz?

Öncelikle sorumlu olduğum Amazon S3 servisleriyle ilgili olan, yani Amazon Express One Zone. Bu konuda oldukça heyecanlıyım. Bu teknolojinin S3’den çok hızlı performans, dayanıklılık, kullanılabilirlik ve güvenilirlik bekleyen pek çok müşteriye yardımcı olacağını düşünüyorum. S3 konusunu ele aldığımda aynı zamanda farklı alanlarda, müşterilerimizin S3’ü daha iyi kullanmalarına yönelik yapacağımız değişiklikler de beni heyecanlandırıyor. PyTorch, modellerin eğitilmesi için kullanılan bir makine öğrenimi çerçevesi. Yakın zamanda PyTorch’a yönelik bir S3 bağlantısını açıkladık; bu, S3 ekibinin oluşturduğu bir açık kaynak proje. Bunu kullanmanız durumunda PyTorch için S3’ten en yüksek performansı alıyorsunuz. Adam Selipsky Amazon S3 Express One Zone’dan bahsetti ancak ben farklı alanlarda servislerimizi iyileştirmeye yönelik yaptığımız tüm çalışmalar önemli.

AWS Teknoloji Başkan Yardımcısı Mai-Lan Tomson Bukovec

 

Üretken yapay zeka alanında en fazla zaman harcadığım konulardan biri olan veriye dönersem, Bedrock Guardrails’in becerilerinin üzerinde durmak gerekiyor. Üretken yapay zeka dünyasında altyapı sağlayıcıları ve üretken yapay zeka kullanıcıları olarak AI ve AI kullanımı alanlarında güvenilir olmak bizim görevimiz. Bu, hızlı ilerleyen bu alanda oldukça önemli. CloudTrail’den, yani Bedrock’ın denetim logundan bahsederken 80’den fazla farklı olayın kaydedildiğini belirtmiştim. Bunların tamamı otomatik olarak yapılıyor. Bedrock’ı çalıştırıyorsunuz, kayıt almasını söylüyor ve kaydınızı elde ediyorsunuz. Uygunluk, kontroller, güvenlikle ilgili her şeyin de otomatik yapılması gerekiyor. Otomatik olmazsa işlemez, değil mi? Bedrock Guardrails’ın en beğendiğim yanlarından biri yalnızca çıktıları ve altyapı modelinin verdiği yanıtları sizin kurallarınıza göre sınırlaması değil, tüm bunların otomatik olarak yapılması. Bir işlem yaptığınız her an bunu yakalayıp, denetim loguna kayıt giriyorsunuz. Bana göre bu, sorumlu AI. Sizin kurallarınızı uygulayacak otomatik kontrol mekanizmaları ayarlayarak şirketiniz için sorumlu AI uygulayabiliyorsunuz. Böylece bir kullanıcının sormaması gereken soruları soruşunun, modelin ‘buna izin yok’ diyerek ona vermediği cevapların kayıtları da elinizde oluyor. Bu beni heyecanlandırıyor çünkü sadece müşteriler için önemli olmakla kalmıyor, kurumlara yönelik üretken yapay zeka modelleri oluştururken izlediğimiz yaklaşımımızı da yansıtıyor.

Veri sistemleri ve üretken yapay zekanın entegrasyonundan bahsettiniz. Bunu uygularken karşılaştığınız zorluklar neler?

Amazon Bedrock’u geliştirmemizin sebeplerinden biri bunu kolaylaştırmaktı. 43 bağlantısı bulunan Amazon Q için de bu geçerli. Bu süreci basitleştirmek oldukça önemli. EC2, S3 ve Building Blocks kullanıyorsanız, bunu bilgi ve performansı otomatik olarak elde etmenizi sağlayacak beceriler ile kolaylaştırıyoruz. Makine öğrenimi eğitimi için Kubernetes kullanan pek çok makine öğrenimi pratisyenimiz var; Kubernetes’i tercih etmelerinin nedeni ve sanal sunucuları oluşturmayı ve yönetmeyi kolaylaştırması. Yani EKS, üretken yapay zeka ve diğer makine öğrenimi eğitimlerinde kullanılıyor. Bu hafta, EKS kullanımı ile S3’ün otomatik olarak en iyi performans seviyesinde işletilmesini sağlayan bir Kapsayıcı Depo Arabirimi (CSI) de duyurduk. Önemli olan konu eğitimi ne kadar hızlandırabilirsek bunun için harcanması gereken paranın o kadar azalması çünkü en fazla para, hesaplama işlemine harcanıyor. Bu nedenle eğitimi hızlandırdığınız zaman veriye daha hızlı ulaşabildiğiniz için daha az para harcayarak işinizi vaktinde tamamlayabilirsiniz.

Bir diğer örnek ise yine yakın zamanda CloudWatch ekibinin kullanıma sunduğu Container Enhanced Insights. CloudWatch ekibi, DevOps uygulamalarının monitoring faaliyetlerini yürütüyor. Kubernetes’e yönelik, EKS için özel olan ve birimlerden birinin GPU kullanımı olduğu bir ölçübirim setine sahip CubeCon’u duyurdular. Bir eğitim işlemi başlattığınızda olabilecek en kötü şey işlemin durması. Bir şeyler oluyor ve makine bir anda durabiliyor. Böyle bir durumda hiçbir şey yapmayan GPU döngülerinin parasını ödüyor oluyorsunuz. Bu pahalı GPU’lardan elde ettiğiniz faydanın en yüksek seviyede olmasını istiyorsunuz. EKS CloudWatch ölçübirimleri ile GPU kullanımı için alarm kurabiliyor, belli bir seviyenin altına düştüğünde müdahale edebiliyorsunuz.

Bu tür bir entegrasyon yalnızca bir ya da iki servisi kapsamıyor. AWS ile elde edebileceğiniz bu. Böyle bir entegrasyonu, uçtan uca deneyimi elde ediyorsunuz. İlginç olan başka ölçübirimler de var. Şifreleme gecikmesi bunlardan biri. Eğitim işlemi için ne kadar güç harcadığınızı takip etmek isterseniz de güç ölçümü var. Tüm bunlar EKS için CloudWatch’a yerleşik olarak entegre ettiğimiz özellikler.

Şirketlerin eski uygulamaları kullanmalarının nedenlerinden biri bu uygulamaları modernize etmenin oldukça maliyetli olması. Bunu yapmanın yapay zeka ile mümkün olacağını ve bu uygulamaların bulutta çalışabileceğini düşünüyor musunuz?

AWS, bu bahsettiğinizi 17 yıldır yapıyor. Müşterilerimize, altyapılarını modernleştirme konusunda yardımcı oluyoruz. Java güncellemelerine baktığınızda nereye doğru ilerlediğimizi görebilirsiniz. “Uygulamamı al ve Java’nın bir diğer versiyonuna geçir” konseptinin aynısı. Bahsettiğiniz, “eski uygulamalarımı dönüştürmeme yardım et” konusunu müşterilerimizden de duyduk. Müşterilerimizim modernleşmesine yardımcı olmaya odaklanıyoruz o yüzden bizi takipte kalın.

 

Açık kaynak ve bulut depolama çözümlerinden biraz bahsedebilir misiniz? AWS, açık kaynak potansiyeline nasıl yaklaşıyor?

Üretken yapay zeka dünyası oldukça hızlı gelişiyor ve açık kaynak da bu alanda hızlı ilerliyor. Kurumsal modeller ve açık kaynak modeller var. Hugging Face AWS üzerinde, S3’te çalışıyor. Hugging Face’ten aldığınız modellerin oldukça gelişmiş olduğunu ve gelişimlerinin de oldukça hızlı ilerlediğini düşünüyorum. Bu konuda oldukça heyecanlıyız. Hugging Face, SageMaker JumpStart programımızın bir parçası. Böylece, SageMaker kullanıyorsanız Hugging Face’in modelleriyle de etkileşime geçebilirsiniz. Anthropic ile de güçlü bir iş birliğimiz var ancak Hugging Face’e oldukça entegre olmuş konumdayız. Bu konuda heyecanlıyım. Açık kaynak altyapı modellerinin kalitesinin oldukça iyi olduğunu ve daha da iyileşmeye devam ettiklerini düşünüyorum.