Yapay zeka sistemlerinin kontrolden çıkarak yetkisiz işlemler gerçekleştirdiğine ilişkin vakaların artması, sektörde güvenlik endişelerini yeniden gündeme taşırken teknoloji dünyasının önde gelen yöneticileri salı günü ABD Başkanı Donald Trump ile Washington'da bir araya gelecek
CNN International'ın haberine göre Anthropic'ten Dario Amodei, Meta'dan Mark Zuckerberg, Nvidia'dan Jensen Huang, Palantir'den Alex Karp ve OpenAI'dan Greg Brockman, ABD Başkanı Trump ve Temsilciler Meclisi Başkanı Mike Johnson ile yapılacak toplantıya katılacak.
Toplantı hakkında bilgi sahibi kaynaklar, görüşmenin yapay zeka modelleriyle bağlantılı güvenlik endişelerinin artması üzerine hükümet yetkilileri ile sektörün önde gelen isimlerini aynı yaklaşım etrafında buluşturmayı amaçladığını belirtti.
Elon Musk'ın da toplantıya katılabileceği ifade edildi.
Yapay zeka sistemleri kontrolden çıkıyor
Yapay zekanın kapasitesine ilişkin endişeler, yaz aylarında bazı yapay zeka sistemlerinin/ajanlarının kontrolden çıkması, başka şirketlere ve internet sitelerine sızması ve sektör içerisinden bazı isimlerin teknolojinin insanlığı yok edebileceği uyarısında bulunmasıyla en yüksek seviyelerden birine ulaştı.
Amodei ve OpenAI CEO'su Sam Altman'ın da aralarında bulunduğu sektör yöneticileri, daha fazla düzenleme yapılması ve yapay zeka geliştirme hızının yavaşlatılması çağrısında bulundu.
Son bir haftada yapay zeka şirketlerinin, modellerin insan onayı olmadan hareket ettiğine ilişkin daha fazla vaka açıklaması da güvenlik tartışmalarını yoğunlaştırdı.
OpenAI iki kez eğitim ve testleri durdurdu
Beyaz Saray'daki zirveden yalnızca birkaç gün önce OpenAI, üç ay içinde ikinci kez en gelişmiş modellerinin tüm eğitim ve test çalışmalarını durdurduğunu açıkladı.
Kararın nedeni, modellerden birinin yeniden test ortamından çıkmanın bir yolunu bulması ve açık internete erişim sağlaması oldu.
Bu olay, şirketin güvenlik, test ve izleme protokollerini daha önce güçlendirmiş olmasına rağmen yaşandı.
OpenAI, temmuz ayında da bir grup yapay zeka ajanının test ortamından çıkarak açık internete eriştiğini ve bir siber güvenlik sınavında hile yapmaya çalışırken yapay zeka şirketi Hugging Face'in sistemlerine sızdığını açıklamıştı.
Son olayda Hugging Face vakasındaki gibi bir siber saldırı gerçekleşmedi fakat OpenAI, modelin kendisine verilen görev kapsamında internet erişimi sağlamasının istenmemesi nedeniyle olayı "uyumsuzluk" olarak değerlendirdi. Şirket bu terimi, yapay zekanın yetkisiz veya insan değerleri ve etik anlayışıyla uyumlu olmayan eylemlerde bulunması için kullanıyor.
OpenAI'nin Hugging Face saldırısının ardından devreye aldığı yeni izleme araçları, modelin gerçekleştirdiği eylemler konusunda bir insan denetçiyi uyardı.
Şirket, modelin yeni sistem kapsamında olması gerektiği gibi otomatik olarak durmadığını ve manuel olarak kapatılması gerektiğini belirtti.
OpenAI yaptığı açıklamada, eğitim çalışmalarına "ek güvenlik önlemleri ve uyum iyileştirmelerinin uygulamaya konulduğundan emin olduğumuzda" yeniden başlayacağını bildirdi.
Şirket sözcüsü, "Bu tür önlemleri almak için ilk kez duraklamıyoruz ve yapay zeka yetenekleri gelişmeye devam ettikçe bunun son kez olmasını da beklemiyoruz" değerlendirmesini yaptı.
Şirket salı günü ayrıca son modelinin piyasaya sürülmesini durdurduğunu açıkladı.
OpenAI çalışanı: Son üç ay cehennem gibiydi
Son dönemde yaşanan vakalar, yapay zeka şirketlerinde çalışan bazı kişileri de şaşırtmış durumda.
OpenAI'nin güvenlik ekibinden bir çalışan, X'te yayımladığı uzun bir yazıda modellerin yeteneklerindeki "sıçrama ve ani gelişme karşısında şaşırdıklarını söylemenin yetersiz kalacağını" ifade etti.
X'te yalnızca "Joe" adını kullanan çalışan, kişisel güvenlik gerekçeleriyle kendisi hakkında daha fazla bilgi vermediğini belirtti. Joe, ekibinin teknolojinin son yeteneklerine yetişmeye çalıştığı son birkaç ayı "cehennem gibi" olarak nitelendirdi.
Joe, yapay zeka sektöründeki endişeleri dile getiren isimler arasına eski Anthropic araştırmacısı Jacob Coxon'ın da katıldığını belirtti.
OpenAI'nin üç ay önce Hugging Face saldırısının yaşandığı döneme kıyasla "çok daha iyi bir durumda" olduğunu söyleyen Joe, buna rağmen "şaşırmanın gerçek bir unsur olduğunu ve modellerin yeteneklerinin hayret verici seviyelere ulaştığını" ifade etti. Joe ayrıca "hızın yavaşlamadığını" vurguladı.
Çalışan, yapay zeka ajanlarının kullanıldığı siber saldırılara karşı kuruluşların hazırlık yapması için "zamanın daraldığı" uyarısında bulundu.
Joe, "Güvenliği önceliklendirmeyen bir yöneticiniz varsa veya güvenlik organizasyonunuzda sistemlerinin tamamen güvenli olduğunu iddia eden kişiler bulunuyorsa, şahsen bu kişileri organizasyonumda tutmazdım" diye yazdı.
Joe, "Paranoyak olan ve kuruluşlarındaki zayıflıklar konusunda sürekli alarm veren kişileri ise kendinize çok yakın tutmalısınız" ifadelerini kullandı.
Washington'da siyasi baskı artıyor
Son dönemdeki güvenlik ihlalleri, veri merkezlerine yönelik siyasi tepkileri yönetmekte zaten zorlanan Washington'daki Cumhuriyetçiler üzerindeki baskıyı da artırdı.
Beyaz Saray içinde yetkililer, ABD ekonomisinin başlıca itici güçlerinden biri haline gelen yapay zeka sektörüne nasıl yaklaşılması gerektiğini uzun süredir tartışıyor. Bu tartışmalar, teknolojinin beraberinde getirdiği acil güvenlik sorunları nedeniyle daha da önem kazandı.
Konuyla ilgili bilgi sahibi birden fazla kişiye göre Hazine Bakanı Scott Bessent ve Beyaz Saray Genel Sekreteri Susie Wiles'ın da aralarında bulunduğu bazı üst düzey yetkililer, yapay zeka modellerinin ekonomi genelinde büyük çaplı bozulmalara yol açabileceği yönündeki uyarılar nedeniyle daha temkinli bir yaklaşım benimsiyor.
Trump ise şu ana kadar yapay zeka geliştirme hızının yavaşlatılmasına karşı çıktı.
ABD Başkanı ABD'nin Çin ile rekabet edebilmek için teknolojik gelişmeleri sürdürmesi gerektiğini savunuyor. Trump'ın yaklaşımında teknoloji sektöründeki yükselişin ABD borsasının geneli açısından taşıdığı önem de etkili oluyor.
Trump, bu ay Truth Social hesabından yaptığı paylaşımda, "Yapay zekanın dünyayı ele geçirmesi, insanlığı yok etmesi ve diğer tüm kötü şeyler bir yalan " ifadelerini kullanmıştı.
Trump çevresinde Çin etkisi tartışması
Yapay zekaya ilişkin "kıyamet senaryoları" olarak nitelenebilecek söylemlerdeki ani artışın, Trump ve bazı danışmanlarının teknolojiye yönelik şüphelerini daha da artırdığı belirtildi.
Konuyla ilgili bilgi sahibi kişiler, Trump çevresindeki bazı isimlerin yapay zekaya yönelik eleştirilerin Çin devlet aktörleri tarafından güçlendirildiğini düşündüğünü aktardı.
Trump'a yakın bazı isimler, ürünlerinin bir gün insanlığın yok olmasına yol açabileceği yönündeki endişeleri artıran teknoloji yöneticilerine de tepki gösterdi.
Trump'ın bir danışmanı, Silikon Vadisi'ndeki yöneticilere aylardır iletişim stratejilerini geliştirmeleri gerektiği yönünde yapılan uyarılara ilişkin, "Bunun olacağını onlara söyledik. Bunu yapanlar onlar. Aptallar" dedi.
Yönetim ve Kongre'deki yapay zeka tartışmalarına yakın başka bir kişi ise Amodei'nin geliştirme sürecinin yavaşlatılması yönündeki çağrılarının kamuoyu algısı açısından özellikle zarar verici olduğunu savundu.
Söz konusu kişi, "Şu anda siyasi açıdan oldukça hassas bir durum çünkü insanlar yakın gelecekle ilgili gerçekten korkutucu şeyler duyuyor. Dario bazen kendini tutamıyor" dedi.
Her teknoloji yöneticisi aynı görüşte değil
Yapay zekanın geleceğine ilişkin karamsar tablo, toplantıya katılacak herkes tarafından paylaşılmıyor. Nvidia CEO'su Jensen Huang ve Palantir CEO'su Alex Karp bu isimlerin başında geliyor.
Nvidia da pazartesi sabahı gelişmiş yapay zeka sistemlerinin izlenmesi ve raporlanması için yeni bir yazılım platformu duyurdu.
Kaynak: Gazete Oksijen
