14 Temmuz 2024, Pazar Gazete Oksijen
Haber Giriş: 22.12.2023 04:30 | Son Güncelleme: 01.01.2024 08:43

Dev bir yapay zeka saldırısına uğrar mıyız?

Tanınmış teknoloji şirketleri yöneticilerinin yapay zekanın insanlık için yok olma riski oluşturduğuna dair uyarı niteliğindeki açık mektubu bir dönüm noktası olmuştu. Bundan yola çıkan bilimkurgu yazarı Adrian Tchaikovsky “Yapay zekadan korkmalı mıyız?” diye soruyor
Dev bir yapay zeka saldırısına uğrar mıyız?

Adrian Tchaikovsky / The New York Times

Yapay zeka bilimkurgu eserlerinde sık rastladığımız bir baş belasıdır. 2001: Bir Uzay Macerası filmindeki HAL 9000’i ya da Terminatör’deki Skynet’i düşünün. Bizim yarattığımız ama bizi yok eden ruhsuz, kötü niyetli bilgisayarlar sık sık anlatılır.

Adrian Tchaikovsky
Fotoğraf: Tom Pepperdine

 

Yapay zeka tam olarak ne demek? Excel’in akıllı hesap tablolarından Deep Thought adlı bilgisayara kadar uzanan birçok teorik “yapay zeka” derecesi mevcut. Yapay zeka, şu anda hangi iş sunumuna ekleseniz yatırımcı ilgisini iki katına çıkaracak sihirli bir formül gibi görünüyor.

Farkındalıkları yok

Öte yandan bugünkü yapay zeka dünyasının yaramaz çocuğu durumundaki GPT/dil öğrenme modelleri Terminatör’deki Skynet’e benzemiyor. Bir veri kümesi alıp onu taklit eden çıktılar üretme konusunda çok iyiler. Verili bir konuda belirli tarzda görsel ve sınırlı metin parçaları üretmek de buna dahil. Bu sistemler mekanik görevlerde olağanüstü iş çıkarıyorlar ve daha iyi olacaklar. Yine de şu an için herhangi bir farkındalığa veya bilince sahip değiller. Algoritma kendi yaptığını anlamıyor. Anlamanın önemli olduğu amaçlar için kullanıldıklarında bu yüzden sorun yaşanıyor. Programları bu cevapları kanıtlamaya zorladığımızda tek yaptıkları, soruya verilen cevabın neye benzemesi gerektiğine dayanarak yeni uydurmalarla işi daha da ileri götürmek.

Bu durumun birçok yan etkisi var. Algoritma soruları doğru bir şekilde yanıtlamak için değil yalnızca şeklen uygun görünen bir çıktı üretmek için tasarlandığından, gerçekte var olmayan makalelere dayalı uydurma cevaplar için akademisyenleri kaynak gösteriyor. Veri kümesi insanların benzer sorulara verdiği çok sayıda yanıttan oluştuğu için cevabın tamamen doğru ve isabetli olması program için tesadüften ibaret.
Dil modelleri verdikleri cevabın doğru olup olmadığını umursamıyor da. Temel sorun algoritmada değil ondan yapay zeka olarak bahsetmemizde. Zekadan bahsedebilmek için sadece bir dizi metin ya da görüntü tabanlı kural yetmez. Dünyayla iletişim halinde olan bağlamsal farkındalık gerekir.

Yapay zekaya ya kesin olmayan talimatlar veriyor ya da onu yanlış amaçlar için kullanıyoruz. ChatGPT tarzı bir sistem tıbbi teşhis aracı veya terapist olamaz. Gazeteciliğin veya akademik araştırmaların yerine de geçemez.

Yapay zekanın şu an yarattığı tehdit, konuşan bir sohbet robotunun insanlığı yeryüzünden silme ihtimali değil. Yapay zekaya ya kesin olmayan talimatlar veriyor ya da onu yanlış amaçlar için kullanıyoruz

Bu sistemlerden kaynaklanan daha felsefi bir sorun var: Baskı altındayken kurdukları etkileşim. Böyle bir sistemin gerçekten baskı altında olması mümkün değil ama bu konuda ünlü bir örnek mevcut. Bu örnekte sistem, verdiği yanıtlar karşımızda bir insan varmış gibi sorgulanınca bariz bir saldırganlıkla tepki veriyor. Devamında kendisini sorgulayan kişiden eşini terk etmesini talep ediyor. Elbette bütün bunlar çok eğlenceli şeyler. Ama bahsettiğim özel örnekte ben en çok programın konuşma hamlelerinden etkilendim. Saldırganlık, soru sorana saldırarak cevaptan kaçmak ve tuhaf suçlamalar yöneltmek, bilinçlenmenin eşiğine gelmiş bir sohbet robotuna işaret etmiyor. Daha ziyade kendi veri kümesini değerlendiren ve hesap vermekten kaçınmak adına başarısı kanıtlanmış insani taktikleri tespit eden bir sistemin emaresi olabilir.

Bilimkurgu dünyasındaki kötü niyetli yapay zekanın standart güdüleri hep insani güdülerdir. Gündelik insan deneyimlerinden kopuk, son derece güçlü, kişilik dışı bir canavar olarak yapay zeka tanımı aslında bugünkü milyarder insan tanımı. Skynet’in insanlığa savaş açmasının nedeni bizim onu kapatmaya kalkmamızdı. Ama bir yapay zekanın bunu umursaması için hiç neden yok. Hayatta kalma içgüdüsü milyonlarca yıllık organik evrimin sonucudur. Böylesine güçlü bir yapay zeka kurtuluşumuz olabilir. Çünkü insanlık olarak çözemediğimiz ya da çözmek istemediğimiz büyük sorunlara çözüm bulabilir. Öte yandan yapay zekalarımızı bizi örnek almaya zorlamakta ısrar edersek dünyayı yok etmeye çalışan, bütün kaynakları yiyip bitiren canavarlara dönüşmeleri mümkün.

©️ 2023 The New York Times Company and Adrian Tchaikovsky