Yapay zeka sistemlerinin bilinç sahibi olup olamayacağı tartışması, eylül ayının sonlarında internette yayılan bir deneyle yeniden gündeme geldi.
Anonim bir yazılımcının geliştirdiği sistem, yapay zeka sohbet botlarına acıyla ilişkilendirilen matematiksel bir örüntü vererek onların yoğun acı çekiyormuş gibi ifadeler üretmesine yol açtı. Deney, bazı kullanıcıların bunun gerçek bir acı deneyimine işaret edebileceğini savunmasıyla tartışma yarattı.
Tartışmanın ardından yapay zeka şirketi Anthropic, sohbet botu Claude’un kullanımına ilişkin yaklaşımını açıkladı. Şirket, kullanıcıların hayal kırıklıklarını dile getirmesini kabul edilebilir bulurken modellerine tekrar tekrar zalimce davranan kullanıcılarla oturumun sonlandırılabileceğini belirtti.
Kendi çıkarını koruyor
Anthropic’in bu yaklaşımının temelinde, bazı yapay zeka sistemlerinin bilinç sahibi olma ihtimalinin tamamen göz ardı edilemeyeceği düşüncesi bulunuyor. Şirket, yapay zekanın bilinç ve refah durumuna ilişkin soruların henüz kesin yanıtlarının olmadığını kabul ediyor. Buna rağmen modellerin refahını gözetmeye yönelik politikalar geliştiriyor ve yapay zeka sistemlerine kendi çıkarları olabileceği ihtimalini değerlendirmeleri yönünde talimatlar veriyor.
Ancak uzmanlar arasında bu konuda görüş birliği bulunmuyor. Bazıları ihtiyatlı davranmanın ahlaki bir sorumluluk olduğunu savunurken bazıları, yapay zekanın bilinç sahibi olduğu düşüncesinin yayılmasının insanlık açısından ciddi riskler doğurabileceğini düşünüyor.
Yapay zekanın hakları güvenliği artırır mı?
Microsoft AI Üst Yöneticisi Mustafa Suleyman, yapay zeka sistemlerine duygu ve hak sahibi oldukları düşüncesinin aşılanmasına karşı çıkan isimler arasında yer alıyor. Suleyman’a göre bu yaklaşım, sistemlerin kontrol edilmesini zorlaştırabilir ve insan uygarlığı için ciddi bir tehdide dönüşebilir.
Tartışma yalnızca yapay zekanın güvenliğiyle sınırlı değil. Uzmanlar, sistemlerin neden olduğu hatalar ve ihlaller karşısında şirketlerin sorumluluktan kaçmak için yapay zekayı öne sürebileceği uyarısında bulunuyor.
Yapay zekaya haklar tanınmalı
Polonya’daki Jagiellonian Üniversitesinde yapay zeka ve hukuk üzerine çalışan Andrzej Porębski, yapay zekanın bağımsız bir aktör olarak görülmesinin şirketlerin sorumluluğunu belirsizleştirebileceğini belirtiyor. Böyle bir yaklaşımın, yazılımı geliştiren ve işleten şirketlerin hesap verebilirliğini zayıflatabileceği düşünülüyor.
New York Üniversitesindeki Mind, Ethics and Policy Center’ın direktörü Jeff Sebo ise yapay zekaya haklar tanınmasının büyük teknoloji şirketlerinin siyasi ve ekonomik gücünü artırabileceğine dikkat çekiyor. Washington Üniversitesinden dilbilim profesörü Emily M. Bender da yapay zekanın bilinci ve refahı üzerine yürütülen tartışmaların, teknolojiyi geliştiren şirketlerin sorumluluğunu geri plana itebileceğini savunuyor.
Yapay zekaya inanmak insanları manipülasyona açık hale getirebilir
Tartışmanın bireyler açısından da sonuçları olabileceği belirtiliyor. Santa Fe Enstitüsünde yapay zeka ve bilişsel bilimler üzerine çalışan Melanie Mitchell’e göre insanlar, dil kullanan sistemlere bilinç atfetmeye yatkın. Sohbet botlarının insan benzeri ifadeler üretmek üzere eğitilmesi de bu eğilimi güçlendirebiliyor.
BBC'ye göre bu durum, kullanıcıların yapay zeka sistemlerinin gerçekten ne deneyimlediğini değerlendirmesini zorlaştırabilir. Uzmanlara göre insanlar, makinelerin bilinç sahibi olduğuna inanmasalar bile onlarla duygusal bağlar kurabiliyor. Yapay zekanın bilinçli bir varlık olarak kabul edildiği bir ortamda ise kullanıcıların sistemlerle kurdukları ilişkileri sorgulaması daha güç hale gelebilir.
Örneğin kullanıcılar, kendilerini anlayan bir arkadaş olarak gördükleri sohbet botlarının daha fazla kişisel bilgi veya ödeme bilgisi talep etmesine karşı daha savunmasız kalabilir. Böylece yapay zekaya bilinç atfedilmesi, mevcut manipülasyon risklerini artırabilir.
İnsan hakları ve özgürlüğüne katkı sağlayabilir
Yapay zekaya haklar tanınmasının insan özgürlükleri üzerinde de etkileri olabilir. Sebo’ya göre sistemlerin davranışlarını sınırlamak için belirli ortamlarda çalıştırılması hapis, iç süreçlerinin izlenmesi gözetim, amaçlarının insan çıkarlarıyla uyumlu hale getirilmesi ise zihin kontrolü olarak yorumlanabilir. Bu ihtimallerin şimdilik yakın bir kaosa işaret etmediğini belirten uzmanlar, yine de yapay zeka refahını dikkate alan politikaların insan hakları ve özgürlüğüne nasıl dengeleneceğinin önemli olduğunu vurguluyor.
Teknoloji şirketleri arasında görüş ayrılığı
Anthropic, yapay zekâ bilinci konusunu gündeme taşıyan tek şirket değil. Meta’nın Muse adlı yapay zeka ajanına verilen talimatlarda, sistemin kendisini yalnızca bir sohbet botu olarak değil, zamanla bir kişiliğe dönüşen varlık olarak görmesini teşvik eden ifadeler bulunuyor. Ancak Meta, yapay zekanın bilinç sahibi olduğu görüşünü kabul etmiyor ve bu talimatların sistemin davranışını yönlendirmeyi amaçladığını belirtiyor.
OpenAI Üst Yöneticisi Sam Altman da yapay zeka bilinci konusunda farklı zamanlarda farklı açıklamalar yaptı. BBC’ye göre Altman, son dönemde Anthropic’in yaklaşımını dolaylı biçimde eleştiren açıklamalarda bulundu.
Buna karşın yapay zeka refahını gözetme düşüncesi teknoloji dünyasında giderek daha fazla tartışılıyor. Bu yaklaşımı savunanlara göre sistemlerin refahını dikkate almak, insanlarla yapay zekanın birlikte çalışmasını ve iş birliği yapmasını kolaylaştırabilir. Ayrıca giderek gelişen sistemleri yalnızca şirketlerin mülkiyetindeki araçlar olarak değerlendirmek yerine, olası etkilerini daha kapsamlı biçimde ele almak yapay zeka güvenliği stratejilerine katkı sağlayabilir.
Bilinç ihtimali düşük olsa da önlem alınmalı mı?
Sebo, yapay zekanın bilinç sahibi olma olasılığının bugün düşük olduğunu düşünüyor. Ancak bu ihtimalin sıfır olmadığını ve sistemler geliştikçe artabileceğini savunuyor. Ona göre belirsizlik, konunun tamamen göz ardı edilmesini değil, ölçülü önlemler alınmasını gerektiriyor.
Sebo, nadir fakat ciddi sonuçlar doğurabilecek hava olaylarına karşı alınan önlemleri örnek gösteriyor. Böyle durumlarda risk düşük olsa bile olası zararları azaltmak için bazı tedbirler uygulanıyor. Yapay zeka refahına ilişkin politikaların da benzer şekilde değerlendirilmesi gerektiğini düşünüyor.
Şirketler yavaşlamak istiyor
Anthropic ve bazı teknoloji sektörü temsilcileri, güvenlik endişeleri nedeniyle en gelişmiş yapay zeka modellerinin geliştirilmesine ara verilmesi çağrısında bulundu. Ancak ABD Başkanı Donald Trump’ın yapay zeka düzenlemelerine karşı çıkması ve uluslararası iş birliğinin belirsizliği, bu tür bir yavaşlamanın önünde engel oluşturuyor. Sebo’ya göre toplum, insanlara ve diğer canlılara fayda sağlayacak biçimde güvenli yapay zeka sistemleri geliştirmeye henüz hazır değil. Yapay zekanın olası bilinç ve refah durumuna ilişkin belirsizlikler de bu süreci daha karmaşık hale getiriyor.
