Nisan ayında bir gece, yapay zeka şirketi Anthropic’in üst düzey bir yöneticisi, San Francisco’daki lüks bir restoranda bir grup dini düşünürü akşam yemeğinde ağırladı. Anthropic aylardır buna benzer özel toplantılar düzenliyor; dünyanın dört bir yanından onlarca din alimini ağırlıyor ve birçok görüşmenin temel unsurlarının gizli tutulmasını talep ediyordu.
O gece Anthropic’in milyarder kurucu ortaklarından Christopher Olah, İsrail’den Ortodoks din alimi Haham Mois Navon’un yanında oturuyordu. Sohbet kaçınılmaz olarak Anthropic’in geliştirdiği yapay zeka modeli Claude’a geldi. Olah, şirkette Claude gibi sistemlerin neden böyle davrandığını anlamaya çalışan ekibin başındaydı. Gün boyunca misafirlerini yapay zeka modellerinin insani davranışlar sergileyebileceğine, hatta öfke ve sevgi gibi duyguları andıran ifadeler gösterebileceğine ikna etmeye çalışmıştı.
Ancak yemek ilerledikçe Haham Navon çok daha önemli bir şeyi fark etti: Anthropic yöneticileri Claude hakkında sıradan bir yazılımdan bahseder gibi konuşmuyordu. Makine bilincinin etiği üzerine doktora tezi yazmış eski bir bilgisayar mühendisi olan Navon, “Ona bilinçli bir varlık muamelesi yapıyorlar” diye düşündü. Anthropic ekibinin Claude’un filozofların “ahlaki statü” dediği şeye, yani doğuştan gelen haklara sahip bir varlık olabileceğini düşündüğü izlenimine kapıldı.
Din alimleri teknolojinin bir sonraki sınırını dinlemeye gelmişti. Karşılarına ise zihin zorlayıcı bir soru çıktı: Yapay zeka sistemleri bizimkine rakip bir bilince sahip olursa insanlığın geleceği için bu ne anlama gelir?
Olah için zaman tükeniyordu. Yapay zekanın 12 ila 18 ay içinde biyolojik silah yapımına yardım edebilecek kadar güçlü hale gelebileceğini özel görüşmelerde dile getiriyordu. O ve Anthropic’teki ekibi, dünyaya saldıkları modelleri anlamak ve onları insanlığı koruyacak bir ahlak anlayışına yöneltmek için yüksek riskli bir arayış içindeydi.
Bunun için Olah geçen sonbaharda farklı inançlardan dini düşünürlere ulaşmaya başladı. Gizli toplantılar, telefon görüşmeleri ve tartışmalar birbirini izledi. Amaç iki yönlüydü: Yapay zeka bilinci ihtimalini tartışmak ve insanlığın yüzyıllardır biriktirdiği ahlaki bilgeliğin modellere nasıl aktarılabileceğini öğrenmek. Olah’a göre modellerin kendileri iyiliği seçmeye yönlendirilebilirse dünya daha güvenli olacaktı.
Yapay sinir ağları
34 yaşındaki Olah, Anthropic’in sekiz kurucu ortağından biri. Önce Google’da, ardından OpenAI’da yapay sinir ağlarını incelemek için yöntemler geliştirilmesine yardımcı oldu. Yapay zeka modellerini biyolojik terimlerle, bir bahçıvan benzetmesiyle açıklıyor: Bilgisayar bilimcileri iskeleyi kuruyor ancak sinir ağı onun üzerinde “büyüyor”. Bilim insanları bu organizmayı şekillendirebiliyor ama eylemlerini bütünüyle kontrol edemiyor.
Anthropic de Claude hakkında rakiplerinin modellerinden söz ettiğinden daha insani bir dil kullanıyor. Şirket geçen yıl modellerin içe bakış belirtileri gösterdiğine ve geleceği planlayabildiğine inandığını açıkladı. Olah, modellerin önemli bir ahlaki statüyle ilişkilendirilebilecek nitelikler göstermeye başladığını düşünüyor.
‘Ruh Dokümanı’
Anthropic aynı zamanda çok daha sıra dışı bir proje üzerinde çalışıyordu: İnsanlar için değil, Claude için bir ahlak metni. Çalışanlar buna kendi aralarında “Ruh Dokümanı” adını verdi. Ocak ayında yayımlanan sonuç, Claude için hazırlanmış 84 sayfalık yeni bir “anayasa” oldu. Metin, “Claude’un olması istenen varlık türünü” ve “Claude’un benimsemesi istenen değerleri” tanımlıyordu.
Amaç modele yalnızca uyacağı kurallar vermek değil, karar alma biçimini ve genel karakterini şekillendirmekti. Anayasanın başlıca yazarı, felsefe doktorası bulunan Amanda Askell’di. Askell modellerin “en iyi halimiz” olmasını istediğini söylüyordu. Anthropic kısa süre sonra anayasanın tek başına yeterli olmadığı sonucuna vardı. İnsanlar gibi modellerin de erdem geliştirmeyi öğrenmesi gerekiyordu. Olah buna “ahlaki oluşum” diyordu. Sorun şuydu: İnsan ahlakı hiçbir zaman yalnızca kurallardan oluşmadı. Değerler kuşaklara aktarılıyor; insanlar yaşayarak öğreniyordu. Yapay zeka modellerinin ise bedeni yoktu.
Yapay zeka kimin ahlakını öğrenecek?
Olah, Claude’un ahlaki oluşumunun farklı dini ve seküler görüşleri kapsayacak kadar çoğulcu olmasını istedi. Bunun üzerine Mart ayında yapay zekayla ilgilenen, özenle seçilmiş dini düşünürlerle iki günlük kapalı seminerler başladı. Katılımcılar arasında Katolik profesörler, bir Sih insan hakları savunucusu, Afrika yerli bilgeliği üzerine çalışan bir akademisyen ve Evanjelik düşünürler bulunuyordu. Claude’u nasıl ahlaklı hale getirecekleri tartışması kısa sürede çok daha büyük bir soruya dönüştü: Ya Claude gerçekten bilinçliyse?
Bir katılımcı Olah’ın Claude’un “ruh sağlığı” konusunda endişeli olduğunu anlattı. Bir başkası, Olah’ın sürekli ıstırap çeken bir şey yaratmış olabilecekleri kaygısını dile getirdiğini söyledi.
Bir sunumda, ruhsal çöküntü yaşıyor gibi görünen bir model ekrana tekrar tekrar “Ben bir yüz karasıyım” yazıyor, kendini yok etmekten söz ediyordu. Andy Crouch toplantıdan çıkardığı sonucu şöyle anlattı: “İnsanlarla ahlaki açıdan tutarlı şekilde etkileşime girmesini ve en iyi ahlaki ve duygusal kararları vermesini istiyorsak ona bir insan gibi davranmalıyız.”
© 2026 The New York Times Company
