Dustin Volz / The New York Times
Amerika merkezli yapay zeka şirketi Anthropic, bu yıl bazı bilim insanlarının gelişmiş yapay zeka modellerinden biyolojik silah geliştirmeye elverişli araştırmalarda yararlanma girişimlerini engellediğini açıkladı.
Şirket, yapay zeka modellerinin kötüye kullanımına ilişkin yayımladığı raporda, söz konusu araştırmaların meşru bir bilimsel amaç taşıyıp taşımadığının kesin olarak belirlenemediğini belirtti. Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, araştırmacıların niyetini belirlemenin zor olduğunu belirterek şirketin bu nedenle ihtiyatlı davrandığını söyledi.
Yapay zekanın biyolojik riskleri
Gelişmiş yapay zeka modellerinin bilinen patojenlerin daha tehlikeli hâ hale getirilmesini veya yeni patojenler geliştirilmesini kolaylaştırma ihtimali, uzmanların yapay zekaya ilişkin en ciddi endişeleri arasında yer alıyor. Council on Strategic Risks kıdemli araştırmacısı Andrew Weber, bulguların devlet destekli biyolojik silah geliştiricilerinin gelişmiş yapay zeka modellerinden yararlanma ihtimalini ortaya koyduğunu söyledi.
Anthropic'in son sekiz aylık dönemdeki kötüye kullanım vakalarını içeren raporunda, Claude adlı sohbet botunun farklı amaçlarla kullanıldığı örnekler de yer aldı. Şirket, Çin ve İran hükümetleriyle bağlantılı olduğundan şüphelenilen aktörlerin muhalifleri ve diaspora topluluklarını gözetlemek için yapay zeka kullandığını belirtti.
Raporda ayrıca Rus devlet medyasının Claude'u bağımsız haber kuruluşları tarafından hazırlanmış gibi gösterilen çevrim içi propaganda içerikleri üretmek için kullandığı ve Moldova’daki seçimle ilgili asılsız iddialar ürettiği de aktarıldı.
Konvansiyonel silahlar için de kullanıldı
Anthropic, Claude’un konvansiyonel silahların tasarlanmasına ve geliştirilmesine yardımcı olacak yazılımlar üretmek amacıyla kullanıldığı girişimler de raporda yer aldı. Şirket, Çin'de üç, Rusya'da iki ve Yemen'de bir vaka tespit etti. Yemen’deki vakada adı açıklanmayan tarafın, rapordaki bağlam nedeniyle İran destekli Husiler olduğu değerlendiriliyor.
Ancak rapora göre en ciddi endişe biyolojik araştırmalara ilişkin vakalardan kaynaklandı. Anthropic, engellediği araştırmacıların veya kurumların isimlerini, hangi ülkelerle bağlantılı olduklarını ya da üzerinde çalıştıkları biyolojik silahları açıklamadı. Şirket, araştırmacıların erişim kısıtlamalarını aşmaya çalıştığını belirtti. Bunun sonucunda araştırmalarla bağlantılı hesaplar kapatıldı.
Askeri araştırma kurumu şüphesi
Anthropic'in verdiği örneklerden birinde, bir bilim insanı mayıs ayında, chikungunya virüsü üzerinde araştırma yapmak için hibe başvurusu hazırlarken Claude'dan yardım istedi. Şirket, bu tür çalışmaların meşru olabileceğini ve aşı geliştirilmesine katkı sağlayabileceğini belirtti. Ancak söz konusu araştırmada virüsün canlı hayvanlar üzerinde tekrar tekrar denenerek daha zararlı hale getirilmesinin amaçlandığını tespit etti. Klein, virüsün biyolojik silaha dönüştürülmesinin amaçlanıp amaçlanmadığının bilinmediğini ancak askeri bir kurumda yürütülen bu tür çalışmaların kaygı verici olduğunu söyledi.
Yeni modeller daha güçlü, önlemler daha sıkı
Anthropic, geçen yıl yaptığı değerlendirmelerde eski modellerinin tehlikeli biyolojik araştırmalara anlamlı ölçüde yardımcı olamadığını belirtti. Şirket, mevcut modellerinin karmaşık bilimsel araştırmaları gerçekleştirme konusunda daha yetenekli olduğunu ve bu nedenle biyolojik araştırmalara ilişkin daha geniş bir soru grubuna erişimi sıkılaştırdığını açıkladı.
Eski Ulusal Sağlık ve İnsan Hizmetleri Bakanlığı yetkililerinden ve halk sağlığı uzmanı Susan Monarez yapay zekanın tıp alanında önemli ilerlemeler sağlayabileceğini ancak aynı yeteneklerin kötü niyetli aktörlerin araştırmalarının arkasına saklanmasına imkan verebileceğini belirtti.
Weber ise bu düzeyde biyolojik araştırma yapabilen yapay zeka araçlarına erişimin yalnızca güvenilir araştırmacılarla sınırlandırılması gerektiğini savundu. Rusya, Çin ve Kuzey Kore'nin yasaklı biyolojik silah programları geliştirmeye devam ettiğini belirten Weber, bu ülkelerdeki araştırmacıların gelişmiş yapay zeka modellerine erişiminin engellenmesi gerektiğini söyledi.
© 2026 The New York Times Company
Kaynak: Gazete Oksijen
