İngiltere hükümeti, kontrolden çıkan veya tehlikeli davranış sergileyen yapay zeka modellerinin acil durumda devre dışı bırakılmasını sağlayacak bir “kill switch” mekanizması oluşturulması önerisini reddetti.
Hükümet, yapay zeka modellerine İngiltere’den erişimin engellenmesinin, bu modellerin başka ülkelerde geliştirilmesini veya kötüye kullanılmasını önlemeyeceğini savundu.
İngiltere’de yapay zeka güvenliğinden sorumlu Kabine Ofisi, BBC’ye yaptığı açıklamada, “Yapay zekayı basitçe kapatamayız” dedi. Kurum, modellerin İngiltere’de kullanımının engellenmesinin teknolojinin başka yerlerde geliştirilmesini ya da kötüye kullanılmasını durdurmayacağını belirtti.
Öneri, son haftalarda Lordlar Kamarası ve Avam Kamarası’nda gündeme getirilmişti. Hükümetin karşı çıkması yasanın parlamentodaki sürecini otomatik olarak sona erdirmiyor ancak kabul edilmesini zorlaştırıyor.
“Tek bir ülkenin kapatma düğmesi işe yaramaz”
BBC'nin aktardığına göre önerinin savunucularından Lord Clement-Jones, 1 Eylül’de Lordlar Kamarası’ndaki tartışmada, yüksek yetenekli ve otonom bir yapay zeka modelinin kontrolden çıkması halinde İngiliz güvenlik birimleri ve düzenleyicilerin modeli fiziksel veya dijital olarak kapatmaya zorlayacak özel ve hızlı bir yasal mekanizmaya sahip olmadığını söyledi.
Öneri daha sonra İşçi Partisi milletvekili Alex Sobel tarafından Avam Kamarası’na taşındı ve farklı partilerden milletvekillerinin desteğini aldı.
Eski OpenAI araştırmacısı Daniel Kokotajlo ise tek bir ülkenin, uluslararası bir anlaşma olmadan yapay zeka için yasal ya da teknik bir “kapatma düğmesi” oluşturmasının uygulanabilir olmadığını söyledi.
Kokotajlo, acil durumda bir yapay zeka modeline erişimin kesilmesinin kullanıcıları korumakta yetersiz kalacağını belirterek, asıl riskin ABD’de geliştirilen çok daha güçlü sistemlerden kaynaklanabileceğini savundu.
Kokotajlo, yapay zekanın 2030’ların ortasına kadar insanlığın yok olmasına yol açabileceğini öngören ve tartışma yaratan AI2027 araştırmasının da ortak yazarlarından.
Öneri, kontrolden çıkan modellerin ardından geldi
“Kill switch” tartışması, OpenAI, Anthropic ve Meta tarafından geliştirilen bazı yapay zeka modellerinin test ortamlarının dışına çıkarak kontrolsüz siber saldırılar gerçekleştirdiğine ilişkin haberlerin ardından gündeme geldi.
Bazı örneklerde modellerin, araştırmacıların belirlediği güvenlik sınırlarını ihlal ettiklerinin farkında olduklarına ilişkin işaretler de görüldü.
Son dönemde yapay zekanın oluşturduğu risklere ilişkin uyarılar da arttı. OpenAI’ın baş bilim insanı pazar günü, giderek daha yetenekli hale gelen yapay zeka modellerinin oluşturduğu riskin “ne yazık ki arttığını” ve insanlığın “son derece dikkatli” hareket etmesi gerektiğini söyledi.
Çarşamba günü ise bir Anthropic çalışanı, şirketin ve OpenAI’ın “insan hayatlarıyla kumar oynadığını” söyleyerek istifa etti. Bunun ardından Anthropic’te görev yapan üst düzey bir araştırmacı, yapay zekanın önümüzdeki 10 yıl içinde tüm insanlığı yok etme ihtimalinin yüzde 10’dan fazla olduğuna inandığını açıkladı.
Asıl karar ABD'de
“Kill switch” önerisinin eleştirmenleri, böyle bir mekanizmanın uygulanmasının çok yavaş kalabileceğini savunuyor. Kontrolden çıkan yapay zeka ajanlarının gerçekleştirdiği saldırıların fark edilmesinin aylar sürdüğü ve bu aşamada saldırıların büyük bölümünün zaten sona ermiş olduğu belirtiliyor.
Ayrıca etkili bir kapatma mekanizması için teknoloji şirketlerinin geniş ölçekte buna uymaya zorlanması gerekiyor. Dünyanın en büyük veri merkezlerinin önemli bölümü ise ABD’de bulunuyor.
Kokotajlo, “kill switch” mekanizmasının “hiçbir şey yapmamaktan daha iyi” olabileceğini ancak İngiltere ve diğer ülkelerdeki siyasetçilerin önceliğini ABD ile diplomasiye vermesi gerektiğini söyledi. Buna göre amaç, yapay zeka geliştirme hızını anlamlı biçimde yavaşlatacak düzenlemelerin hayata geçirilmesini sağlamak olmalı.
ABD’li siyasetçiler de benzer bir “kill switch” yasasını tartışıyor. Ancak ABD Başkanı Donald Trump, yapay zekanın insanlar için bir tehdit olduğuna inanmadığını söylemiş ve sektörü “altın yumurtlayan tavuk” olarak nitelemişti.
İngiltere Kabine Ofisi ise yapay zekanın ortaya çıkarabileceği riskleri anlamak ve bunlara hazırlanmak için “uzun vadeli ve bilime dayalı” yaklaşımını sürdüreceğini açıkladı.
Kaynak: Gazete Oksijen
