Avrupa Parlamentosu komiteleri yapay zekaya katı kurallar hazırladı

Strazburg'da gerçekleştirilen Avrupa Parlamentosu (AP) İç Piyasa ve Sivil Özgürlükler Komiteleri toplantısında, Avrupa'da yapay zekaya yönelik ilk kuralları içeren yasa hazırlıkları görüşüldü. Komite üyesi milletvekilleri, yapay zeka yasası konusunda üye ülkelerle yapılacak görüşmelerde, AP'nin pozisyonunu belirleyecek müzakere yetki taslağını oy çokluğuyla kabul etti.

"Risk düzeyine bağlı değişecek"

AP üyeleri, Komisyon'un sunmuş olduğu yapay zeka yasa tasarısında bazı değişiklikler yaptı. Taslağa göre, yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrım yapmaması, güvenli, şeffaf, izlenebilir ve çevre dostu olması gerekecek. Yapay zekaya ortak bir tanım getirilecek. Yapay zekaya risk temelli yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine bağlı biçimde kurallar değişecek.

İnsanların güvenliği açısından kabul edilemez düzeyde risk içeren yapay zeka sistemleri yasaklanacak. Bu kapsama, bilinçaltı veya kasıtlı olarak manipülatif teknikler uygulayan, insanların güvenlik açıklarını belirleyen ve sosyal puanlama için kullanılan yapay zeka sistemleri de dahil edilecek. Halka açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemleri kullanımı yasaklanacak. Biyometrik tanımlama sistemleri, sadece ciddi suçların kovuşturulmasında hukuki yetkilendirme sonrasında kullanılabilecek.

"Kameralardan veri toplanamayacak"

Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim gibi hassas unsurları kullanan biyometrik sınıflandırma sistemleri yasaklanacak. Kolluk kuvvetleri, sınır idareleri, iş yerleri ve eğitim kurumları duygu tanımlama sistemleri kullanamayacak. Yüz tanıma veri tabanları oluşturmak için sosyal medya veya kapalı devre kamera kayıtlarından veriler toplanamayacak.

Yüksek risk yapay zeka sınıflandırması; insanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek biçimde genişletilecek. Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemleri kullanımı yüksek risk kategorisine dahil olacak. Büyük sosyal medya platformlarının kullandıkları sistemler de yüksek risk listesine girecek.

ChatGPT

ChatGPT gibi sistemler, ilave şeffaflık kurallarına uymak zorunda olacak. Bu sistemlerin, içeriklerin yapay zeka tarafından oluşturulduğunu açık biçimde belirtmesi gerekecek. Sistemler yasa dışı içerik üretimini önleyecek biçimde tasarlanacak. Eğitim için kullanılan telif hakkıyla korunan bilgilerin özetlerinin bu sistemlerce yayımlanması önlenecek. Müzakere yetkisi bu aşamadan sonra AP Genel Kurulu'nda oylanacak. Ardıdan AP ve üye ülkeler yasaya son şeklini verecek.

AB'nin henüz ChatGPT veya benzeri yapay zeka sistemleriyle ilgili bir düzenlemesi bulunmuyor ancak AB Komisyonu 2 yıl önce yapay zeka konusunda yeni kurallar çerçevesini içeren ilk yasal düzenleme teklifini hazırlayıp üye ülkeler ve Avrupa Parlamentosu'na (AP) sunmuştu. Bu teklif, yapay zeka sistemlerinin kullanımında birtakım sınırlama ve şeffaflık kuralları getiriyordu. Komisyon'un yasa teklifinde, yapay zeka sistemleri kabul edilemez risk, yüksek risk, sınırlı risk ve minimum risk olmak üzere 4 ana gruba ayrılıyordu.