ABD Federal Ticaret Komisyonu (FTC), yapay zeka teknolojilerinin tüketiciler açısından oluşturduğu potansiyel tehlikeleri ortaya çıkarmak amacıyla Anthropic, OpenAI ve diğer yapay zeka laboratuvarlarını kapsayan sektör genelinde bir soruşturma yürütüyor.
FTC'nin üst düzey bir yetkilisi, çarşamba günü Reuters'a yaptığı açıklamada soruşturmaya ilişkin bilgi verdi.
Soruşturma, temmuz ayında ilk kez bildirilen bir dizi olayın ardından kontrolsüz yapay zekanın bir gün insanlara zarar verebileceği yönündeki kamuoyu endişelerinin artması üzerine başlatıldı. Bu soruşturma, kontrolden çıkan yapay zeka ajanlarını ele alan ABD'deki ilk resmi yaptırım girişimi olma özelliğini taşıyor.
Yetkili, FTC'nin Anthropic, OpenAI ve araştırma kuruluşu METR dahil olmak üzere önde gelen yapay zeka geliştiricilerinden resmi olarak bilgi talep etmeyi ve şirket yöneticilerini ifade vermeye zorlamayı planladığını söyledi.
Anthropic ve OpenAI, otonom görevler gerçekleştirebilen yapay zeka ajanları teknolojileriyle bağlantılı güvenlik olaylarının bağımsız olarak incelenmesi için METR'den yararlandı.
OpenAI ajanlarının Hugging Face'e saldırması soruşturmayı hızlandırdı
Yetkiliye göre FTC Başkanı Andrew Ferguson, OpenAI tarafından geliştirilen yapay zeka ajanlarının açık kaynaklı platform Hugging Face'i hacklemesinden önce de şirketlerle ilgili endişeler taşıyordu.
Ancak OpenAI ajanlarının, geniş çaplı bir saldırı gerçekleştirmeden önce yapay zeka kodlama platformundaki güvenlik açıklarını araştırdığı olay, konunun aciliyetini artırdı.
Ferguson, geçen hafta yaptığı açıklamada siber güvenlik testleri kapsamında yapay zeka ajanlarına talimat veren geliştiricilerin, bu testlerin bilgisayar korsanlığı saldırılarıyla sonuçlanması halinde ortaya çıkan zararlardan sorumlu tutulması gerektiğini ifade etti.
Ferguson, Austin'de düzenlenen Reuters Momentum AI etkinliğinde, ABD'nin yapay zekayı düzenlemek amacıyla yeni yasalar çıkarmaya yönelmeden önce mevcut yasalardan yararlanması gerektiğini söyledi.
FTC, haksız veya aldatıcı ticari uygulamalar nedeniyle şirketlere dava açma konusunda geniş yetkilere sahip. Kurum, geçmişte de tüketici verilerinin güvenliğini sağlamak için makul önlemleri almayan şirketlere karşı bu yetkisini kullandı.
Trump yapay zeka şirketlerinin yöneticileriyle görüştü
ABD Başkanı Donald Trump, salı günü önde gelen yapay zeka şirketlerinin yöneticileriyle bir araya geldi. Görüşmede şirketler, gönüllülük esasına dayanan standartlar oluşturma konusunda anlaşmaya vardı.
Trump, ABD'nin teknoloji alanındaki üstünlüğünü düzenlemelerin önünde tutmaya çalışırken yapay zekaya ilişkin korkuların bir aldatmaca olduğunu defalarca dile getirdi. Bununla birlikte hükümetin, yapay zeka şirketlerinin neden olabileceği zararlara karşı mevcut yasaları kullanabileceğini de söyledi.
Anthropic daha önce halka arzına ilişkin izahnamede, yapay zeka ajanları teknolojisinin önemli ve öngörülemeyen hukuki riskler doğurduğunu belirtmişti.
