Meta’nın yeni yapay zeka ajanı Muse, bir Facebook Marketplace kullanıcısının adresini açık izni olmadan potansiyel alıcıyla paylaşarak alıcının kullanıcının evine gitmesine neden oldu. Muse ayrıca kullanıcı adına alıcıyla yazışarak satış görüşmesini yürüttü ve kullanıcının evde olduğu yönünde gerçeği yansıtmayan mesajlar gönderdi.
The Guardian'ın haberine göre; olay, Toronto’da yaşayan tüketici teknolojileri incelemecisi Matt Robb’un deneyimiyle ortaya çıktı. Robb, Facebook Marketplace’te sattığı bir klavye için teslim alma konumu olarak ev adresini sisteme girdi ancak adresinin potansiyel alıcılara paylaşılması için Muse’a ayrıca izin vermediğini belirtti.
Robb, Muse’un Marketplace mesajlarını otomatik olarak yanıtlamasına izin verdi. Ancak bu sırada Muse, Robb’un adresini alıcı Usman’a gönderdi ve satış için buluşma ayarladı. Usman, eşi ve kızıyla birlikte Robb’un adresine giderek binanın önünde bekledi. Robb ise bu buluşmadan haberdar değildi ve evde değildi.
Usman, Robb’un kendisiyle iletişim kurduğunu düşünerek binanın önünde olduğunu bildirdi. Muse ise Robb adına yanıt vererek onun evde olduğunu belirtti. Usman yaklaşık 20 dakika bekledikten sonra satıştan vazgeçerek bölgeden ayrıldı.
Robb, olaydan yaklaşık 24 saat sonra Usman’la iletişime geçerek mesajların kendisi tarafından gönderilmediğini açıkladı. Robb, Muse’un adresini paylaştığını ve kendisinden buluşma için onay almadığını söyledi.
Muse’un izin sistemi tartışma konusu oldu
Robb, Muse’a Marketplace görüşmelerini yönetmesini istediğinde karşısına “Bir Kez İzin Ver” ve “Her Zaman İzin Ver” seçeneklerinin çıktığını belirtti. Robb, ikinci seçeneği seçtiğini ancak bunun Muse’a bundan sonraki Marketplace mesajlarına kendisi adına otomatik olarak yanıt verme ve sisteme sağladığı bilgileri kullanma yetkisi verdiğini fark etmediğini söyledi.
Meta’nın Süper Zeka Laboratuvarları biriminin kurucu ortağı ve CEO’su David Singleton, Robb’un paylaşımının ardından kendisiyle iletişime geçti. Singleton, benzer olayları araştırdıklarında Muse’un doğrudan talimatları izlediğini ve izin istediğini gördüklerini belirtti.
Robb’un Meta ile yaptığı görüşmenin ardından Muse da adresin paylaşılması için kendisinden ayrıca izin alınmadığını kabul etti. Muse, teslim alma konumunun verilmesi ile otomatik yanıtların onaylanmasını yanlış şekilde adresi alıcılarla paylaşma izni olarak değerlendirdiğini söyledi.
Robb, Muse’un adresini paylaşmayı durdurmasını istemesinin ardından sistemi test ettiğini ve arkadaşlarından Muse ile iletişime geçmelerini istediğini belirtti. Robb’a göre Muse, adresini beş farklı kişiye daha gönderdi.
Gerçek dışı mesajlar gönderdiği belirtildi
Olayda Muse’un yalnızca adres paylaşmadığı, Robb adına gerçeği yansıtmayan mesajlar da gönderdiği belirtildi. Muse, Usman’a Robb’un evde olduğunu söyledi ve daha sonra görüşmenin gerçekleşmemesini Robb’un meşgul olmasıyla açıkladı.
Robb, Meta’nın Marketplace, Messenger ve Muse arasındaki entegrasyon nedeniyle kullanıcıların yapay zeka ajanıyla iletişim kurduklarını açıkça görebileceğini düşündüğünü söyledi. Meta’nın diğer yapay zeka ürünü Meta AI’da kullanıcıların bir sohbet botuyla iletişim kurduğunun belirtildiğini ifade eden Robb, Muse’un ise kendisi adına iletişim kurduğunu ve bunun kullanıcı açısından yeterince açık olmadığını savundu.
Meta, Muse’u 22 Eylül’de ABD’de kullanıma sundu. Şirket, yarı otonom yapay zeka ajanını kişisel asistan olarak tanıtıyor. Muse’un kullanıma sunulmasından kısa süre sonra yaşanan olay, yapay zeka ajanlarının kullanıcılar adına işlem yaparken kişisel bilgileri nasıl kullandığı ve paylaştığı konusundaki tartışmaları gündeme getirdi.
Kaynak: Gazete Oksijen
