ChatGPT, Gemini, Copilot ve Claude gibi yapay zeka sohbet botlarının günlük yaşamda kullanımı giderek yaygınlaşıyor. Bu araçlar e-posta yazmaktan bilgi edinmeye kadar pek çok konuda kullanılırken, uzmanlar kullanıcıların bu platformlarla paylaştığı kişisel ve hassas veriler konusunda dikkatli olması gerektiğini belirtiyor.
The Huffington Post'un aktardığına göre; Elon Üniversitesi Dijital Geleceği Hayal Etme Merkezi Direktörü Lee Rainie, üniversitenin yayımladığı açıklamada, “Büyük dil modellerinin (LLM) benimsenmesi ve kullanımı her ölçüye göre şaşırtıcı” ifadelerini kullandı. Rainie, bu araçların insanların sosyal yaşamlarına dahil edilme biçimlerine özellikle dikkat çekti.
Yapay zeka araçları e-posta yazmak veya doktor randevusu öncesinde soru hazırlamak gibi konularda yardımcı olabilse de uzmanlar, bu sistemlerle paylaşılan bilgilerin kapsamına dikkat edilmesi gerektiğini belirtiyor.
Stanford İnsan Odaklı Yapay Zeka Enstitüsü tarafından gerçekleştirilen yakın tarihli bir araştırma da bu konudaki gizlilik risklerine ilişkin bulgular ortaya koydu. Araştırmacılar, ABD'nin önde gelen altı yapay zeka sohbet sistemi geliştiricisinin (OpenAI'ın ChatGPT'si, Google'ın Gemini'si, Anthropic'in Claude'u, Amazon'un Nova'sı, Meta'nın MetaAI'ı ve Microsoft'un Copilot'u) gizlilik politikalarını inceledi. Araştırmada, bu şirketlerin tamamının müşteri görüşmelerini varsayılan olarak “modellerini eğitmek ve geliştirmek” amacıyla kullandığı ve bazılarının bu verileri süresiz olarak sakladığı belirtildi.
HuffPost'a konuşan siber güvenlik uzmanı George Kamide, kullanıcıların yapay zeka sohbet botlarıyla paylaştıkları bilgilerin ne kadarının “saklanabileceğini, analiz edilebileceğini ve potansiyel olarak yeniden kullanılabileceğini” yeterince dikkate almadığını söyledi.
Kamide, “Birçok LLM, kullanıcı girdileri kullanılarak eğitiliyor veya ince ayardan geçiriliyor. Bu da konuşmaların doğrudan veya dolaylı olarak modellerin gelecekteki davranışlarına katkıda bulunabileceği anlamına geliyor” dedi.
Kamide, “Bu etkileşimler kişisel tanımlayıcılar, hassas veriler veya gizli bilgiler içeriyorsa, kullanıcıların kontrolü dışındaki bir veri kümesinin parçası haline gelebilir. Nihayetinde veri, yapay zeka şirketlerinin bizden elde edebileceği en değerli unsurdur” ifadelerini kullandı.
Uzmanlara göre yapay zeka sohbet botlarıyla paylaşılmadan önce dikkat edilmesi gereken bilgi türleri şöyle:
Kişisel olarak tanımlanabilir bilgiler
Kişisel olarak tanımlanabilir bilgiler, bir kişiyi tanımlamak için kullanılabilecek verileri ifade ediyor. Bu kapsamda kişinin tam adı, ev adresi, telefon numarası ve sosyal güvenlik numarası, pasaport veya ehliyet numarası gibi resmi kimlik bilgileri yer alıyor.
Bilgi güvenliği uzmanı George Al-Koura, bu tür bilgilerin bir sohbet botuyla paylaşılmasının verilerin kayıt altına alınması veya kişisel verilerin kötüye kullanılmasına yol açabilecek şekillerde işlenmesi riskini beraberinde getirdiğini belirtti. Al-Koura, bu nedenle söz konusu bilgilerin paylaşılmamasını tavsiye etti.
Kullanıcıların komutlarıyla birlikte yüklediği dosyalar da modelin eğitimi amacıyla kullanılabiliyor. Örneğin ChatGPT'den özgeçmişini geliştirmesine yardımcı olmasını isteyen kişilerin, güvenlik açısından öncelikle belgede yer alan kişisel tanımlayıcı bilgileri kaldırması öneriliyor.
Özel hayata ilişkin mahrem bilgiler
İnsanlar, yapay zeka sohbet botlarıyla konuşurken, örneğin Google'da arama yaparken olduğundan daha fazla kişisel bilgi paylaşabiliyor. Bunun nedenlerinden biri, sohbet botlarının daha insan benzeri görünen karşılıklı bir iletişim sunması.
Uluslararası Gizlilik Profesyonelleri Birliği (IAPP) Yapay Zeka Yönetişimi Merkezi Genel Müdürü Ashley Casovan, HuffPost'a yaptığı açıklamada, bunun kullanıcıda yanlış bir güvenlik algısı oluşturabileceğini belirtti. Casovan'a göre bu durum, insanların statik bir arama motoruna kıyasla sohbet botlarına kişisel bilgilerini paylaşmaya daha yatkın hale gelmesine neden olabilir.
Kullanıcıların düşünceleri, davranışları, ruhsal durumları veya ilişkileri hakkında paylaştığı hassas bilgiler yasal olarak korunmayabilir ve bazı durumlarda mahkemelerde delil olarak kullanılabilir.
Kamide, insanların LLM tabanlı sohbet botlarını terapist, yaşam koçu ve hatta bir tür “yakın partner” olarak kullanmasının yaygınlaşmasının endişe verici olduğunu söyledi.
Tıbbi bilgiler
KFF tarafından 2024 yılında gerçekleştirilen bir ankete göre, yetişkinlerin yaklaşık altıda biri sağlık bilgisi ve tavsiyesi almak için ayda en az bir kez yapay zeka sohbet botlarına başvuruyor.
Yapay zeka sohbet botları sağlıkla ilgili konuları anlamada yardımcı olabilse de uzmanlar, bu kullanımın gizlilik açısından riskler barındırdığına ve yanıtların doğruluğuyla ilgili soru işaretleri bulunduğuna dikkat çekiyor.
Uzmanlar, sağlık hizmeti kayıtları da dahil olmak üzere kişisel tıbbi bilgilerin yapay zeka sohbet botlarıyla paylaşılmamasını öneriyor. Sağlıkla ilgili verilerin bir sohbete girilmesi durumunda ise komutlardaki kişisel tanımlayıcı bilgilerin kaldırılması tavsiye ediliyor.
Gizli veya şirkete ait bilgiler
İş hayatında yapay zeka sohbet botlarından yararlanılırken de dikkatli olunması gerekiyor. Al-Koura; şirket içi verilerin, raporların, müşteri bilgilerinin, kaynak kodlarının veya gizlilik sözleşmesi kapsamında korunan herhangi bir bilginin sohbet botlarına girilmemesi gerektiğini belirtti.
Al-Koura, “Birçok yapay zeka sohbet platformu ortak altyapılar üzerinde çalışıyor ve güçlü güvenlik önlemlerine rağmen girilen bilgiler ‘model geliştirme’ amacıyla kayıt altına alınabilir” dedi.
Al-Koura, hassas bilgiler içeren tek bir komutun dahi düzenleyici kurumlara yönelik yükümlülüklerin veya sözleşme şartlarının ihlal edilmesine yol açabileceğini ifade etti.
Finansal bilgiler
Kentucky Üniversitesi Bilgi Teknolojileri Hizmetleri birimi, maaş bordroları, banka ve yatırım hesaplarına ilişkin bilgiler ile kredi kartı bilgilerinin yapay zeka sohbet botlarıyla paylaşılmaması gerektiğini belirtiyor.
Üniversitenin internet sitesinde yer alan açıklamada, yapay zekanın genel finansal tavsiyeler sunabileceği ancak kişisel finans konularında bilgisayar korsanlığı veya verilerin kötüye kullanılması risklerinden kaçınmak için bir finans danışmanına başvurmanın daha güvenli olduğu ifade edildi.
Vergi beyannameleri ve gelirle ilgili diğer belgeler için de aynı yaklaşımın geçerli olduğu belirtiliyor.
Finans yazarı Adam Hayes, Investopedia'da yayımlanan bir yazısında, bu belgelerin açığa çıkması halinde kişilere veya ailelerine yönelik şantaj, dolandırıcılık saldırılarında kullanılabileceği uyarısında bulundu.
Bu bilgiler daha önce paylaşıldıysa ne yapılabilir?
Daha önce paylaşılan bilgilerin tamamen geri alınması mümkün olmayabilir. Ancak olası zararların azaltılması için bazı adımlar atılabilir.
Kamide, verilerin sohbet botunun eğitim verilerine dahil edilmesi durumunda “gerçek anlamda geri alınamayacağını” belirtti. Bununla birlikte, hesabın ele geçirilmesi durumunda verilerin dışarı aktarılmasını önlemek amacıyla sohbet geçmişinin silinmesini önerdi.
Kullanıcıların bundan sonra bir yapay zeka sohbet botuyla hangi bilgileri paylaşmaya hazır olduklarını ve hangi bilgileri paylaşmak istemediklerini belirlemesi de öneriliyor. Al-Koura, yapay zeka sohbetlerinin “özel günlükler yerine yarı kamusal alanlar” olarak değerlendirilmesi gerektiğini söyledi.
Al-Koura, kullanıcıların paylaştıkları bilgiler konusunda bilinçli ve sınırlı hareket etmesini önererek, bir mesaj göndermeden önce “Bunu herkesin görmesinden rahatsız olur muydum?” sorusunun sorulabileceğini ifade etti.
Kullanıcılar ayrıca kullandıkları yapay zeka sohbet botlarının gizlilik ayarlarını değiştirerek bazı gizlilik risklerini azaltabilir. Bu ayarlar arasında sohbet geçmişini devre dışı bırakmak veya konuşmaların model eğitimi amacıyla kullanılmasını engellemek gibi seçenekler bulunabiliyor.
Casovan, farklı yapay zeka araçlarının hangi verileri “hatırlayacağı” konusunda farklı yapılandırmalara sahip olduğunu belirtti. Kullanıcıların bu seçenekleri inceleyerek tercihleri veya çalıştıkları kurumun politikaları doğrultusunda uygun ayarları belirleyebileceğini söyledi.
Casovan ayrıca bu sistemlerin nasıl çalıştığı, verilerin nasıl saklandığı, kimlerin erişimine açık olduğu, nasıl aktarıldığı ve hangi koşullarda kullanılabildiği konusunda bilgi sahibi olmanın, yapay zeka araçlarından yararlanırken paylaşılan bilgilerin kapsamı hakkında daha bilinçli kararlar alınmasını sağlayacağını ifade etti.
Al-Koura, komutlar hazırlanırken fazla miktarda kişisel veya gizli bilgi paylaşılmasını önlemek için takma adlar ve daha genel ifadeler kullanılmasını önerdi.
Kaynak: Gazete Oksijen
