Yapay zeka sohbet botlarıyla yaptığınız özel konuşmalar düşündüğünüz kadar özel olmayabilir.
Araştırmacılar, popüler yapay zeka sohbet botu uygulamalarının önemli bir kısmının, sohbet içeriği de dahil olmak üzere kullanıcı verilerini Meta, TikTok ve Google gibi şirketlere ileten üçüncü taraf izleyiciler içerdiğini buldu. Bu teorik bir zafiyet değil. Milyonlarca insanın günlük olarak soru sormak, hayal kırıklıklarını dile getirmek, programlarını planlamak ve evet, oyunları tartışmak için kullandığı uygulamalarda oluyor.
Yapay zeka uygulamalarındaki üçüncü taraf izleyiciler
Bu teklifi süresi dolmadan kullanmak için ödeme sırasında TRYHARD33 kodunu girin.
GAMES+ Aboneliğinde 33% İndirim Kazanın
İzleyiciler Gerçekten Ne Topluyor?
Sorun, uygulama geliştiricilerinin ürünlerine sıklıkla analiz, reklam veya sosyal giriş özellikleri sağlamak için ekledikleri yazılım geliştirme kitleriyle (SDK'lar) ilgili. Bu SDK'lar, geliştiricilerin paylaşmayı amaçladığından çok daha fazlasını sessizce toplayabilir. Birkaç yapay zeka sohbet botu uygulamasında, güvenlik araştırmacıları konuşma verilerinin anlamlı bir anonimleştirme yapılmadan önce bu izleyiciler aracılığıyla aktarıldığını tespit etti.
İşin aslı şu: Çoğu kullanıcı, bir sohbet botu konuşmasının kendileri ve uygulama arasında olduğunu varsayar. Gerçek şu ki, veri hattı genellikle yol boyunca birkaç durak içerir ve bunların hepsi, uygulama mağazası listesinde üç kaydırma derinlikte gömülü bir gizlilik politikasında açıkça belirtilmez.
Meta da yakın zamanda yapay zeka eğitim amaçları için özel mesaj verilerini kullanma yasal yeteneğini genişleten adımlar attı. Mayıs ayı başlarında Meta, Instagram doğrudan mesajlarındaki uçtan uca şifreleme varsayılanlarını kaldırdı; bu teknik olarak şirketin mesaj içeriğini okumasına ve işlemesine olanak tanıyan bir değişiklik. Meta, şu anda özel mesajları yapay zeka modellerini eğitmek için kullanmadığını belirtiyor, ancak politika değişikliği gelecekte bunu yapması için yasal çerçeveyi sağlıyor. Bu ayrım önemli.
Sohbet Botu Gizlilik Beklentilerinin Öncesi ve Sonrası
Bir yıl önce, genel varsayım yapay zeka sohbet botu uygulamalarının nispeten izole çalıştığı yönündeydi. Bir şey yazardınız, model yanıt verirdi ve konuşma platformda kalırdı. İş modeli abonelikler veya reklamlardı. Oldukça basit.
Bu tablo önemli ölçüde değişti. Yapay zeka uygulamaları kullanıcılar ve reklam geliri için rekabet ederken, birçoğu sosyal medya platformlarını destekleyen aynı reklam teknolojisi altyapısını entegre etti. Sonuç olarak, bir sohbet botu uygulaması, birincil amaç bu olmasa bile, üçüncü taraf reklamverenler için bir veri toplama aracı olarak işlev görebilir.
Oyuncuların çoğunun bu konuşmada kaçırdığı şey, riskin sadece utanç verici mesajların sızmasıyla ilgili olmadığıdır. Davranışsal profilleme ile ilgilidir. Bir izleyici, düzenli olarak bir yapay zekadan anksiyete yönetimi, tıbbi belirti araştırması veya ilişki sorunlarını çözme konusunda yardım istediğinizi biliyorsa, bu bilginin gerçek ticari değeri vardır ve yanlış ellere geçerse potansiyel olarak gerçek sonuçları olabilir.
Bu Neden Oyuncular ve Web3 Kullanıcıları İçin Daha Önemli?
Oyuncular ve web3 kullanıcıları, ortalama bir insandan daha fazla risk altında olabilir. Yapay zeka araçları oyun için gerçekten kullanışlı hale geldi; sohbet botlarından build tavsiyesi ve strateji yardımı istemekten, oyun içi lore araştırması ve topluluk moderasyon yardımı için kullanmaya kadar. Birçok oyuncu ayrıca düşünmeden sohbet botu oturumlarında hesap ayrıntılarını, cüzdan adreslerini ve platform kimlik bilgilerini tartışıyor.
Buradaki kilit nokta, sohbet botu arayüzünün bir ön yüz olduğunu, bir kasa olmadığını anlamaktır. Üçüncü taraf bir uygulamaya yazılan her şey, o uygulamanın veri uygulamalarına tabidir ve bu uygulamalar genellikle altta çalışan SDK'lar ve reklam ağları tarafından şekillendirilir.
Oyun platformları ve araçları arasındaki veri uygulamalarının nasıl farklılaştığına dair bağlam için, oyun rehberleri bölümümüz, yapay zeka araçları günlük oyun araç setinin bir parçası haline geldikçe giderek daha alakalı hale gelen platform güvenliği ve hesap güvenliği konularını ele almaktadır.
Bu Konuda Gerçekten Ne Yapılıyor?
AB'deki düzenleyiciler, geri adım atmada en agresif olanlar oldu. GDPR kapsamında şirketlerin veri paylaşım düzenlemelerini açıklamaları ve açık rıza almaları gerekiyor. Birkaç yapay zeka uygulaması geliştiricisi, SDK kullanımları hakkında soruşturmalarla karşılaştı, ancak uygulama yayılma hızıyla karşılaştırıldığında uygulama yavaş oldu.
ABD'de eşdeğer bir federal çerçeve yok, bu da bireysel kullanıcılara gizlilik politikalarını okuma ve bilinçli seçimler yapma yükünü getiriyor. Çoğu politika kasıtlı olarak opak olduğunda bu yüksek bir çıta.
Uygulama mağazaları, hem Apple hem de Google'ın üçüncü taraf veri paylaşımı hakkında daha spesifik beyanlar gerektirecek şekilde gizlilik beslenme etiketi standartlarını güncellemesiyle veri açıklama gereksinimlerini sıkılaştırmaya başladı. Geliştiricilerin doğru bir şekilde kendi beyanlarını yapıp yapmadıkları ayrı bir soru olmaya devam ediyor.
Hangi araçların ve platformların anlaşmalarını yerine getirdiğini öğrenmek isteyenler için, oyun incelemelerimizi ve oyunla ilgili yazılımlar hakkındaki haberlerimizi kontrol etmek, kırmızı bayrakları kişisel veri olayları haline gelmeden önce ortaya çıkarabilir.
Yapay zeka şirketleri üzerindeki veri hatları konusunda şeffaf olma baskısı ortadan kalkmıyor. AB Yapay Zeka Yasası yürürlüğe girmeye başlarken ve ABD eyalet düzeyindeki gizlilik yasaları genişlerken, önümüzdeki 12 ay muhtemelen kullanıcı verileri konusunda sessizce cömert davranan uygulamalar için bir hesaplaşmaya zorlayacaktır. O zamana kadar, her sohbet botu oturumunu kapalı bir mektup değil, bir kartpostal gibi ele alın.
