AI chatbots के साथ आपकी प्राइवेट बातचीत उतनी प्राइवेट नहीं हो सकती जितनी आप सोचते हैं।
शोधकर्ताओं ने पाया है कि लोकप्रिय AI chatbot ऐप्स की एक बड़ी संख्या में एम्बेडेड थर्ड-पार्टी ट्रैकर्स होते हैं जो यूजर डेटा, जिसमें चैट कंटेंट भी शामिल है, को Meta, TikTok, और Google जैसी कंपनियों को ट्रांसमिट करते हैं। यह कोई थ्योरेटिकल वल्नरेबिलिटी नहीं है। यह उन ऐप्स में हो रहा है जिनका इस्तेमाल लाखों लोग रोज़ाना सवाल पूछने, फ्रस्ट्रेशन निकालने, अपने शेड्यूल प्लान करने और हाँ, गेम्स डिस्कस करने के लिए करते हैं।
Third-party trackers in AI apps
ट्रैकर्स असल में क्या कलेक्ट कर रहे हैं
यह इशू सॉफ्टवेयर डेवलपमेंट किट्स (SDKs) पर केंद्रित है जिन्हें ऐप डेवलपर्स अपने प्रोडक्ट्स में बंडल करते हैं, अक्सर एनालिटिक्स, एडवरटाइजिंग या सोशल लॉगिन फीचर्स को इनेबल करने के लिए। ये SDKs डेवलपर्स के शेयर करने के इरादे से कहीं ज़्यादा साइलेंटली कलेक्ट कर सकते हैं। कई AI chatbot ऐप्स के मामले में, सिक्योरिटी रिसर्चर्स ने पहचाना कि कन्वर्सेशन डेटा किसी भी मीनिंगफुल एनोनिमाइजेशन से पहले इन ट्रैकर्स के ज़रिए पास हो रहा था।
बात यह है: ज़्यादातर यूजर्स यह मानते हैं कि एक चैटबॉट कन्वर्सेशन उनके और ऐप के बीच होती है। हकीकत यह है कि डेटा पाइपलाइन में अक्सर रास्ते में कई स्टॉप्स होते हैं, और उन सभी को ऐप स्टोर लिस्टिंग में तीन स्क्रॉल नीचे दबी हुई प्राइवेसी पॉलिसी में क्लियरली डिस्क्लोज़ नहीं किया जाता है।
Meta ने हाल ही में ऐसे मूव्स भी किए हैं जो AI ट्रेनिंग पर्पज के लिए प्राइवेट मैसेज डेटा का इस्तेमाल करने की उसकी लीगल एबिलिटी को बढ़ाते हैं। मई की शुरुआत से, Meta ने Instagram डायरेक्ट मैसेज पर एंड-टू-एंड एन्क्रिप्शन डिफॉल्ट्स को हटा दिया है, एक ऐसा बदलाव जो टेक्निकली कंपनी को मैसेज कंटेंट को पढ़ने और प्रोसेस करने की अनुमति देता है। Meta ने कहा है कि वह वर्तमान में अपने AI मॉडल्स को ट्रेन करने के लिए प्राइवेट मैसेज का इस्तेमाल नहीं कर रही है, लेकिन पॉलिसी चेंज उसे भविष्य में ऐसा करने के लिए लीगल फ्रेमवर्क देता है। वह डिस्टिंक्शन मायने रखता है।
चैटबॉट प्राइवेसी एक्सपेक्टेशंस का पहले और बाद का नज़रिया
एक साल पहले, सामान्य धारणा यह थी कि AI chatbot ऐप्स रिलेटिव आइसोलेशन में काम करते थे। आप कुछ टाइप करते थे, मॉडल रिस्पॉन्ड करता था, और कन्वर्सेशन प्लेटफॉर्म पर ही रहती थी। बिजनेस मॉडल सब्सक्रिप्शन या एड्स थे। काफी सिंपल।
वह पिक्चर काफी हद तक बदल गई है। जैसे-जैसे AI ऐप्स यूजर्स और एडवरटाइजिंग रेवेन्यू के लिए कंपीट करते हैं, कई ने वही एड-टेक इंफ्रास्ट्रक्चर इंटीग्रेट कर लिया है जो सोशल मीडिया प्लेटफॉर्म्स को पावर करता है। इसका नतीजा यह है कि एक चैटबॉट ऐप अब थर्ड-पार्टी एडवरटाइजर्स के लिए डेटा कलेक्शन टूल के तौर पर काम कर सकता है, भले ही वह यूजर्स के लिए कभी प्राइमरी पिच न रहा हो।
इस कन्वर्सेशन में ज़्यादातर प्लेयर्स जो मिस करते हैं वह यह है कि रिस्क सिर्फ एम्बैरेसिंग मैसेज लीक होने का नहीं है। यह बिहेवियरल प्रोफाइलिंग के बारे में है। अगर कोई ट्रैकर जानता है कि आप नियमित रूप से किसी AI से एंग्जायटी मैनेज करने, मेडिकल सिम्टम्स रिसर्च करने, या रिलेशनशिप प्रॉब्लम्स को नेविगेट करने में मदद मांगते हैं, तो उस जानकारी की रियल कमर्शियल वैल्यू है, और संभावित रूप से रियल कंसीक्वेंसेस हो सकते हैं अगर वह गलत हाथों में पड़ जाए।
यह गेमर्स और वेब3 यूजर्स के लिए ज़्यादा क्यों मायने रखता है
गेमर्स और वेब3 यूजर्स शायद एवरेज पर्सन से ज़्यादा एक्सपोज्ड हैं। AI टूल्स गेमिंग के लिए वाकई यूज़फुल हो गए हैं, बिल्ड एडवाइस और स्ट्रेटेजी हेल्प के लिए चैटबॉट्स से पूछने से लेकर इन-गेम लोर रिसर्च और कम्युनिटी मॉडरेशन असिस्टेंस के लिए उनका इस्तेमाल करने तक। कई प्लेयर्स अकाउंट डिटेल्स, वॉलेट एड्रेस और प्लेटफॉर्म क्रेडेंशियल्स को भी बिना सोचे-समझे चैटबॉट सेशंस में डिस्कस करते हैं।
यहाँ की कुंजी यह समझना है कि चैटबॉट इंटरफ़ेस एक फ्रंट एंड है, वॉल्ट नहीं। थर्ड-पार्टी ऐप में टाइप की गई कोई भी चीज़ उस ऐप के डेटा प्रैक्टिसेस के अधीन है, और वे प्रैक्टिसेस अक्सर नीचे चल रहे SDKs और एड नेटवर्क्स से शेप्ड होती हैं।
गेमिंग प्लेटफॉर्म्स और टूल्स में डेटा प्रैक्टिसेस कैसे वैरी करती हैं, इस पर कॉन्टेक्स्ट के लिए, हमारा गेमिंग गाइड्स सेक्शन प्लेटफॉर्म सिक्योरिटी और अकाउंट सेफ्टी टॉपिक्स को कवर करता है जो AI टूल्स के रोज़मर्रा के गेमिंग टूलकिट का हिस्सा बनने के साथ-साथ ज़्यादा रेलेवेंट होते जा रहे हैं।
इसके बारे में असल में क्या किया जा रहा है
EU में रेगुलेटर्स सबसे ज़्यादा आक्रामक रहे हैं। GDPR के तहत, कंपनियों को डेटा शेयरिंग अरेंजमेंट्स डिस्क्लोज़ करने और एक्सप्लिसिट कंसेंट ऑब्टेन करने की आवश्यकता होती है। कई AI ऐप डेवलपर्स को उनके SDK यूसेज को लेकर पूछताछ का सामना करना पड़ा है, हालांकि ऐप्स के फैलने की रफ़्तार की तुलना में एनफोर्समेंट धीमा रहा है।
US में, कोई इक्विवेलेंट फेडरल फ्रेमवर्क नहीं है, जिसका मतलब है कि प्राइवेसी पॉलिसीज़ पढ़ने और इंफॉर्म्ड चॉइस करने का बोझ इंडिविजुअल यूजर्स पर पड़ता है। यह एक हाई बार है जब ज़्यादातर पॉलिसीज़ जानबूझकर ओपेक होती हैं।
ऐप स्टोर्स ने अपनी डेटा डिस्क्लोज़र रिक्वायरमेंट्स को टाइट करना शुरू कर दिया है, Apple और Google दोनों ने थर्ड-पार्टी डेटा शेयरिंग के बारे में ज़्यादा स्पेसिफिक डिक्लेरेशन की आवश्यकता के लिए अपने प्राइवेसी न्यूट्रिशन लेबल स्टैंडर्ड्स को अपडेट किया है। डेवलपर्स एक्यूरेटली सेल्फ-रिपोर्ट करते हैं या नहीं, यह एक अलग सवाल बना हुआ है।
उन लोगों के लिए जो यह जानने में रुचि रखते हैं कि कौन से टूल्स और प्लेटफॉर्म्स अपने वादे निभा रहे हैं, हमारे गेम रिव्यूज और गेमिंग-एडजसेंट सॉफ्टवेयर की कवरेज को चेक करने से पर्सनल डेटा इंसिडेंट्स बनने से पहले रेड फ्लैग्स सामने आ सकते हैं।
डेटा पाइपलाइन्स के बारे में ट्रांसपेरेंट होने के लिए AI कंपनियों पर प्रेशर कम नहीं हो रहा है। EU AI एक्ट के लागू होने और US स्टेट-लेवल प्राइवेसी लॉज़ के एक्सपैंड होने के साथ, अगले 12 महीने शायद उन ऐप्स के लिए एक रीकनिंग फोर्स करेंगे जो यूजर डेटा के साथ साइलेंटली जेनरस रहे हैं। तब तक, हर चैटबॉट सेशन को पोस्टकार्ड की तरह ट्रीट करें, सील्ड लेटर की तरह नहीं।
