Vos conversations privées avec des chatbots IA pourraient ne pas être aussi privées que vous le pensez.
Des chercheurs ont découvert qu'un nombre important d'applications de chatbots IA populaires contiennent des traqueurs tiers intégrés qui transmettent des données utilisateur, y compris le contenu des discussions, à des entreprises comme Meta, TikTok et Google. Il ne s'agit pas d'une vulnérabilité théorique. Cela se produit dans des applications que des millions de personnes utilisent quotidiennement pour poser des questions, exprimer leurs frustrations, planifier leurs emplois du temps et, oui, discuter de jeux.
Traqueurs tiers dans les applications d'IA
Utilisez le code TRYHARD33 lors du paiement pour profiter de cette offre avant son expiration.
Profitez de 33% de réduction sur votre abonnement GAMES+
Ce que les traqueurs collectent réellement
Le problème concerne les kits de développement logiciel (SDK) que les développeurs d'applications intègrent dans leurs produits, souvent pour activer des fonctionnalités d'analyse, de publicité ou de connexion sociale. Ces SDK peuvent collecter silencieusement bien plus que ce que les développeurs ont l'intention de partager. Dans le cas de plusieurs applications de chatbots IA, des chercheurs en sécurité ont identifié que les données de conversation étaient transmises via ces traqueurs avant toute anonymisation significative.
Voici le fait : la plupart des utilisateurs supposent qu'une conversation avec un chatbot se déroule entre eux et l'application. La réalité est que le pipeline de données comprend souvent plusieurs arrêts en cours de route, et tous ne sont pas clairement divulgués dans une politique de confidentialité enfouie trois défilements plus bas dans la liste de l'App Store.
Meta a également fait des démarches récentes qui élargissent sa capacité légale à utiliser les données de messages privés pour l'entraînement de l'IA. Depuis début mai, Meta a désactivé le chiffrement de bout en bout par défaut sur les messages directs d'Instagram, un changement qui permet techniquement à l'entreprise de lire et de traiter le contenu des messages. Meta a déclaré qu'elle n'utilisait pas actuellement les messages privés pour entraîner ses modèles d'IA, mais le changement de politique lui donne le cadre juridique pour le faire à l'avenir. Cette distinction est importante.
Avant et après les attentes en matière de confidentialité des chatbots
Il y a un an, l'hypothèse générale était que les applications de chatbots IA fonctionnaient dans un relatif isolement. Vous tapiez quelque chose, le modèle répondait, et la conversation restait sur la plateforme. Le modèle économique était basé sur les abonnements ou la publicité. Assez simple.
Cette image a considérablement évolué. Alors que les applications d'IA rivalisent pour attirer les utilisateurs et les revenus publicitaires, beaucoup ont intégré la même infrastructure publicitaire qui alimente les plateformes de médias sociaux. Le résultat est qu'une application de chatbot peut désormais fonctionner comme un outil de collecte de données pour des annonceurs tiers, même si ce n'était jamais le principal argument de vente auprès des utilisateurs.
Ce que la plupart des joueurs manquent dans cette conversation, c'est que le risque ne se limite pas aux messages embarrassants qui fuient. Il s'agit de profilage comportemental. Si un traqueur sait que vous demandez régulièrement à une IA de l'aide pour gérer l'anxiété, rechercher des symptômes médicaux ou résoudre des problèmes relationnels, cette information a une valeur commerciale réelle, et potentiellement des conséquences réelles si elle tombe entre de mauvaises mains.
Pourquoi cela est plus important pour les joueurs et les utilisateurs de web3
Les joueurs et les utilisateurs de web3 sont sans doute plus exposés ici que la personne moyenne. Les outils d'IA sont devenus véritablement utiles pour le gaming, qu'il s'agisse de demander aux chatbots des conseils sur les builds et des stratégies, de les utiliser pour rechercher la lore des jeux ou d'obtenir de l'aide pour la modération communautaire. De nombreux joueurs discutent également des détails de leur compte, des adresses de portefeuille et des identifiants de plateforme lors de sessions de chatbot sans y réfléchir à deux fois.
L'essentiel ici est de comprendre que l'interface du chatbot est une façade, pas un coffre-fort. Tout ce qui est tapé dans une application tierce est soumis aux pratiques de données de cette application, et ces pratiques sont souvent façonnées par les SDK et les réseaux publicitaires qui fonctionnent en arrière-plan.
Pour avoir un aperçu de la manière dont les pratiques de données varient entre les plateformes et les outils de gaming, notre section guides de gaming couvre les sujets de sécurité des plateformes et de protection des comptes qui sont de plus en plus pertinents à mesure que les outils d'IA font partie de la boîte à outils de gaming quotidienne.
Ce qui est réellement fait à ce sujet
Les régulateurs de l'UE ont été les plus agressifs pour réagir. En vertu du RGPD, les entreprises sont tenues de divulguer les accords de partage de données et d'obtenir un consentement explicite. Plusieurs développeurs d'applications d'IA ont fait l'objet d'enquêtes concernant leur utilisation de SDK, bien que l'application de la loi soit lente par rapport à la vitesse à laquelle les applications se propagent.
Aux États-Unis, il n'existe pas de cadre fédéral équivalent, ce qui signifie que la charge incombe aux utilisateurs individuels de lire les politiques de confidentialité et de faire des choix éclairés. C'est une barre haute lorsque la plupart des politiques sont délibérément opaques.
Les magasins d'applications ont commencé à renforcer leurs exigences en matière de divulgation des données, Apple et Google ayant mis à jour leurs normes d'étiquetage nutritionnel de la confidentialité pour exiger des déclarations plus spécifiques sur le partage de données par des tiers. La question de savoir si les développeurs auto-déclarent avec précision reste une question distincte.
Pour ceux qui cherchent à rester informés sur les outils et les plateformes qui respectent leur part du marché, consulter nos critiques de jeux et notre couverture des logiciels adjacents au gaming peut révéler des signaux d'alarme avant qu'ils ne deviennent des incidents de données personnelles.
La pression sur les entreprises d'IA pour qu'elles soient transparentes sur les pipelines de données ne va pas disparaître. Avec l'entrée en vigueur progressive de l'AI Act de l'UE et l'expansion des lois sur la confidentialité au niveau des États américains, les 12 prochains mois entraîneront probablement un règlement de comptes pour les applications qui ont été généreuses en matière de données utilisateur en toute discrétion. D'ici là, traitez chaque session de chatbot comme une carte postale, pas comme une lettre scellée.
