Uw privégesprekken met AI-chatbots zijn mogelijk niet zo privé als u denkt.
Onderzoekers hebben ontdekt dat een aanzienlijk aantal populaire AI-chatbot-apps ingebedde trackers van derden bevatten die gebruikersgegevens, waaronder chatinhoud, verzenden naar bedrijven als Meta, TikTok en Google. Dit is geen theoretische kwetsbaarheid. Het gebeurt in apps die miljoenen mensen dagelijks gebruiken om vragen te stellen, frustraties te uiten, hun schema's te plannen en ja, games te bespreken.
Trackers van derden in AI-apps
Gebruik code TRYHARD33 bij het afrekenen om deze aanbieding te verzilveren voordat de code verloopt.
Ontvang 33% korting op je GAMES+ abonnement
Wat de trackers daadwerkelijk verzamelen
Het probleem draait om software development kits (SDK's) die app-ontwikkelaars in hun producten bundelen, vaak om analyses, advertenties of functies voor sociaal inloggen mogelijk te maken. Deze SDK's kunnen stilletjes veel meer verzamelen dan ontwikkelaars van plan zijn te delen. In het geval van verschillende AI-chatbot-apps identificeerden beveiligingsonderzoekers dat gespreksgegevens via deze trackers werden doorgestuurd voordat er enige zinvolle anonimisering plaatsvond.
Het punt is dit: de meeste gebruikers gaan ervan uit dat een chatbotgesprek tussen hen en de app is. De realiteit is dat de datapijplijn vaak verschillende tussenstops heeft, en niet al deze stops worden duidelijk vermeld in een privacybeleid dat drie scrolls diep begraven ligt in de app store-vermelding.
Meta heeft onlangs ook stappen ondernomen die de wettelijke mogelijkheid om privéberichten te gebruiken voor AI-trainingsdoeleinden uitbreiden. Vanaf begin mei heeft Meta de standaard end-to-end-encryptie op Instagram-direct messages verwijderd, een wijziging die het bedrijf technisch gezien in staat stelt de inhoud van berichten te lezen en te verwerken. Meta heeft verklaard dat het momenteel geen privéberichten gebruikt om zijn AI-modellen te trainen, maar de beleidswijziging geeft het wel het wettelijke kader om dit in de toekomst te doen. Dat onderscheid is belangrijk.
De voor en na van verwachtingen rond chatbot-privacy
Een jaar geleden was de algemene aanname dat AI-chatbot-apps in relatieve isolatie opereerden. Je typte iets in, het model reageerde en het gesprek bleef op het platform. Het verdienmodel waren abonnementen of advertenties. Simpel genoeg.
Dat beeld is aanzienlijk verschoven. Nu AI-apps concurreren om gebruikers en advertentie-inkomsten, hebben velen dezelfde ad-tech-infrastructuur geïntegreerd die sociale mediaplatforms aandrijft. Het resultaat is dat een chatbot-app nu kan functioneren als een datacollectietool voor adverteerders van derden, zelfs als dat nooit de primaire pitch aan gebruikers was.
Wat de meeste gamers missen in dit gesprek is dat het risico niet alleen gaat om gênante berichten die uitlekken. Het gaat om gedragsprofielering. Als een tracker weet dat je regelmatig een AI vraagt om hulp bij het omgaan met angst, het onderzoeken van medische symptomen of het navigeren door relatieproblemen, dan heeft die informatie een reële commerciële waarde, en potentieel reële gevolgen als het in verkeerde handen valt.
Waarom dit meer impact heeft op gamers en web3-gebruikers
Gamers en web3-gebruikers zijn hier waarschijnlijk meer aan blootgesteld dan de gemiddelde persoon. AI-tools zijn echt nuttig geworden voor gaming, van het vragen van chatbots om advies over builds en strategiehulp tot het gebruiken ervan voor in-game lore-onderzoek en hulp bij communitymoderatie. Veel spelers bespreken ook accountgegevens, wallet-adressen en platformreferenties in chatbotgesprekken zonder erbij stil te staan.
Het sleutelwoord hier is begrijpen dat de chatbot-interface een front-end is, geen kluis. Alles wat in een app van derden wordt getypt, is onderworpen aan de gegevenspraktijken van die app, en die praktijken worden vaak gevormd door de SDK's en advertentienetwerken die eronder draaien.
Voor context over hoe gegevenspraktijken variëren tussen gamingplatforms en tools, behandelt onze sectie gaminggidsen onderwerpen over platformbeveiliging en accountveiligheid die steeds relevanter worden naarmate AI-tools deel gaan uitmaken van de dagelijkse gaming-toolkit.
Wat wordt hier eigenlijk aan gedaan?
Regelgevers in de EU zijn het meest agressief in hun tegenwerking. Onder de AVG zijn bedrijven verplicht om gegevensdelingsafspraken bekend te maken en expliciete toestemming te verkrijgen. Verschillende AI-app-ontwikkelaars hebben te maken gehad met onderzoeken naar hun SDK-gebruik, hoewel de handhaving traag is geweest in verhouding tot hoe snel de apps zich verspreiden.
In de VS is er geen equivalent federaal kader, wat betekent dat de last bij individuele gebruikers ligt om privacybeleid te lezen en geïnformeerde keuzes te maken. Dat is een hoge drempel wanneer de meeste beleidsregels opzettelijk ondoorzichtig zijn.
Appstores zijn begonnen met het aanscherpen van hun vereisten voor gegevensdisclosure, waarbij zowel Apple als Google hun standaarden voor privacy-voedingslabels hebben bijgewerkt om specifiekere verklaringen over gegevensdeling met derden te vereisen. Of ontwikkelaars accuraat zelfrapportage doen, blijft een aparte vraag.
Voor degenen die op de hoogte willen blijven van welke tools en platforms hun deel van de afspraak nakomen, kan het controleren van onze game reviews en dekking van gaming-gerelateerde software rode vlaggen signaleren voordat ze persoonlijke dataincidenten worden.
De druk op AI-bedrijven om transparant te zijn over datapijplijnen verdwijnt niet. Nu de EU AI Act van kracht begint te worden en privacywetten op staatsniveau in de VS uitbreiden, zullen de komende 12 maanden waarschijnlijk een afrekening forceren voor apps die stilzwijgend genereus zijn geweest met gebruikersgegevens. Tot die tijd, behandel elke chatbot-sessie als een ansichtkaart, niet als een verzegelde brief.
