Tus conversaciones privadas con chatbots de IA podrían no ser tan privadas como crees.
Investigadores han descubierto que un número significativo de aplicaciones populares de chatbots de IA contienen rastreadores de terceros integrados que transmiten datos de usuario, incluido el contenido de los chats, a empresas como Meta, TikTok y Google. Esto no es una vulnerabilidad teórica. Está sucediendo en aplicaciones que millones de personas usan a diario para hacer preguntas, desahogar frustraciones, planificar sus horarios y, sí, discutir sobre videojuegos.
Rastreadores de terceros en aplicaciones de IA
Usa el código TRYHARD33 al finalizar la compra para canjear esta oferta antes de que caduque.
Obtén 33% de descuento en tu suscripción a GAMES+
Qué están recopilando realmente los rastreadores
El problema se centra en los kits de desarrollo de software (SDK) que los desarrolladores de aplicaciones integran en sus productos, a menudo para habilitar funciones de análisis, publicidad o inicio de sesión social. Estos SDK pueden recopilar silenciosamente mucho más de lo que los desarrolladores pretenden compartir. En el caso de varias aplicaciones de chatbots de IA, los investigadores de seguridad identificaron que los datos de conversación se estaban transmitiendo a través de estos rastreadores antes de cualquier anonimización significativa.
La cuestión es la siguiente: la mayoría de los usuarios asumen que una conversación de chatbot es entre ellos y la aplicación. La realidad es que el flujo de datos a menudo incluye varias paradas en el camino, y no todas se divulgan claramente en una política de privacidad enterrada a tres scrolls de profundidad en la lista de la tienda de aplicaciones.
Meta también ha tomado medidas recientemente que amplían su capacidad legal para usar datos de mensajes privados para fines de entrenamiento de IA. A principios de mayo, Meta eliminó la configuración predeterminada de cifrado de extremo a extremo en los mensajes directos de Instagram, un cambio que técnicamente permite a la empresa leer y procesar el contenido de los mensajes. Meta ha declarado que actualmente no está utilizando mensajes privados para entrenar sus modelos de IA, pero el cambio de política le otorga el marco legal para hacerlo en el futuro. Esa distinción es importante.
El antes y el después de las expectativas de privacidad de los chatbots
Hace un año, la suposición general era que las aplicaciones de chatbots de IA operaban en relativo aislamiento. Escribías algo, el modelo respondía y la conversación permanecía en la plataforma. El modelo de negocio eran suscripciones o anuncios. Bastante simple.
Esa imagen ha cambiado considerablemente. A medida que las aplicaciones de IA compiten por usuarios e ingresos publicitarios, muchas han integrado la misma infraestructura de tecnología publicitaria que impulsa las plataformas de redes sociales. El resultado es que una aplicación de chatbot ahora puede funcionar como una herramienta de recopilación de datos para anunciantes de terceros, incluso si ese nunca fue el objetivo principal para los usuarios.
Lo que la mayoría de los jugadores pasan por alto en esta conversación es que el riesgo no se trata solo de que se filtren mensajes vergonzosos. Se trata de perfilado conductual. Si un rastreador sabe que le pides regularmente ayuda a una IA para manejar la ansiedad, investigar síntomas médicos o resolver problemas de relación, esa información tiene un valor comercial real y, potencialmente, consecuencias reales si termina en las manos equivocadas.
Por qué esto importa más para los jugadores y usuarios de web3
Los jugadores y usuarios de web3 están, argumentablemente, más expuestos aquí que la persona promedio. Las herramientas de IA se han vuelto genuinamente útiles para los videojuegos, desde pedirles a los chatbots consejos de construcción y ayuda estratégica hasta usarlas para investigar la historia del juego y asistencia en la moderación de la comunidad. Muchos jugadores también discuten detalles de cuentas, direcciones de billetera y credenciales de plataforma en sesiones de chatbot sin pensarlo dos veces.
La clave aquí es entender que la interfaz del chatbot es un front-end, no una bóveda. Cualquier cosa que se escriba en una aplicación de terceros está sujeta a las prácticas de datos de esa aplicación, y esas prácticas a menudo están moldeadas por los SDK y las redes publicitarias que se ejecutan debajo.
Para obtener contexto sobre cómo varían las prácticas de datos en las plataformas y herramientas de videojuegos, nuestra sección de guías de videojuegos cubre temas de seguridad de plataformas y protección de cuentas que son cada vez más relevantes a medida que las herramientas de IA se convierten en parte del conjunto de herramientas de juego cotidiano.
Qué se está haciendo al respecto
Los reguladores en la UE han sido los más agresivos al contraatacar. Bajo el GDPR, las empresas están obligadas a divulgar los acuerdos de intercambio de datos y obtener el consentimiento explícito. Varios desarrolladores de aplicaciones de IA se han enfrentado a investigaciones sobre el uso de sus SDK, aunque la aplicación ha sido lenta en comparación con la rapidez con la que se están propagando las aplicaciones.
En EE. UU., no existe un marco federal equivalente, lo que significa que la carga recae en los usuarios individuales para leer las políticas de privacidad y tomar decisiones informadas. Eso es un listón muy alto cuando la mayoría de las políticas son deliberadamente opacas.
Las tiendas de aplicaciones han comenzado a endurecer sus requisitos de divulgación de datos, y tanto Apple como Google han actualizado sus estándares de etiquetas nutricionales de privacidad para exigir declaraciones más específicas sobre el intercambio de datos de terceros. Si los desarrolladores se autoinforman con precisión sigue siendo una cuestión aparte.
Para aquellos que buscan mantenerse informados sobre qué herramientas y plataformas están cumpliendo su parte del trato, consultar nuestras reseñas de videojuegos y la cobertura de software adyacente a los videojuegos puede revelar señales de alerta antes de que se conviertan en incidentes de datos personales.
La presión sobre las empresas de IA para que sean transparentes sobre los flujos de datos no va a desaparecer. Con la entrada en vigor de la Ley de IA de la UE y la expansión de las leyes de privacidad a nivel estatal en EE. UU., los próximos 12 meses probablemente forzarán un ajuste de cuentas para las aplicaciones que han sido generosas en secreto con los datos de los usuarios. Hasta entonces, trata cada sesión de chatbot como una postal, no como una carta sellada.
