Ваши личные беседы с ИИ-чат-ботами могут быть не такими уж личными, как вы думаете.
Исследователи обнаружили, что значительное количество популярных приложений с ИИ-чат-ботами содержат встроенные сторонние трекеры, которые передают пользовательские данные, включая содержимое чатов, таким компаниям, как Meta, TikTok и Google. Это не теоретическая уязвимость. Это происходит в приложениях, которые миллионы людей ежедневно используют для задавания вопросов, изливания разочарований, планирования своего расписания и, да, обсуждения игр.
Сторонние трекеры в приложениях с ИИ
Используйте код TRYHARD33 при оформлении заказа, пока срок его действия не истек.
Скидка 33% на подписку GAMES+
Что на самом деле собирают трекеры
Проблема заключается в комплектах для разработки программного обеспечения (SDK), которые разработчики приложений включают в свои продукты, часто для обеспечения аналитики, рекламы или функций входа через социальные сети. Эти SDK могут незаметно собирать гораздо больше, чем разработчики намереваются передать. В случае с несколькими приложениями с ИИ-чат-ботами исследователи безопасности установили, что данные разговоров передавались через эти трекеры до какой-либо существенной анонимизации.
Дело в том, что большинство пользователей предполагают, что разговор с чат-ботом происходит только между ними и приложением. Реальность такова, что конвейер данных часто включает несколько остановок по пути, и не все из них четко раскрываются в политике конфиденциальности, зарытой на три прокрутки ниже в описании приложения в магазине.
Meta также предприняла недавние шаги, расширяющие ее юридические возможности использования данных личных сообщений для обучения ИИ. С начала мая Meta отключила шифрование по умолчанию для прямых сообщений в Instagram, что технически позволяет компании читать и обрабатывать содержимое сообщений. Meta заявила, что в настоящее время не использует личные сообщения для обучения своих моделей ИИ, но изменение политики дает ей юридическую основу для этого в будущем. Эта разница имеет значение.
Ожидания конфиденциальности чат-ботов: до и после
Год назад общепринятым мнением было то, что приложения с ИИ-чат-ботами работали в относительной изоляции. Вы что-то вводили, модель отвечала, и разговор оставался на платформе. Бизнес-модель заключалась в подписках или рекламе. Все просто.
Эта картина значительно изменилась. Поскольку приложения с ИИ конкурируют за пользователей и доходы от рекламы, многие интегрировали ту же рекламную инфраструктуру, которая питает социальные сети. В результате приложение-чат-бот теперь может функционировать как инструмент сбора данных для сторонних рекламодателей, даже если это никогда не было основным предложением для пользователей.
Большинство игроков упускают из виду, что риск заключается не только в утечке неловких сообщений. Речь идет о поведенческом профилировании. Если трекер знает, что вы регулярно просите ИИ помочь справиться с тревогой, исследовать медицинские симптомы или решать проблемы в отношениях, эта информация имеет реальную коммерческую ценность и потенциально реальные последствия, если она попадет не в те руки.
Почему это важнее для геймеров и пользователей web3
Геймеры и пользователи web3, пожалуй, подвергаются большему риску, чем обычные люди. Инструменты ИИ стали действительно полезными для игр: от запросов к чат-ботам за советами по сборке и помощи в стратегии до использования их для исследования внутриигрового лора и помощи в модерации сообщества. Многие игроки также без колебаний обсуждают в чат-ботах детали учетных записей, адреса кошельков и учетные данные платформы.
Ключевым моментом здесь является понимание того, что интерфейс чат-бота — это фронтенд, а не хранилище. Все, что вводится в стороннее приложение, подпадает под действие правил обработки данных этого приложения, и эти правила часто формируются SDK и рекламными сетями, работающими под капотом.
Для контекста о том, как различаются практики обработки данных на игровых платформах и в инструментах, наш раздел игровых руководств охватывает темы безопасности платформ и защиты учетных записей, которые становятся все более актуальными по мере того, как инструменты ИИ становятся частью повседневного игрового инструментария.
Что на самом деле делается по этому поводу
Регуляторы в ЕС были наиболее активны в противодействии. В соответствии с GDPR компании обязаны раскрывать договоренности о передаче данных и получать явное согласие. Несколько разработчиков приложений с ИИ столкнулись с запросами относительно использования их SDK, хотя правоприменение было медленным по сравнению со скоростью распространения приложений.
В США нет эквивалентной федеральной структуры, что означает, что бремя ложится на отдельных пользователей, чтобы они читали политики конфиденциальности и делали осознанный выбор. Это высокая планка, когда большинство политик намеренно непрозрачны.
Магазины приложений начали ужесточать требования к раскрытию данных: как Apple, так и Google обновили свои стандарты «этикеток питания конфиденциальности», требуя более конкретных заявлений о передаче данных третьим сторонам. Остается открытым вопрос, насколько точно разработчики сообщают о себе.
Для тех, кто хочет быть в курсе того, какие инструменты и платформы выполняют свои обязательства, проверка наших обзоров игр и материалов о сопутствующем игровом программном обеспечении может выявить «красные флажки» до того, как они превратятся в инциденты с личными данными.
Давление на ИИ-компании с целью повышения прозрачности в отношении конвейеров данных не ослабевает. Поскольку Закон ЕС об ИИ начинает вступать в силу, а законы штатов США о конфиденциальности расширяются, следующие 12 месяцев, вероятно, заставят пересмотреть приложения, которые были щедры на пользовательские данные. А пока относитесь к каждой сессии с чат-ботом как к открытке, а не к запечатанному письму.
