AI 챗봇과의 개인적인 대화가 생각만큼 사적이지 않을 수 있습니다.
연구원들은 인기 있는 AI 챗봇 앱의 상당수가 사용자 데이터를 전송하는 내장형 제3자 추적기를 포함하고 있으며, 여기에는 Meta, TikTok, Google과 같은 회사로 전송되는 채팅 내용도 포함된다고 밝혔습니다. 이는 이론적인 취약점이 아닙니다. 수백만 명의 사람들이 매일 질문하고, 불만을 토로하고, 일정을 계획하고, 물론 게임에 대해 논의하는 데 사용하는 앱에서 실제로 발생하고 있는 일입니다.
AI 앱의 제3자 추적기
결제 시 코드 TRYHARD33을 입력하여 만료 전에 혜택을 받으세요.
GAMES+ 구독 33% 할인 혜택
추적기가 실제로 수집하는 것
이 문제는 앱 개발자가 분석, 광고 또는 소셜 로그인 기능을 활성화하기 위해 제품에 번들로 제공하는 소프트웨어 개발 키트(SDK)에 집중되어 있습니다. 이러한 SDK는 개발자가 공유하려는 것보다 훨씬 더 많은 것을 조용히 수집할 수 있습니다. 여러 AI 챗봇 앱의 경우, 보안 연구원들은 대화 데이터가 의미 있는 익명화 전에 이러한 추적기를 통해 전달되고 있음을 확인했습니다.
핵심은 대부분의 겜 유저들이 챗봇 대화가 자신과 앱 간의 것이라고 가정한다는 것입니다. 현실은 데이터 파이프라인이 종종 여러 단계를 거치며, 그중 일부는 앱 스토어 목록에서 세 번 스크롤해야 나오는 개인정보처리방침에 명확하게 공개되지 않는다는 것입니다.
Meta는 또한 최근 AI 학습 목적으로 개인 메시지 데이터를 사용할 수 있는 법적 능력을 확장하는 움직임을 보였습니다. 5월 초, Meta는 인스타그램 다이렉트 메시지의 기본 종단 간 암호화를 비활성화했습니다. 이는 기술적으로 회사가 메시지 내용을 읽고 처리할 수 있도록 허용하는 변경 사항입니다. Meta는 현재 개인 메시지를 AI 모델 학습에 사용하고 있지 않다고 밝혔지만, 정책 변경으로 인해 향후 그렇게 할 수 있는 법적 프레임워크를 갖추게 되었습니다. 그 차이가 중요합니다.
챗봇 개인정보 보호 기대치의 이전과 이후
1년 전만 해도 AI 챗봇 앱은 상대적으로 독립적으로 작동한다는 것이 일반적인 가정이었습니다. 사용자가 무언가를 입력하면 모델이 응답하고 대화는 플랫폼에 머물렀습니다. 비즈니스 모델은 구독 또는 광고였습니다. 간단했죠.
그 그림은 상당히 바뀌었습니다. AI 앱들이 유저와 광고 수익을 놓고 경쟁하면서 많은 앱들이 소셜 미디어 플랫폼을 구동하는 것과 동일한 광고 기술 인프라를 통합했습니다. 그 결과, 챗봇 앱은 사용자에게 처음부터 그렇게 홍보되지 않았더라도 제3자 광고주를 위한 데이터 수집 도구로 기능할 수 있게 되었습니다.
이 대화에서 대부분의 게이머들이 놓치는 것은 위험이 단순히 당황스러운 메시지가 유출되는 것에 국한되지 않는다는 것입니다. 그것은 행동 프로파일링에 관한 것입니다. 추적기가 사용자가 불안 관리, 의학적 증상 연구 또는 관계 문제 해결을 위해 AI에게 정기적으로 도움을 요청한다는 것을 알게 된다면, 그 정보는 실제 상업적 가치를 가지며 잘못된 손에 들어갈 경우 잠재적으로 실제 결과를 초래할 수 있습니다.
게이머와 웹3 유저에게 더 중요한 이유
게이머와 웹3 유저는 아마도 일반인보다 더 많이 노출될 수 있습니다. AI 도구는 빌드 조언과 전략 도움을 위해 챗봇에게 질문하는 것부터 게임 내 로어 연구 및 커뮤니티 관리 지원에 이르기까지 게임에 실제로 유용해졌습니다. 많은 플레이어들은 계정 세부 정보, 지갑 주소 및 플랫폼 자격 증명을 챗봇 세션에서 두 번 생각하지 않고 논의하기도 합니다.
여기서 핵심은 챗봇 인터페이스가 금고가 아니라 프론트 엔드라는 것을 이해하는 것입니다. 제3자 앱에 입력되는 모든 것은 해당 앱의 데이터 관행에 따라 달라지며, 이러한 관행은 종종 아래에서 실행되는 SDK 및 광고 네트워크에 의해 형성됩니다.
게임 플랫폼 및 도구 전반에 걸쳐 데이터 관행이 어떻게 다른지에 대한 맥락을 위해, 저희의 게임 가이드 섹션에서는 AI 도구가 일상적인 게임 도구 키트의 일부가 됨에 따라 점점 더 관련성이 높아지는 플랫폼 보안 및 계정 안전 주제를 다룹니다.
실제로 어떤 조치가 취해지고 있는가
EU의 규제 당국이 가장 적극적으로 반격하고 있습니다. GDPR에 따라 기업은 데이터 공유 계약을 공개하고 명시적인 동의를 얻어야 합니다. 여러 AI 앱 개발자가 SDK 사용에 대해 조사를 받았지만, 앱 확산 속도에 비해 집행은 느렸습니다.
미국에는 이에 상응하는 연방 프레임워크가 없으므로, 개인정보처리방침을 읽고 정보에 입각한 선택을 하는 부담은 개별 사용자에게 달려 있습니다. 대부분의 정책이 의도적으로 불투명하다는 점을 고려하면 이는 높은 기준입니다.
앱 스토어는 데이터 공개 요구 사항을 강화하기 시작했으며, Apple과 Google 모두 제3자 데이터 공유에 대한 더 구체적인 선언을 요구하도록 개인정보 보호 영양 라벨 표준을 업데이트했습니다. 개발자가 정확하게 자체 보고하는지는 별개의 문제입니다.
어떤 도구와 플랫폼이 약속을 지키고 있는지 파악하려는 사람들을 위해, 저희의 게임 리뷰 및 게임 관련 소프트웨어 보도를 확인하면 개인 데이터 사고가 되기 전에 위험 신호를 감지할 수 있습니다.
데이터 파이프라인에 대해 투명하게 공개하도록 AI 회사에 대한 압력은 사라지지 않을 것입니다. EU AI법이 발효되기 시작하고 미국 주 차원의 개인정보 보호법이 확대됨에 따라, 향후 12개월 동안 사용자 데이터를 조용히 많이 공유해 온 앱들은 재평가를 받게 될 가능성이 높습니다. 그때까지는 모든 챗봇 세션을 밀봉된 편지가 아닌 엽서처럼 대하십시오.
