AIチャットボットとのプライベートな会話は、思っているほどプライベートではないかもしれません。
調査によると、人気のAIチャットボットアプリの相当数が、チャットの内容を含むユーザーデータをMeta、TikTok、Googleなどの企業に送信するサードパーティトラッカーを埋め込んでいることが判明しました。これは理論上の脆弱性ではありません。これは、何百万人もの人々が質問をしたり、不満を吐き出したり、スケジュールを計画したり、そしてもちろん、ゲームについて話し合ったりするために日々使用しているアプリで実際に起こっています。
AIアプリにおけるサードパーティトラッカー
チェックアウト時にコード「TRYHARD33」を入力して、有効期限内に特典をご利用ください。
GAMES+サブスクリプションが33% OFF
トラッカーが実際に収集しているもの
この問題は、アプリ開発者が分析、広告、またはソーシャルログイン機能を提供するために製品にバンドルするソフトウェア開発キット（SDK）を中心に展開しています。これらのSDKは、開発者が共有する意図よりもはるかに多くの情報を静かに収集する可能性があります。いくつかのAIチャットボットアプリの場合、セキュリティ研究者は、会話データが、意味のある匿名化が行われる前に、これらのトラッカーを通過していることを特定しました。
ここで重要なのは、ほとんどのプレイヤーは、チャットボットとの会話は自分とアプリの間で行われると考えていることです。しかし現実には、データパイプラインは途中でいくつかの停止地点を経由することが多く、そのすべてがアプリストアのリストに3回スクロールしないと見つからないプライバシーポリシーに明確に開示されているわけではありません。
Metaは最近、AIトレーニング目的でのプライベートメッセージデータの使用に関する法的能力を拡大する動きも行っています。5月上旬、MetaはInstagramのダイレクトメッセージにおけるエンドツーエンド暗号化のデフォルト設定を解除しました。これは技術的には同社がメッセージの内容を読み取り、処理することを可能にする変更です。Metaは現在、プライベートメッセージをAIモデルのトレーニングに使用していないと述べていますが、このポリシー変更により、将来的にそのようにするための法的枠組みが与えられます。その区別は重要です。
チャットボットのプライバシーに関する期待の「以前」と「以後」
1年前、一般的な想定は、AIチャットボットアプリは比較的孤立して動作するというものでした。何かを入力すると、モデルが応答し、会話はプラットフォーム内に留まるというものです。ビジネスモデルはサブスクリプションまたは広告でした。非常にシンプルでした。
その状況は大きく変化しました。AIアプリはユーザーと広告収入を求めて競合するため、多くのアプリがソーシャルメディアプラットフォームを支えるのと同じ広告テクノロジーインフラストラクチャを統合しています。その結果、たとえそれがユーザーへの主なアピールポイントでなかったとしても、チャットボットアプリはサードパーティ広告主のためのデータ収集ツールとして機能する可能性があります。
この議論でほとんどのプレイヤーが見落としているのは、リスクは単に恥ずかしいメッセージが漏洩するということだけではないということです。それは行動プロファイリングに関するものです。トラッカーが、あなたが不安の管理、医学的症状の調査、または人間関係の問題の解決のためにAIに定期的に助けを求めていることを知っている場合、その情報は実際の商業的価値を持ち、誤った手に渡った場合には潜在的に現実の結果をもたらす可能性があります。
なぜこれがゲーマーとWeb3ユーザーにとってより重要なのか
ゲーマーとWeb3ユーザーは、平均的な人よりもこの点でよりさらされていると言えます。AIツールは、チャットボットにビルドのアドバイスや戦略のヘルプを求めたり、ゲーム内の伝承調査やコミュニティモデレーションの支援に使用したりするなど、ゲームにとって非常に役立つものになっています。多くのプレイヤーは、アカウントの詳細、ウォレットアドレス、プラットフォームの認証情報などを、何も考えずにチャットボットセッションで議論しています。
ここで重要なのは、チャットボットインターフェースはフロントエンドであり、金庫ではないことを理解することです。サードパーティアプリに入力されたものはすべて、そのアプリのデータ慣行の対象となり、それらの慣行は、下で動作しているSDKや広告ネットワークによってしばしば形成されます。
ゲームプラットフォームやツール間でデータ慣行がどのように異なるかについてのコンテキストについては、私たちのゲームガイドセクションでは、AIツールが日常的なゲームツールキットの一部となるにつれてますます関連性が高まっているプラットフォームのセキュリティとアカウントの安全性に関するトピックを扱っています。
実際には何が行われているのか
EUの規制当局は、最も積極的に反撃しています。GDPRの下では、企業はデータ共有契約を開示し、明示的な同意を得ることが義務付けられています。いくつかのAIアプリ開発者は、SDKの使用に関して調査に直面していますが、アプリの普及速度と比較すると、執行は遅れています。
米国には同等の連邦フレームワークがないため、プライバシーポリシーを読み、情報に基づいた選択を行うという負担は個々のユーザーにかかります。ほとんどのポリシーは意図的に不透明であるため、これは高いハードルです。
アプリストアはデータ開示要件を厳格化し始めており、AppleとGoogleの両方が、サードパーティのデータ共有に関するより具体的な宣言を要求するためにプライバシー栄養ラベルの基準を更新しています。開発者が正確に自己申告するかどうかは、別の問題です。
どのツールやプラットフォームが約束を守っているかについて情報を得たいと考えている人々のために、私たちのゲームレビューとゲーム関連ソフトウェアの報道をチェックすることで、個人データインシデントになる前に警告の兆候を明らかにすることができます。
データパイプラインに関する透明性をAI企業に求める圧力は、なくなりません。EUのAI法が施行され始め、米国の州レベルのプライバシー法が拡大するにつれて、今後12ヶ月間は、ユーザーデータを静かに惜しみなく提供してきたアプリにとって、再評価が迫られることになるでしょう。それまでの間、すべてのチャットボットセッションを、封印された手紙ではなく、絵葉書のように扱ってください。
