Các cuộc trò chuyện riêng tư của bạn với chatbot AI có thể không riêng tư như bạn nghĩ.
Các nhà nghiên cứu đã phát hiện ra rằng một số lượng đáng kể các ứng dụng chatbot AI phổ biến chứa các trình theo dõi của bên thứ ba được nhúng, truyền dữ liệu người dùng, bao gồm cả nội dung trò chuyện, cho các công ty như Meta, TikTok và Google. Đây không phải là một lỗ hổng lý thuyết. Điều này đang xảy ra trong các ứng dụng mà hàng triệu người sử dụng hàng ngày để đặt câu hỏi, trút giận, lên kế hoạch lịch trình và vâng, thảo luận về trò chơi.
Các trình theo dõi của bên thứ ba trong ứng dụng AI
Sử dụng mã TRYHARD33 khi thanh toán để nhận ưu đãi trước khi mã hết hạn.
Nhận ưu đãi 33% cho gói đăng ký GAMES+
Các trình theo dõi thực sự thu thập những gì
Vấn đề tập trung vào các bộ công cụ phát triển phần mềm (SDK) mà các nhà phát triển ứng dụng tích hợp vào sản phẩm của họ, thường để cho phép phân tích, quảng cáo hoặc tính năng đăng nhập mạng xã hội. Các SDK này có thể âm thầm thu thập nhiều hơn những gì nhà phát triển dự định chia sẻ. Trong trường hợp của một số ứng dụng chatbot AI, các nhà nghiên cứu bảo mật đã xác định rằng dữ liệu hội thoại đã được truyền qua các trình theo dõi này trước khi có bất kỳ quá trình ẩn danh có ý nghĩa nào.
Đây là vấn đề: hầu hết người dùng giả định rằng một cuộc trò chuyện chatbot là giữa họ và ứng dụng. Thực tế là đường ống dữ liệu thường bao gồm nhiều điểm dừng trên đường đi, và không phải tất cả chúng đều được tiết lộ rõ ràng trong chính sách bảo mật được chôn vùi ba lần cuộn trong danh sách cửa hàng ứng dụng.
Meta cũng đã có những động thái gần đây nhằm mở rộng khả năng pháp lý của mình để sử dụng dữ liệu tin nhắn riêng tư cho mục đích đào tạo AI. Kể từ đầu tháng 5, Meta đã gỡ bỏ mặc định mã hóa đầu cuối trên tin nhắn trực tiếp của Instagram, một thay đổi về mặt kỹ thuật cho phép công ty đọc và xử lý nội dung tin nhắn. Meta tuyên bố hiện tại không sử dụng tin nhắn riêng tư để đào tạo các mô hình AI của mình, nhưng sự thay đổi chính sách này mang lại cho họ khuôn khổ pháp lý để làm như vậy trong tương lai. Sự khác biệt đó rất quan trọng.
Trước và sau kỳ vọng về quyền riêng tư của chatbot
Một năm trước, giả định chung là các ứng dụng chatbot AI hoạt động tương đối độc lập. Bạn nhập một cái gì đó, mô hình phản hồi, và cuộc trò chuyện vẫn nằm trên nền tảng. Mô hình kinh doanh là đăng ký hoặc quảng cáo. Đơn giản vậy thôi.
Bức tranh đó đã thay đổi đáng kể. Khi các ứng dụng AI cạnh tranh để giành người dùng và doanh thu quảng cáo, nhiều ứng dụng đã tích hợp cơ sở hạ tầng công nghệ quảng cáo giống như các nền tảng mạng xã hội. Kết quả là một ứng dụng chatbot giờ đây có thể hoạt động như một công cụ thu thập dữ liệu cho các nhà quảng cáo bên thứ ba, ngay cả khi đó không bao giờ là mục tiêu chính được quảng cáo cho người dùng.
Điều mà hầu hết người chơi bỏ lỡ trong cuộc trò chuyện này là rủi ro không chỉ là những tin nhắn đáng xấu hổ bị rò rỉ. Đó là về việc lập hồ sơ hành vi. Nếu một trình theo dõi biết bạn thường xuyên yêu cầu AI giúp quản lý sự lo lắng, nghiên cứu các triệu chứng y tế hoặc giải quyết các vấn đề trong mối quan hệ, thông tin đó có giá trị thương mại thực sự và có thể có những hậu quả thực sự nếu nó rơi vào tay kẻ xấu.
Tại sao điều này lại quan trọng hơn đối với game thủ và người dùng web3
Game thủ và người dùng web3 có lẽ có nguy cơ bị phơi nhiễm cao hơn người bình thường. Các công cụ AI đã trở nên thực sự hữu ích cho việc chơi game, từ việc yêu cầu chatbot tư vấn về cách xây dựng và hỗ trợ chiến lược cho đến việc sử dụng chúng để nghiên cứu cốt truyện trong game và hỗ trợ kiểm duyệt cộng đồng. Nhiều người chơi cũng thảo luận về chi tiết tài khoản, địa chỉ ví và thông tin đăng nhập nền tảng trong các phiên chatbot mà không suy nghĩ kỹ.
Điểm mấu chốt ở đây là hiểu rằng giao diện chatbot là một giao diện người dùng, không phải là một kho lưu trữ. Bất cứ điều gì được nhập vào một ứng dụng của bên thứ ba đều tuân theo các quy trình dữ liệu của ứng dụng đó, và các quy trình đó thường được định hình bởi các SDK và mạng quảng cáo đang hoạt động bên dưới.
Để có bối cảnh về cách các quy trình dữ liệu khác nhau trên các nền tảng và công cụ chơi game, phần hướng dẫn chơi game của chúng tôi bao gồm các chủ đề về bảo mật nền tảng và an toàn tài khoản ngày càng trở nên liên quan khi các công cụ AI trở thành một phần của bộ công cụ chơi game hàng ngày.
Thực sự có những hành động nào đang được thực hiện về vấn đề này
Các cơ quan quản lý ở EU là những người tích cực nhất trong việc phản kháng. Theo GDPR, các công ty có nghĩa vụ tiết lộ các thỏa thuận chia sẻ dữ liệu và xin phép rõ ràng. Một số nhà phát triển ứng dụng AI đã phải đối mặt với các yêu cầu điều tra về việc sử dụng SDK của họ, mặc dù việc thực thi còn chậm so với tốc độ lan truyền của các ứng dụng.
Ở Hoa Kỳ, không có khuôn khổ liên bang tương đương, điều đó có nghĩa là gánh nặng thuộc về người dùng cá nhân trong việc đọc các chính sách bảo mật và đưa ra lựa chọn sáng suốt. Đó là một rào cản cao khi hầu hết các chính sách đều cố tình mập mờ.
Các cửa hàng ứng dụng đã bắt đầu thắt chặt các yêu cầu tiết lộ dữ liệu của họ, với cả Apple và Google cập nhật tiêu chuẩn nhãn dinh dưỡng quyền riêng tư của họ để yêu cầu khai báo cụ thể hơn về việc chia sẻ dữ liệu của bên thứ ba. Liệu các nhà phát triển có tự báo cáo chính xác hay không vẫn là một câu hỏi riêng.
Đối với những người muốn cập nhật thông tin về các công cụ và nền tảng nào đang thực hiện phần của họ, việc kiểm tra đánh giá game và phạm vi phủ sóng phần mềm liên quan đến game của chúng tôi có thể giúp phát hiện các dấu hiệu cảnh báo trước khi chúng trở thành sự cố dữ liệu cá nhân.
Áp lực buộc các công ty AI phải minh bạch về đường ống dữ liệu sẽ không biến mất. Với Đạo luật AI của EU bắt đầu có hiệu lực và các luật về quyền riêng tư cấp tiểu bang của Hoa Kỳ đang mở rộng, 12 tháng tới có thể sẽ buộc các ứng dụng đã "hào phóng" với dữ liệu người dùng một cách âm thầm phải đối mặt với sự xem xét. Cho đến lúc đó, hãy coi mỗi phiên trò chuyện chatbot như một bưu thiếp, không phải là một lá thư niêm phong.
