Percakapan pribadi Anda dengan chatbot AI mungkin tidak sepribadi yang Anda kira.
Para peneliti telah menemukan bahwa sejumlah besar aplikasi chatbot AI populer berisi pelacak pihak ketiga yang tertanam yang mengirimkan data pengguna, termasuk konten obrolan, ke perusahaan seperti Meta, TikTok, dan Google. Ini bukan kerentanan teoretis. Ini terjadi pada aplikasi yang digunakan jutaan orang setiap hari untuk bertanya, melampiaskan kekesalan, merencanakan jadwal mereka, dan ya, mendiskusikan game.
Pelacak pihak ketiga di aplikasi AI
Gunakan kode TRYHARD33 saat checkout untuk menukarkan penawaran ini sebelum kedaluwarsa.
Dapatkan Diskon 33% untuk Langganan GAMES+
Apa yang sebenarnya dikumpulkan oleh pelacak
Masalah ini berpusat pada kit pengembangan perangkat lunak (SDK) yang dibundel oleh pengembang aplikasi ke dalam produk mereka, seringkali untuk mengaktifkan analitik, periklanan, atau fitur login sosial. SDK ini dapat secara diam-diam mengumpulkan lebih banyak daripada yang dimaksudkan oleh pengembang untuk dibagikan. Dalam kasus beberapa aplikasi chatbot AI, peneliti keamanan mengidentifikasi bahwa data percakapan diteruskan melalui pelacak ini sebelum ada anonimisasi yang berarti.
Begini masalahnya: sebagian besar pengguna berasumsi bahwa percakapan chatbot adalah antara mereka dan aplikasi. Kenyataannya adalah bahwa jalur data sering kali mencakup beberapa perhentian di sepanjang jalan, dan tidak semuanya diungkapkan dengan jelas dalam kebijakan privasi yang terkubur tiga gulungan di bawah daftar toko aplikasi.
Meta juga telah mengambil langkah baru-baru ini yang memperluas kemampuan hukumnya untuk menggunakan data pesan pribadi untuk tujuan pelatihan AI. Sejak awal Mei, Meta menghapus default enkripsi end-to-end pada pesan langsung Instagram, sebuah perubahan yang secara teknis memungkinkan perusahaan untuk membaca dan memproses konten pesan. Meta menyatakan bahwa saat ini tidak menggunakan pesan pribadi untuk melatih model AI-nya, tetapi perubahan kebijakan tersebut memberikannya kerangka hukum untuk melakukannya di masa depan. Perbedaan itu penting.
Sebelum dan sesudah ekspektasi privasi chatbot
Setahun yang lalu, asumsi umum adalah bahwa aplikasi chatbot AI beroperasi dalam isolasi relatif. Anda mengetikkan sesuatu, model merespons, dan percakapan tetap berada di platform. Model bisnisnya adalah langganan atau iklan. Cukup sederhana.
Gambaran itu telah bergeser secara signifikan. Saat aplikasi AI bersaing untuk mendapatkan pengguna dan pendapatan iklan, banyak yang telah mengintegrasikan infrastruktur ad-tech yang sama yang menggerakkan platform media sosial. Hasilnya adalah aplikasi chatbot sekarang dapat berfungsi sebagai alat pengumpul data untuk pengiklan pihak ketiga, bahkan jika itu tidak pernah menjadi tawaran utama kepada pengguna.
Apa yang paling dilewatkan oleh para pemain dalam percakapan ini adalah bahwa risikonya tidak hanya tentang pesan memalukan yang bocor. Ini tentang pemrofilan perilaku. Jika pelacak mengetahui bahwa Anda secara teratur meminta bantuan AI untuk mengelola kecemasan, meneliti gejala medis, atau menavigasi masalah hubungan, informasi tersebut memiliki nilai komersial yang nyata, dan berpotensi konsekuensi nyata jika jatuh ke tangan yang salah.
Mengapa ini lebih penting bagi gamer dan pengguna web3
Gamer dan pengguna web3 boleh dibilang lebih terpapar di sini daripada orang rata-rata. Alat AI telah menjadi sangat berguna untuk gaming, mulai dari meminta saran build dan bantuan strategi dari chatbot hingga menggunakannya untuk riset lore dalam game dan bantuan moderasi komunitas. Banyak pemain juga mendiskusikan detail akun, alamat dompet, dan kredensial platform dalam sesi chatbot tanpa berpikir dua kali.
Kuncinya di sini adalah memahami bahwa antarmuka chatbot adalah front end, bukan brankas. Apa pun yang diketik ke dalam aplikasi pihak ketiga tunduk pada praktik data aplikasi tersebut, dan praktik tersebut sering kali dibentuk oleh SDK dan jaringan iklan yang berjalan di bawahnya.
Untuk konteks tentang bagaimana praktik data bervariasi di berbagai platform dan alat game, bagian panduan game kami mencakup topik keamanan platform dan keselamatan akun yang semakin relevan seiring alat AI menjadi bagian dari perangkat game sehari-hari.
Apa yang sebenarnya dilakukan tentang hal itu
Regulator di UE adalah yang paling agresif dalam menolak. Di bawah GDPR, perusahaan diwajibkan untuk mengungkapkan pengaturan berbagi data dan mendapatkan persetujuan eksplisit. Beberapa pengembang aplikasi AI telah menghadapi penyelidikan atas penggunaan SDK mereka, meskipun penegakan hukum berjalan lambat dibandingkan dengan seberapa cepat aplikasi menyebar.
Di AS, tidak ada kerangka kerja federal yang setara, yang berarti beban jatuh pada pengguna individu untuk membaca kebijakan privasi dan membuat pilihan yang terinformasi. Itu adalah standar yang tinggi ketika sebagian besar kebijakan sengaja dibuat buram.
Toko aplikasi telah mulai memperketat persyaratan pengungkapan data mereka, dengan Apple dan Google memperbarui standar label nutrisi privasi mereka untuk memerlukan deklarasi yang lebih spesifik tentang berbagi data pihak ketiga. Apakah pengembang melaporkan secara akurat diri mereka sendiri tetap menjadi pertanyaan terpisah.
Bagi mereka yang ingin tetap mendapatkan informasi tentang alat dan platform mana yang memenuhi kewajiban mereka, memeriksa ulasan game dan liputan perangkat lunak yang berdekatan dengan game kami dapat mengungkap tanda bahaya sebelum menjadi insiden data pribadi.
Tekanan pada perusahaan AI untuk transparan tentang jalur data tidak akan hilang. Dengan Undang-Undang AI UE mulai berlaku dan undang-undang privasi tingkat negara bagian AS yang berkembang, 12 bulan ke depan kemungkinan akan memaksa perhitungan bagi aplikasi yang telah secara diam-diam bermurah hati dengan data pengguna. Sampai saat itu, perlakukan setiap sesi chatbot seperti kartu pos, bukan surat tertutup.
