Roblox telah meluncurkan sistem moderasi obrolan bertenaga AI yang bertujuan untuk meningkatkan komunikasi di platform dengan secara otomatis menulis ulang pesan yang berisi bahasa tidak pantas. Alih-alih hanya memblokir kata-kata yang menyinggung atau menggantinya dengan simbol seperti "#####", sistem ini mempertahankan makna pesan asli sambil mengganti kata-kata kasar dengan pilihan kata yang lebih netral.
Saat peluncuran, fitur ini terutama menargetkan kata-kata kasar dalam obrolan. Misalnya, pesan seperti "Hurry tf up!" akan muncul kepada pengguna lain sebagai "Hurry up!". Pendekatan ini memungkinkan percakapan berlanjut tanpa kebingungan atau frustrasi yang sering disebabkan oleh pesan yang diblokir sepenuhnya. Roblox menggambarkan sistem ini sebagai alat untuk memandu perilaku pengguna daripada memberlakukan penghentian percakapan secara paksa.
Cara Kerja Sistem AI
Alat moderasi AI memantau pesan secara real-time dan mengidentifikasi kata atau frasa yang dibatasi. Setelah terdeteksi, sistem menghasilkan versi yang diformulasikan ulang yang mempertahankan maksud pesan asli sambil mematuhi pedoman platform. Sistem ini dirancang untuk meniru pola obrolan alami, memastikan bahwa pesan yang diformulasikan ulang terasa konsisten dengan percakapan pengguna normal.
Roblox membandingkan metode ini dengan setir daripada rambu berhenti. Pengguna diberi tahu ketika pesan telah diformulasikan ulang, membantu menjaga kesopanan tanpa mengganggu alur diskusi. Platform menekankan bahwa sistem ini masih dalam pengembangan dan akan menjadi lebih halus seiring waktu, meningkat dalam kemampuannya untuk mempertahankan nada dan konteks.
Dampak pada Akurasi Moderasi
Pengujian awal sistem moderasi obrolan AI menunjukkan peningkatan signifikan dalam akurasi moderasi secara keseluruhan. Roblox melaporkan bahwa sistem ini mengurangi upaya yang terlewat untuk berbagi informasi sensitif, seperti nomor telepon atau pegangan media sosial, sebanyak dua puluh kali lipat. Ini menunjukkan bahwa moderasi yang dibantu AI dapat meningkatkan kemampuan platform untuk mengidentifikasi dan mengelola konten yang dibatasi secara efektif.
Dengan berfokus pada pola bahasa yang umum digunakan dalam obrolan sehari-hari, sistem ini menyeimbangkan penegakan dengan pengalaman pengguna. Alih-alih menghapus pesan sepenuhnya, sistem ini memungkinkan pengguna untuk terus berinteraksi sambil menjaga percakapan selaras dengan standar komunitas.
Rencana Masa Depan untuk Obrolan AI di Roblox
Roblox berencana untuk memperluas kemampuan sistem moderasi AI-nya di luar kata-kata kasar. Perusahaan membayangkan sebuah alat yang tidak hanya menulis ulang bahasa yang tidak pantas tetapi juga memberikan lebih banyak konteks ketika pesan dimodifikasi. Seiring waktu, AI akan menjadi lebih akurat dalam mendeteksi nada dan maksud yang bernuansa, mirip dengan kemajuan yang terlihat pada alat terjemahan AI.
Peluncuran fitur ini mencerminkan tren yang lebih luas di platform game online menuju moderasi yang dibantu AI, di mana komunikasi tetap terbuka tetapi dipandu untuk mencegah pelecehan atau interaksi berbahaya.
Sumber: PocketGamer
Pastikan untuk memeriksa artikel kami tentang game terbaik untuk dimainkan di tahun 2026:
Game Paling Dinanti Tahun 2026
Game Nintendo Switch Terbaik untuk Tahun 2026
Game First-Person Shooter Terbaik untuk Tahun 2026
Game Indie PlayStation Terbaik untuk Tahun 2026
Game Multiplayer Terbaik untuk Tahun 2026
Game Paling Dinanti Tahun 2026
Rilis Game Teratas untuk Januari 2026
Pertanyaan yang Sering Diajukan (FAQ)
Apa yang dilakukan sistem obrolan AI Roblox?
Sistem obrolan AI Roblox secara otomatis mendeteksi bahasa yang tidak pantas dalam pesan dan menuliskannya kembali untuk menjaga kesopanan sambil mempertahankan makna asli.
Jenis pesan apa yang ditargetkan oleh sistem?
Saat peluncuran, sistem ini terutama menargetkan kata-kata kasar. Seiring waktu, diharapkan dapat menangani kasus yang lebih kompleks, termasuk informasi sensitif dan bahasa yang bernuansa.
Bagaimana moderasi AI memengaruhi alur obrolan?
Alih-alih memblokir pesan sepenuhnya, sistem mengganti kata-kata yang dibatasi dengan alternatif netral. Ini membuat percakapan dapat dipahami dan tidak terputus.
Apakah pengguna akan tahu kapan pesan diformulasikan ulang?
Ya, pengguna diberi tahu ketika pesan telah dimodifikasi. Ini membantu menjaga transparansi sambil menjaga lingkungan obrolan tetap hormat.
Apakah sistem ini masih ditingkatkan?
Ya. Roblox telah menyatakan bahwa AI akan terus belajar dan meningkat, menjadi lebih akurat dalam mempertahankan nada, konteks, dan alur percakapan seiring waktu.
Apakah AI meningkatkan deteksi konten berisiko?
Pengujian awal menunjukkan bahwa sistem ini mengurangi upaya yang terlewat untuk berbagi informasi pribadi atau sensitif sebanyak dua puluh kali lipat, meningkatkan akurasi moderasi secara keseluruhan.
