Roblox ने एक AI-powered chat moderation टूल पेश किया है जो अनुचित भाषा वाले संदेशों को ब्लॉक करने के बजाय उन्हें रीराइट (rewrite) कर देता है। यह सिस्टम अपशब्दों और प्रतिबंधित शब्दों को बेहतर विकल्पों से बदल देता है, जिससे मूल संदेश का अर्थ बरकरार रहता है। इससे बातचीत बिना किसी रुकावट के चलती रहती है और "#####" जैसे सिंबल से होने वाला कन्फ्यूजन भी खत्म हो जाता है।
यह फीचर फिलहाल चैट मैसेज से अपशब्दों को फिल्टर करने पर फोकस करता है। उदाहरण के लिए, "Hurry tf up!" जैसा कोई फ्रेज ऑटोमैटिकली रीराइट होकर दूसरे प्लेयर्स के लिए "Hurry up!" के रूप में दिखाई देगा। यह तरीका बातचीत को जारी रखता है और यूजर्स को पूरी तरह से ब्लॉक किए बिना उन्हें बेहतर भाषा इस्तेमाल करने के लिए प्रोत्साहित करता है।
Real-time message rewriting
AI मैसेज भेजे जाते ही उन्हें स्कैन करता है, प्रतिबंधित भाषा को फ्लैग करता है और ऐसे विकल्प तैयार करता है जो यूजर के मूल अर्थ को बनाए रखते हैं। रीराइट किए गए मैसेज नेचुरल लगते हैं और आम बातचीत के पैटर्न से मेल खाते हैं, ताकि वे एडिट किए हुए न लगें। जब किसी यूजर का मैसेज रीफ्रेज किया जाता है, तो उन्हें एक नोटिफिकेशन मिलता है, जिससे वे बदलाव के प्रति जागरूक रहते हैं और चैट एनवायरनमेंट भी सम्मानजनक बना रहता है।
प्लेटफॉर्म इस अप्रोच को एक 'गाइडेंस' के रूप में देखता है, न कि हार्ड ब्लॉक के रूप में। यूजर्स को बोलने से रोकने के बजाय, यह सिस्टम उनके शब्दों को दूसरों के लिए सही तरीके से पेश करता है। Roblox मानता है कि AI अभी भी सीख रहा है और समय के साथ यह टोन, कॉन्टेक्स्ट और बातचीत की बारीकियों को और बेहतर तरीके से हैंडल करेगा।
Detection improvements for sensitive content
टेस्टिंग डेटा से पता चलता है कि AI moderation सिस्टम ने प्रतिबंधित जानकारी शेयर करने की कोशिशों को पकड़ने में काफी सुधार किया है। प्लेटफॉर्म ने देखा कि यूजर्स द्वारा फोन नंबर, सोशल मीडिया हैंडल या अन्य पर्सनल डिटेल्स शेयर करने की कोशिशों के मामलों में बीस गुना (twentyfold) कमी आई है। यह दर्शाता है कि AI उन पैटर्न को पहचान सकता है जिन्हें ट्रेडिशनल फिल्टर अक्सर मिस कर देते हैं।
इस सिस्टम का उद्देश्य एनफोर्समेंट और यूजेबिलिटी के बीच संतुलन बनाना है। मैसेज को पूरी तरह डिलीट करने के बजाय, यह प्लेयर्स को चैट जारी रखने देता है और साथ ही यह भी सुनिश्चित करता है कि कंटेंट कम्युनिटी गाइडलाइन्स के अनुरूप हो।
Expanding beyond profanity filtering
Roblox इस AI की क्षमताओं को केवल अपशब्दों से आगे बढ़ाने की योजना बना रहा है। भविष्य के अपडेट्स में, मैसेज मॉडिफाई होने पर स्पष्ट स्पष्टीकरण दिए जाएंगे और सिस्टम की टोन और इंटेंट के सूक्ष्म अंतर को समझने की क्षमता में सुधार होगा। लक्ष्य इसे आधुनिक AI ट्रांसलेशन टूल्स के स्तर तक ले जाना है, जो जटिल भाषाई बदलावों के बावजूद अर्थ को सुरक्षित रख सकते हैं।
यह रोलआउट ऑनलाइन गेमिंग प्लेटफॉर्म्स पर चल रहे उस बड़े बदलाव का हिस्सा है, जहाँ AI-assisted मॉडरेशन के जरिए कम्युनिकेशन चैनल्स को खुला रखा जा रहा है और साथ ही उत्पीड़न व हानिकारक व्यवहार को कम किया जा रहा है।
2026 में खेलने के लिए टॉप गेम्स के बारे में हमारे आर्टिकल्स जरूर देखें:
Best Nintendo Switch Games for 2026
Best First-Person Shooters for 2026
Best PlayStation Indie Games for 2026
Best Multiplayer Games for 2026
Most Anticipated Games of 2026
Top Game Releases for January 2026
Frequently Asked Questions (FAQs)
Roblox का AI चैट सिस्टम क्या करता है?
AI चैट सिस्टम रियल-टाइम में अनुचित भाषा का पता लगाता है और उसे बेहतर विकल्पों के साथ रीराइट कर देता है, जिससे यूजर का मूल अर्थ सुरक्षित रहता है और बातचीत सम्मानजनक बनी रहती है।
यह सिस्टम किस तरह के मैसेज को टारगेट करता है?
फिलहाल, यह सिस्टम मुख्य रूप से अपशब्दों पर काम करता है। भविष्य के अपडेट्स में इसका दायरा बढ़ाया जाएगा ताकि पर्सनल जानकारी शेयर करने की कोशिशों और भाषा से जुड़ी जटिल स्थितियों को भी कवर किया जा सके।
AI मॉडरेशन चैट फ्लो को कैसे प्रभावित करता है?
मैसेज को पूरी तरह ब्लॉक करने के बजाय, यह सिस्टम प्रतिबंधित शब्दों को न्यूट्रल शब्दों से बदल देता है। इससे बातचीत पढ़ने योग्य बनी रहती है और उसमें कोई रुकावट नहीं आती।
क्या यूजर्स को पता चलेगा कि मैसेज रीफ्रेज हुआ है?
हाँ। जब किसी यूजर का मैसेज मॉडिफाई किया जाता है, तो उन्हें नोटिफिकेशन मिलता है, जिससे पारदर्शिता बनी रहती है और चैट एनवायरनमेंट भी सही रहता है।
क्या इस सिस्टम में अभी भी सुधार किया जा रहा है?
हाँ। AI लगातार सीख रहा है और जैसे-जैसे यह डेवलप होगा, यह टोन, कॉन्टेक्स्ट और नेचुरल बातचीत के पैटर्न को समझने में और बेहतर होता जाएगा।
क्या AI संवेदनशील कंटेंट की पहचान में सुधार करता है?
शुरुआती टेस्टिंग से पता चलता है कि सिस्टम ने संवेदनशील जानकारी शेयर करने की कोशिशों को पकड़ने में बीस गुना सुधार किया है, जो मॉडरेशन एक्यूरेसी में एक बड़ी उपलब्धि है।
