मजा, गेमप्ले आणि सभ्यतेसाठी चॅटचा पुनर्विचार

• संघ किंवा समुदाय एकत्र खेळणाऱ्या गेम्ससाठी नैसर्गिक, प्रवाही चॅट अत्यंत महत्त्वाची आहे. 
• अयोग्य भाषा ब्लॉक झाल्यामुळे ##### या चिन्हांच्या ओळी चॅटमध्ये गोंधळ निर्माण करू शकतात, समजण्यास अवघड होतात आणि गेमप्लेमध्ये व्यत्यय आणू शकतात.
• चॅट प्रवाही आणि आदरयुक्त ठेवण्यासाठी, आम्ही आमचे चॅट फिल्टर सुधारत आहोत आणि अपशब्दांना आमच्या मार्गदर्शक तत्त्वांनुसार असलेल्या शब्दांमध्ये पुनर्वाक्यबद्ध करत आहोत.
• अधिक नैसर्गिक चॅट अनुभवासाठी ##### कमी करण्याच्या आमच्या दीर्घकालीन मार्गावरील हा पहिला टप्पा आहे. सुरक्षित आणि सभ्य चॅटला पाठिंबा देण्यासाठी आम्ही शिकत, सुधारणा करत आणि आमची साधने विकसित करत राहू, ज्यात वापरकर्त्यांसाठी अतिरिक्त नियंत्रण देखील समाविष्ट असेल.

दररोज लाखो लोक Roblox वर एकत्र येतात आणि खेळतात, जिथे वापरकर्त्यांच्या अभिव्यक्तीसाठी आणि गेमप्ले समन्वयासाठी रिअल-टाइम संवाद महत्त्वाचा आहे. समस्याग्रस्त मजकूर (##### म्हणून वापरकर्त्यांना दिसतो) ब्लॉक करण्यासाठी AI फिल्टर वापरणे हे आमच्या सुरक्षा आणि सभ्यतेच्या वाढीच्या दृष्टिकोनातील नेहमीच केंद्रस्थानी राहिले आहे. हे हॅशमार्क रिअल-टाइममध्ये तयार होतात आणि वापरकर्त्यांना ते टाइप केलेले काहीही परवानगी नसल्यास ते समजण्यास मदत करतात. नक्कीच, जेव्हा वापरकर्ते वारंवार नियम मोडतात, तेव्हा त्यांच्या शब्दांना ### करण्यापेक्षा त्यांना त्याहूनही पुढील परिणाम भोगावे लागतील.

मे २०२५ मध्ये, आम्ही वापरकर्त्यांना आमच्या धोरणांबद्दल समजून घेण्यास मदत करण्यासाठी सक्रिय, रिअल-टाइम चेतावण्या सुरू केल्या. आता त्या टेक्स्ट आणि व्हॉइस चॅट दोन्हीसाठी सक्रिय आहेत. ही सूचना वापरकर्त्यांना ते नियम मोडल्यावर कळवतात, पुढच्या वेळी त्यांची भाषा पुन्हा विचारात घेण्यास सांगतात आणि त्यांना चांगले डिजिटल नागरिक बनण्यास मदत करतात. गेल्या वर्षीच्या प्रयोगांमध्ये, आम्ही पाहिले की इन-एक्सपीरियन्स टेक्स्ट चॅट सूचना आणि टाइम-आउट जारी केल्यामुळे फिल्टर केलेल्या चॅट संदेशांमध्ये 5% आणि दुरुपयोगाच्या तक्रारींमुळे होणाऱ्या परिणामांमध्ये 6% घट झाली.

आज, अनुभव-आतील मजकूर चॅट सभ्य ठेवण्यास मदत करण्यासाठी आम्ही एक अतिरिक्त वैशिष्ट्य जोडत आहोत: आम्ही अपशब्दांपासून सुरुवात करून संदेश आपोआप पुनर्वाक्यबद्ध करण्यासाठी AI चा वापर करत आहोत. या प्रणाली जशा वाढतील, तशा सभ्यतेसाठी एक सकारात्मक चक्र तयार करतात, जिथे रिअल-टाइम अभिप्राय वापरकर्त्यांना आमची समुदाय मानके शिकण्यास आणि स्वीकारण्यास मदत करतो. संदेश पाठवणाराच नव्हे तर सर्व वापरकर्ते Roblox वर कोणती भाषा परवानगी आहे ते पाहू शकतात (आणि पाठवणारा कोणती भाषा परवानगी नाही ते पाहतो). यामुळे नियम माहित नसलेल्या वापरकर्त्यांना अधिक अभिप्राय मिळतो आणि Roblox वर सुरक्षित, सभ्य आणि मजेदार संभाषणाला पाठबळ देण्यासाठी आमच्या फिल्टरिंग आणि रिअल-टाइम चेतावण्यांच्या पायाभूत सुविधांवर हे आधारित आहे. 

रिअल-टाइम चॅट पुनर्वाक्यरचना: थांबण्याच्या चिन्हांपासून मार्गदर्शनाकडे

अनेक वापरकर्त्यांसाठी, ##### चा सलग क्रम म्हणजे संभाषणाचा मृत शेवट असतो, ज्यात त्यांना आमच्या समुदायाच्या मानकांचे पालन करण्यासाठी त्यांची भाषा कशी पुन्हा विचारात घ्यावी याचे कोणतेही मार्गदर्शन मिळत नाही. यामुळे अनेकदा गोंधळ निर्माण होतो आणि खेळातील संघांसाठी सहकार्य करणे कठीण होते. कल्पना करा की एखादा व्यक्ती आपल्या मित्राला सांगण्याचा प्रयत्न करत आहे की त्याच्या मागे एक राक्षस आहे आणि त्याला इशारा देण्यासाठी काहीसं "सावधान! तुझ्या ahhh वर एक fkng राक्षस आहे!" असे लिहितो. मित्राला फक्त "###########" दिसते. हे फारसे उपयुक्त नाही. 

आजपासून, फिल्टर केलेला मजकूर Roblox वापरकर्त्यांना नैसर्गिक वाटेल अशा अधिक आदरयुक्त भाषेत अनुवादित केला जाईल. लाँचच्या वेळी, हे रिअल-टाइम पुनर्वाक्यप्रयोग फक्त अपशब्दांवर केंद्रित असेल. उदाहरणार्थ, "Hurry tf up!" हे "Hurry up!" असे होऊ शकते, जे ##### पेक्षा मूळ हेतूला खूपच अधिक जवळचे आहे. स्पष्ट सांगायचे झाल्यास, जेव्हा आम्ही आमच्या अपशब्द धोरणाचे उल्लंघन करणारा संदेश पुन्हा मांडतो—तेव्हाही ते उल्लंघनच असते आणि तेच नियम लागू होतात. चॅटमध्ये अपशब्द वापरण्याचा प्रयत्न सुरूच ठेवणाऱ्या वापरकर्त्याला आमच्या धोरणाचे वारंवार उल्लंघन केल्याबद्दल तेच परिणाम भोगावे लागतील. 

या प्रणालीला स्टॉप साईनपेक्षा स्टीयरिंग व्हील म्हणून समजा: जर एखादा संदेश आमच्या धोरणाचे उल्लंघन करत असेल, तर चॅटमधील प्रत्येकाला सूचित केले जाते की गोष्टी सभ्य ठेवण्यासाठी मजकूर पुन्हा शब्दबद्ध केला गेला आहे. वापरकर्ते रोजच्या चॅटमध्ये प्रत्यक्षात वापरत असलेल्या वाक्प्रचारामध्ये प्रतिबंधित शब्दांचे जुळवणी करून, आम्ही चॅटचा खरा अनुभव किंवा प्रवाह गमावल्याशिवाय तो आदरयुक्त ठेवण्यास मदत करतो. या स्टॉप साईन्सना रिअल-टाइम मार्गदर्शनाने बदलून, आम्ही काही अडचणी कमी करू शकतो—आणि तरीही शिव्यांविषयीच्या आमच्या नियमांना बळकट करू शकतो.

टेक्स्ट ब्लॉक झाल्यावर वापरकर्त्यांना अधिक संदर्भ देणे आणि पुनर्वाक्यरचना करण्याच्या बाबतीत आम्ही अजूनही सुरुवातीच्या टप्प्यात आहोत. कालांतराने, इतर कोणत्याही AI भाषांतर साधनाप्रमाणे, हे वापरकर्त्याचा मूळ सूर किंवा संदर्भ जपण्याच्या बाबतीत अधिक अचूक आणि सूक्ष्म बनत जाईल. आमची प्राधान्यक्रम Roblox वर सुरक्षित आणि सभ्य संवाद साधण्याचा मार्ग तयार करण्यावर आहे, जो आमच्या मानकांबद्दल शिकत असताना आमच्या वापरकर्त्यांना माहिती देणे, शिक्षित करणे आणि मार्गदर्शन करणे यांना प्राधान्य देत राहील. 

जरी पुनर्वाक्यरचना चॅटमधील काही व्यत्यय कमी करते, तरीही अधिक गंभीर वर्तनासाठी आमची बहुस्तरीय सुरक्षा प्रणाली लागू राहते. पुनर्वाक्यरचना फक्त इन-एक्सपीरियन्स चॅटसाठी उपलब्ध आहे, जी फक्त वय-तपासणी केलेल्या वापरकर्त्यांमध्ये (समान वयोगटातील) आणि त्यांच्या विश्वस्त संपर्कांमध्ये उपलब्ध आहे. आमच्या स्वयंचलित भाषांतर साधनांद्वारे सध्या उपलब्ध असलेल्या सर्व भाषांमध्ये पुनर्वाक्यरचना समर्थित आहे. आमचे उद्दिष्ट इतक्या अचूकतेची पातळी गाठणे आहे की ज्यामुळे आम्ही ### कमी करू शकू, जोपर्यंत आम्ही ते पूर्णपणे बंद करू शकतो, ज्यामुळे डिजिटल संवाद प्रत्यक्ष संभाषणाइतकाच नैसर्गिक आणि स्पष्ट होईल.

आम्ही हे वैशिष्ट्य विकसित करताना, किशोरवयीन मुलं प्रत्यक्षात कशी चॅट करतात, त्यानुसार एक प्रणाली तयार करण्यासाठी आम्ही आमच्या टीन कौन्सिलच्या सदस्यांशी सल्लामसलत केली. कौन्सिल सदस्य सोफियाने आम्हाला सांगितले, "रिअल-टाइम रिफ्रेझिंगकडे वाटचाल केल्याने संभाषणाचा प्रवाह जपला जातो आणि त्याचवेळी सर्वांना सुरक्षित ठेवण्यास मदत होते. हे संभाषणाला सौम्यपणे परत योग्य मार्गावर आणते आणि लोकांना स्वागतार्ह वाटण्यास मदत करते." 

किशोर परिषद सदस्य जॉर्डिन सहमत आहे. "हा बदल खेळाडूंना ते कसे संवाद साधतात याचा विचार करण्यास शिकवतो आणि मैत्रीपूर्ण संबंध वाढवून परस्परसंवाद अधिक दृढ करतो," असे जॉर्डिन म्हणाली. "पुनर्वाक्यरचनेवर स्विच केल्याने खेळाडूंच्या विनंत्या आणि आवश्यक सुरक्षा मानके यांच्यात एक मध्यम मार्ग उपलब्ध होतो."  

सुधारित मजकूर फिल्टर्स: नमुन्यांपासून संदर्भापर्यंत विकसित

Roblox वर वापरकर्ते ज्या पद्धतीने चॅट करतात, त्यानुसार आमची सुरक्षा वैशिष्ट्ये सतत विकसित होत असतात. आमचे मजकूर फिल्टर आमच्या समुदाय मानकांच्या विरोधात असलेले काहीही शोधण्यासाठी आणि अवरुद्ध करण्यासाठी प्रशिक्षित आहेत. वापरकर्ते चॅट करत असताना हे जागतिक पातळीवर आणि रिअल-टाइममध्ये होणे आवश्यक आहे.

सुरुवातीला, या प्रणालीमध्ये दोन घटक होते: १) वास्तविक जगातील घटना घडल्यानंतर काही मिनिटांत आमच्या नियमांचे उल्लंघन करणारी सामग्री शोधण्यासाठी आणि ब्लॉक करण्यासाठी डिझाइन केलेली नियम-आधारित प्रणाली. २) विशेष मॉडेल्सची एक मालिका जी एका मोठ्या मॉडेलवरून प्रशिक्षित केली गेली होती, जी सतत अद्ययावत होणाऱ्या भाषेच्या प्रकारांचा समावेश करण्यासाठी अनुकरण (simulated) आणि वास्तविक नमुन्यांच्या संचावर आधारित होती. 

ही विशेष मॉडेल्स विशिष्ट कार्यांसाठी खूप चांगली आहेत, जसे की आम्ही परवानगी न दिलेल्या शब्दांची यादी शोधणे, परंतु त्या चांगल्या प्रकारे तर्क करू शकत नाहीत, त्यामुळे त्या विकसित होत असलेल्या शब्दांना शोधण्यात चांगली नाहीत. अत्यंत मोठी मॉडेल्स रिअल-टाइममध्ये काम करत नाहीत, आणि हॅल्युसिनेशन्स (किंवा चुकीची वर्गीकरणे) अनेकदा चुकीच्या सकारात्मक निष्कर्षांना वाढवतात. 

या अद्ययावतमध्ये, आम्ही आमच्या मजकूर फिल्टर प्रणालीमध्ये एक नवीन, तिसरा घटक सादर केला आहे. आता, जेव्हा विशेष मॉडेल्सना एखादी गोष्ट नियम मोडत आहे की नाही याबद्दल खात्री नसते, तेव्हा ती अत्यंत मोठ्या मॉडेल्सकडे पाठवली जातात, जे अधिक चांगले तर्क करतात आणि अधिक संदर्भ मूल्यांकन करतात. ही मोठी मॉडेल्स अधिक जटिल निर्णय घेऊ शकतात. 

आमच्या प्रयोगांनी दाखवले आहे की या संयुक्त पद्धतीमुळे आमच्या फिल्टरमध्ये लक्षणीय सुधारणा झाली आहे. हे फिल्टर आता लीट-स्पीक (leet-speak), म्हणजेच अंकांनी किंवा चिन्हांनी बदललेली अक्षरे, आणि आमचे फिल्टर चुकवण्याचे अधिक परिष्कृत प्रयत्न यांचा अधिक चांगल्या प्रकारे शोध घेऊ शकतात. कोणतीही प्रणाली कधीच परिपूर्ण नसते, परंतु आम्हाला आनंद आहे की या अलीकडील नवकल्पनेमुळे सोशल हँडल्स किंवा फोन नंबरसारखी वैयक्तिक माहिती शेअर करण्यासाठी किंवा मागवण्यासाठी होणाऱ्या चुकीच्या नकारांची (false negatives) संख्या 20 पट कमी करता आली आहे.

हा एक धाडसी नवीन दृष्टिकोन आहे आणि आम्ही नेहमी गोष्टी परिपूर्णपणे पुन्हा मांडणार नाही. परंतु आम्ही पुढे जाताना शिकत आणि प्रयोग करत राहू आणि चॅट्समध्ये वापरकर्त्यांना दिसणाऱ्या ##### च्या संख्येला कमी करत राहू, ज्याचे दीर्घकालीन उद्दिष्ट त्यांना पूर्णपणे बंद करणे आहे. आमचे अंतिम उद्दिष्ट म्हणजे वापरकर्त्यांना मजेदार आणि आदरयुक्त पद्धतीने सहकार्य आणि संवाद साधण्यासाठी सशक्त करणे.