వినోదం, గేమ్‌ప్లే, మరియు మర్యాద కోసం చాట్‌ను పునఃపరిశీలించడం

• జట్లు లేదా కమ్యూనిటీలు కలిసి ఆడే గేమ్‌లకు సహజమైన, సజావుగా సాగే చాట్ చాలా ముఖ్యం. 
• అనవసరమైన భాషను నిరోధించిన చోట ##### గుర్తుల పరంపర చాట్‌ను అంతరాయపరచవచ్చు, అర్థం చేసుకోవడానికి కష్టంగా ఉండవచ్చు మరియు ఆటకు అంతరాయం కలిగించవచ్చు.
• చాట్ సజావుగా మరియు గౌరవప్రదంగా సాగడానికి సహాయపడటానికి, మేము మా చాట్ ఫిల్టర్‌లను మెరుగుపరుస్తున్నాము మరియు అశ్లీల పదాలను మా మార్గదర్శకాలకు లోబడి ఉండే పదాలతో తిరిగి రూపొందిస్తున్నాము.
• మరింత సహజమైన చాట్ అనుభవం కోసం #####ను తగ్గించే మా దీర్ఘకాలిక మార్గంలో ఇది మొదటి అడుగు. సురక్షితమైన మరియు మర్యాదపూర్వకమైన చాట్‌కు మద్దతు ఇవ్వడానికి, వినియోగదారుల కోసం అదనపు నియంత్రణలతో సహా, మేము మా సాధనాలను నేర్చుకుంటూ, పునరావృతం చేస్తూ, మరియు అభివృద్ధి చేస్తూనే ఉంటాము.

ప్రతిరోజూ, లక్షలాది మంది ప్రజలు రాబ్లాక్స్‌లో కనెక్ట్ అవుతారు మరియు ఆడతారు, ఇక్కడ వినియోగదారుల వ్యక్తీకరణకు మరియు గేమ్‌ప్లేను సమన్వయం చేయడానికి నిజ-సమయ సంభాషణ చాలా ముఖ్యం. సమస్యాత్మక టెక్స్ట్‌ను (వినియోగదారులకు #####గా కనిపిస్తుంది) బ్లాక్ చేయడానికి AI ఫిల్టర్‌లను ఉపయోగించడం మా భద్రత మరియు మర్యాదను పెంచే విధానంలో ఎల్లప్పుడూ కేంద్రంగా ఉంది. ఈ హ్యాష్‌మార్క్‌లు నిజ-సమయంలో రూపొందించబడతాయి మరియు వారు టైప్ చేసేది అనుమతించబడనప్పుడు వినియోగదారులకు అర్థం చేసుకోవడానికి సహాయపడతాయి. అయితే, వినియోగదారులు పదేపదే నియమాలను ఉల్లంఘించినప్పుడు, వారి మాటలు ### అవ్వడమే కాకుండా, వారు మరిన్ని పరిణామాలను ఎదుర్కోవలసి ఉంటుంది.

మే 2025లో, వినియోగదారులకు మా విధానాలను అర్థం చేసుకోవడంలో సహాయపడటానికి, మేము ముందుగానే, నిజ-సమయ హెచ్చరికలను ప్రవేశపెట్టాము. ఇవి ఇప్పుడు టెక్స్ట్ మరియు వాయిస్ చాట్ రెండింటికీ యాక్టివ్‌గా ఉన్నాయి. ఈ నోటిఫికేషన్‌లు వారు ఏ నియమాన్ని ఉల్లంఘించారో తెలియజేస్తాయి, తదుపరిసారి వారి భాషను పునఃపరిశీలించుకోవాలని వారిని కోరుతాయి మరియు వారు మెరుగైన డిజిటల్ పౌరులుగా మారడానికి సహాయపడతాయి. గత సంవత్సరం జరిపిన ప్రయోగాలలో, అనుభవంలోనే టెక్స్ట్ చాట్ నోటిఫికేషన్లు మరియు టైమ్-అవుట్‌లను జారీ చేయడం వల్ల, ఫిల్టర్ చేయబడిన చాట్ సందేశాలలో 5% తగ్గుదల మరియు దుర్వినియోగ నివేదికల నుండి వచ్చే పరిణామాలలో 6% తగ్గుదల కనిపించింది.

ఈ రోజు, అనుభవంలోని టెక్స్ట్ చాట్‌ను మర్యాదపూర్వకంగా ఉంచడంలో సహాయపడటానికి మేము ఒక అదనపు ఫీచర్‌ను జోడిస్తున్నాము: మేము అశ్లీల పదజాలంతో ప్రారంభించి, సందేశాలను స్వయంచాలకంగా తిరిగి రూపొందించడానికి AIని ఉపయోగిస్తున్నాము. ఈ వ్యవస్థలు విస్తరించినప్పుడు, అవి మర్యాదకు ఒక స్వయంప్రేరక చక్రాన్ని సృష్టిస్తాయి, ఇక్కడ నిజ-సమయ ఫీడ్‌బ్యాక్ వినియోగదారులకు మా కమ్యూనిటీ ప్రమాణాలను నేర్చుకోవడానికి మరియు స్వీకరించడానికి సహాయపడుతుంది. కేవలం సందేశం పంపినవారికే కాకుండా, అందరు వినియోగదారులు Robloxలో ఏ భాష అనుమతించబడిందో చూస్తారు (మరియు పంపినవారు ఏది అనుమతించబడదో చూస్తారు). ఇది నియమాలు తెలియని వినియోగదారులకు మరింత ఫీడ్‌బ్యాక్ అందిస్తుంది మరియు Robloxలో సురక్షితమైన, మర్యాదపూర్వకమైన మరియు సరదా సంభాషణకు మద్దతు ఇవ్వడానికి మా ఫిల్టరింగ్ మరియు రియల్-టైమ్ హెచ్చరికల పునాదిని బలోపేతం చేస్తుంది. 

రియల్-టైమ్ చాట్ పునఃరూపకల్పన: నిషేధ సంకేతాల నుండి మార్గదర్శకత్వం వైపు

చాలా మంది వినియోగదారులకు, ##### వంటి గుర్తుల పరంపర సంభాషణను ఒక చావుదెబ్బ తీయవచ్చు, మా కమ్యూనిటీ ప్రమాణాలను పాటించడానికి తమ భాషను ఎలా మార్చుకోవాలో ఎటువంటి మార్గదర్శకత్వం ఉండదు. ఇది తరచుగా గందరగోళానికి కారణమవుతుంది మరియు ఒక గేమ్‌లోని జట్లు కలిసి పనిచేయడాన్ని కష్టతరం చేస్తుంది. ఒకరు తమ స్నేహితుడి వెనుక ఒక రాక్షసి ఉందని చెప్పడానికి ప్రయత్నిస్తూ, వారిని హెచ్చరించడానికి "జాగ్రత్త! నీ ahhh మీద ఒక fkng రాక్షసి ఉంది!" వంటిది టైప్ చేస్తున్నారని ఊహించుకోండి. స్నేహితుడు చూసేది కేవలం "###########." మాత్రమే. అది అంతగా సహాయపడదు. 

ఈ రోజు నుండి, ఫిల్టర్ చేయబడిన టెక్స్ట్, రాబ్లాక్స్ వినియోగదారులకు సహజంగా అనిపించే మరింత గౌరవప్రదమైన భాషలోకి అనువదించబడుతుంది. ప్రారంభంలో, ఈ రియల్-టైమ్ పునఃరూపకల్పన అశ్లీల భాషపై దృష్టి పెడుతుంది. ఉదాహరణకు, "Hurry tf up!" అనేది "Hurry up!"గా మారవచ్చు, ఇది ##### కంటే అసలు ఉద్దేశానికి చాలా దగ్గరగా ఉంటుంది. స్పష్టంగా చెప్పాలంటే, మా అశ్లీల పదజాల విధానాన్ని ఉల్లంఘించే సందేశాన్ని మేము తిరిగి పదజాలం చేసినప్పుడు—అది ఇప్పటికీ ఒక ఉల్లంఘనే మరియు అదే నియమాలు వర్తిస్తాయి. చాట్‌లో తిట్లు పెట్టడానికి ప్రయత్నిస్తూనే ఉన్న వినియోగదారుడు, మా విధానాన్ని పదేపదే ఉల్లంఘించినందుకు అదే పరిణామాలను ఎదుర్కొంటాడు. 

ఈ వ్యవస్థను స్టాప్ సైన్ కంటే, ఒక స్టీరింగ్ వీల్ (వెహికల్ నడిపించే చక్రం)గా భావించండి: ఒక సందేశం మా విధానాన్ని ఉల్లంఘిస్తే, చాట్‌లోని ప్రతి ఒక్కరికీ, మర్యాదపూర్వకంగా ఉంచడానికి ఆ టెక్స్ట్ తిరిగి పదజాలంతో సరిదిద్దబడిందని తెలియజేయబడుతుంది. వినియోగదారులు రోజువారీ చాట్‌లో వాస్తవంగా ఉపయోగించే పదబంధాలతో నిషేధించబడిన పదాలను సరిపోల్చడం ద్వారా, అసలైన అనుభూతి లేదా ప్రవాహాన్ని కోల్పోకుండా చాట్‌ను గౌరవప్రదంగా ఉంచడంలో మేము సహాయపడతాము. ఈ స్టాప్ సైన్‌లను నిజ-సమయ మార్గదర్శకత్వంతో భర్తీ చేయడం ద్వారా, మేము ఆ అవాంతరాలలో కొన్నింటిని తగ్గించగలము—మరియు తిట్లు పెట్టడానికి వ్యతిరేకంగా మా నియమాలను కూడా బలోపేతం చేయగలము.

టెక్స్ట్ బ్లాక్ చేయబడినప్పుడు, రీఫ్రేజింగ్ మరియు వినియోగదారులకు మరింత సందర్భాన్ని అందించడంలో మేము ఇంకా ప్రారంభ దశలోనే ఉన్నాము. కాలక్రమేణా, ఏ AI అనువాద సాధనంలాగే, ఇది ఒక వినియోగదారు యొక్క అసలు స్వరం లేదా సందర్భాన్ని ఎలా కాపాడుతుందనే విషయంలో మరింత కచ్చితంగా మరియు సూక్ష్మంగా మారుతుంది. మా వినియోగదారులు మా ప్రమాణాలను నేర్చుకుంటున్నప్పుడు వారికి సమాచారం అందించడం, విద్యావంతులను చేయడం మరియు మార్గనిర్దేశం చేయడాన్ని కొనసాగిస్తూ, Robloxలో సంభాషించడానికి సురక్షితమైన మరియు నాగరికమైన మార్గాన్ని నిర్మించడం మా ప్రాధాన్యతగా కొనసాగుతుంది. 

చాట్‌లో కొన్ని అంతరాయాలను తిరిగి పదజాలం చేయడం తగ్గించినప్పటికీ, మరింత తీవ్రమైన ప్రవర్తన కోసం మా బహుళ-పొరల భద్రతా వ్యవస్థ అమలులో ఉంటుంది. తిరిగి పదజాలం చేయడం అనేది ప్రత్యేకంగా ఇన్-ఎక్స్‌పీరియన్స్ చాట్ కోసం అందుబాటులో ఉంది, ఇది వయస్సు-పరిశీలించబడిన, ఒకే వయస్సు సమూహంలోని వినియోగదారులకు మరియు వారి నమ్మకమైన కనెక్షన్‌లకు మాత్రమే అందుబాటులో ఉంటుంది. ప్రస్తుతం మా స్వయంచాలక అనువాద సాధనాల ద్వారా అందుబాటులో ఉన్న అన్ని భాషలలో తిరిగి పదజాలం చేయడం మద్దతు ఇవ్వబడుతుంది. మా లక్ష్యం, ### ను పూర్తిగా నిలిపివేసే వరకు దానిని తగ్గించడానికి వీలు కల్పించే స్థాయిలో కచ్చితత్వాన్ని సాధించడం, తద్వారా డిజిటల్ సంభాషణను వ్యక్తిగత సంభాషణ అంత సహజంగా మరియు స్పష్టంగా మార్చడం.

మేము ఈ ఫీచర్‌ను అభివృద్ధి చేస్తున్నప్పుడు, టీనేజర్లు వాస్తవానికి ఎలా చాట్ చేస్తారో ప్రతిబింబించే ఒక వ్యవస్థను నిర్మించడానికి మా టీన్ కౌన్సిల్ సభ్యులతో సంప్రదించాము. కౌన్సిల్ సభ్యురాలు సోఫియా మాతో ఇలా అన్నారు, "రియల్-టైమ్ రీఫ్రేజింగ్‌ వైపు వెళ్లడం అనేది సంభాషణ ప్రవాహాన్ని కాపాడుతుంది, అదే సమయంలో ప్రతిఒక్కరినీ సురక్షితంగా ఉంచడంలో సహాయపడుతుంది. ఇది సంభాషణను తిరిగి సరైన మార్గంలోకి తీసుకువచ్చి, ప్రజలు స్వాగతించబడ్డారని భావించేలా చేస్తుంది." 

టీన్ కౌన్సిల్ సభ్యురాలు జోర్డిన్ దీనితో ఏకీభవించింది. "ఈ మార్పు ఆటగాళ్లు తాము ఎలా సంభాషిస్తున్నారో పరిగణించేలా చేస్తుంది మరియు స్నేహపూర్వక సంబంధాలను పెంపొందించడం ద్వారా పరస్పర చర్యను బలపరుస్తుంది," అని జోర్డిన్ చెప్పింది. "మళ్లీ చెప్పడానికి మారడం ద్వారా, ఇది ఆటగాళ్ల అభ్యర్థనలకు మరియు అవసరమైన భద్రతా ప్రమాణాలకు మధ్య ఒక మధ్యేమార్గాన్ని అందిస్తుంది."  

మెరుగైన టెక్స్ట్ ఫిల్టర్లు: నమూనాల నుండి సందర్భానికి పరిణామం

రోబ్లాక్స్‌లో వినియోగదారులు ఎలా చాట్ చేస్తారో దానికి అనుగుణంగా ఉండేలా మా భద్రతా ఫీచర్లు నిరంతరం అభివృద్ధి చెందుతాయి. మా కమ్యూనిటీ ప్రమాణాలకు విరుద్ధంగా ఉన్న దేనినైనా గుర్తించి, నిరోధించడానికి మా టెక్స్ట్ ఫిల్టర్‌లు శిక్షణ పొందుతాయి. వినియోగదారులు చాట్ చేస్తున్నప్పుడు, ఇది ప్రపంచవ్యాప్తంగా మరియు నిజ సమయంలో జరగాలి.

ప్రారంభంలో, ఈ వ్యవస్థలో రెండు భాగాలు ఉండేవి: 1) వాస్తవ ప్రపంచ సంఘటనలు జరిగినప్పుడు నిమిషాల్లో మా నియమాలను ఉల్లంఘించే కంటెంట్‌ను గుర్తించి, నిరోధించడానికి రూపొందించబడిన నియమ-ఆధారిత వ్యవస్థ. 2) పరిణామం చెందుతున్న భాషా రకాలను చేర్చడానికి నిరంతరం నవీకరించబడే అనుకరణ మరియు నిజమైన నమూనాల ఆధారంగా, ఒక పెద్ద మోడల్ నుండి శిక్షణ పొందిన ప్రత్యేక మోడళ్ల సమితి. 

ఈ ప్రత్యేక మోడళ్లు, మేము అనుమతించని పదాల జాబితాను కనుగొనడం వంటి నిర్దిష్ట పనులలో చాలా బాగుంటాయి, కానీ అవి సరిగ్గా తర్కించలేవు, కాబట్టి అభివృద్ధి చెందుతున్న పదాలను గుర్తించడంలో అవి అంతగా సమర్థవంతం కావు. అత్యంత పెద్ద మోడళ్లు నిజ సమయంలో పనిచేయవు, మరియు అవి తప్పుడు సమాచారాన్ని సృష్టించడం (లేదా తప్పుగా వర్గీకరించడం) తరచుగా తప్పుడు పాజిటివ్‌లను పెంచుతుంది. 

ఈ అప్‌డేట్‌లో, మేము మా టెక్స్ట్ ఫిల్టర్ సిస్టమ్‌కు ఒక కొత్త, మూడవ భాగాన్ని పరిచయం చేశాము. ఇప్పుడు, ప్రత్యేకమైన మోడళ్లకు ఏదైనా నియమాలను ఉల్లంఘిస్తోందో లేదో అని ఖచ్చితంగా తెలియనిప్పుడు, వాటిని మరింత సందర్భాన్ని అంచనా వేయడంలో మరియు తార్కికం చేయడంలో మెరుగ్గా ఉండే చాలా పెద్ద మోడళ్లకు పంపుతారు. ఈ పెద్ద మోడళ్లు మరింత సంక్లిష్టమైన నిర్ణయాలు తీసుకోగలవు. 

ఈ మిశ్రమ విధానం మా ఫిల్టర్‌లను గణనీయంగా మెరుగుపరిచిందని మా ప్రయోగాలు చూపిస్తున్నాయి. ఇప్పుడు ఈ ఫిల్టర్‌లు లీట్-స్పీక్ (లేదా అంకెలు/చిహ్నాలతో అక్షరాలను మార్చడం), మరియు మా ఫిల్టర్‌లను తప్పించుకోవడానికి చేసే మరింత అధునాతన ప్రయత్నాలను మెరుగ్గా గుర్తించగలవు. ఏ సిస్టమ్‌ కూడా పరిపూర్ణంగా ఉండదు, కానీ సోషల్ హ్యాండిల్స్ లేదా ఫోన్ నంబర్‌ల వంటి వ్యక్తిగత సమాచారాన్ని పంచుకోవడానికి లేదా అభ్యర్థించడానికి సంబంధించిన ఫాల్స్ నెగటివ్‌ల (తప్పుగా వదిలేయడం) సంఖ్యను 20 రెట్లు తగ్గించడానికి ఈ తాజా ఆవిష్కరణ మాకు వీలు కల్పించిందని మేము ఉత్సాహంగా ఉన్నాము.

ఇది ఒక సాహసోపేతమైన కొత్త విధానం మరియు మేము ఎల్లప్పుడూ విషయాలను పరిపూర్ణంగా తిరిగి చెప్పలేము. కానీ మేము ముందుకు సాగుతున్నప్పుడు నేర్చుకోవడం మరియు ప్రయోగాలు చేయడం కొనసాగిస్తాము మరియు వినియోగదారులు తమ చాట్‌లలో చూస్తున్న #####ల సంఖ్యను తగ్గించడం కొనసాగిస్తాము, వాటిని పూర్తిగా తొలగించాలనే దీర్ఘకాలిక లక్ష్యంతో. వినియోగదారులు సరదాగా మరియు గౌరవప్రదంగా సహకరించుకోవడానికి మరియు కనెక్ట్ అవ్వడానికి వీలు కల్పించడమే మా అంతిమ లక్ష్యం.