ராப்ளாக்ஸ், ஓப்பன்-சோர்ஸ் பாதுகாப்பு மாதிரிகளை ROOST மாதிரி சமூகத்திற்குக் கொண்டுவருகிறது

Roblox, Robust Open Online Safety Tools (ROOST) மாடல் சமூகத்திற்கு மூன்று திறந்த மூலப் பாதுகாப்பு மாதிரிகளைப் பங்களிக்கிறது. இவற்றில் எங்கள் திறந்த மூல PII வகைப்படுத்தி, Roblox Sentinel, மற்றும் எங்கள் சமீபத்திய குரல் பாதுகாப்பு வகைப்படுத்தி ஆகியவற்றிற்கான புதுப்பிப்புகள் அடங்கும். மற்ற நிறுவனங்கள் தங்களின் சொந்த வகைப்படுத்திகளை அளவீடு செய்யப் பயன்படுத்தக்கூடிய ஒரு புதிய மதிப்பீட்டுத் தரவுத்தொகுப்பையும் நாங்கள் திறந்த மூலமாக வெளியிடுகிறோம். இந்த மாதிரிகளின் பதிப்புகள் ஏற்கனவே ரோப்லாக்ஸில் இயங்குகின்றன, தனிப்பட்ட தகவல்களைக் கேட்க அல்லது பகிரும் முயற்சிகளைக் கண்டறிதல், குழந்தைகள் ஆபத்தில் இருப்பதற்கான ஆரம்ப அறிகுறிகளைக் குறிப்பிடுதல், மற்றும் குரல் அரட்டைகளை நிகழ்நேரத்தில் நெறிப்படுத்துதல் போன்ற பணிகளைச் செய்கின்றன. 

Google, OpenAI மற்றும் பிற நிறுவனங்களுடன் சேர்ந்து, நாங்கள் 2025-ஆம் ஆண்டின் தொடக்கத்தில் ROOST-இல் ஒரு நிறுவன உறுப்பினராக இணைந்தோம். இந்த மாதிரிகளைப் பகிர்வதன் மூலம், மற்ற தளங்கள் தங்களின் சொந்த தணிக்கைக் கருவிகளைப் பயிற்றுவிக்கவும் சரிசெய்யவும் ஒரு வலுவான தொடக்கப் புள்ளியைப் பெறுகின்றன. பதிலுக்கு, மற்ற நிறுவனங்கள் தங்கள் பணிகளைப் பகிரும்போது, அவர்களின் கற்றல்களிலிருந்தும் கருத்துகளிலிருந்தும் நாங்கள் பயனடைவோம் என நம்புகிறோம்.

தனிப்பட்ட தகவல்களைத் தனிப்பட்டதாக வைத்திருத்தல்

ராப்ளாக்ஸ் PII வகைப்படுத்தி, வீரர்கள் தனிப்பட்ட முறையில் அடையாளம் காணக்கூடிய தகவல்களை (PII)ப் பகிர அல்லது கோர முயற்சிப்பதையும், அல்லது பாதுகாப்புகள் அவ்வளவு வலுவாக இல்லாத பிற தளங்களுக்கு வீரர்களை மாற்ற முயற்சிப்பதையும் கண்டறியப் பயிற்றுவிக்கப்பட்டுள்ளது. தவறான எழுத்துப்பிழைகள், குறியிடப்பட்ட வார்த்தைகள், அல்லது பிற தளங்களுக்கான தெளிவற்ற குறிப்புகள் மூலம் கண்டறிதலைத் தவிர்க்கும் முயற்சிகளும் இதில் அடங்கும். சரியான வார்த்தைப் பொருத்தங்களைத் தேடுவதற்குப் பதிலாக, இது உரையாடல் சூழலைப் புரிந்துகொள்ளும் வகையில் கட்டமைக்கப்பட்டுள்ளது, இது சாதாரண வடிகட்டிகள் தவறவிடக்கூடிய மறைமுகமான கோரிக்கைகளைப் பிடிக்க உதவுகிறது. 

பதிப்பு 2.0 பல முக்கியப் புதுப்பிப்புகளைக் கொண்டுள்ளது: பயிற்சி மற்றும் மதிப்பீட்டுத் தரவுகளில் இப்போது, தெளிவற்றதாகத் தோன்றக்கூடிய தனிமைப்படுத்தப்பட்ட செய்திகளுக்குப் பதிலாக, சுற்றியுள்ள உரையாடல் சூழலும் இணைக்கப்பட்டுள்ளது. பரந்த உரையாடலின் பின்னணியில் செய்திகளை மதிப்பிடுவது, தனிப்பட்ட அடையாளத் தகவலைப் (PII) பகிரும் அல்லது கோரும் நோக்கத்தைக் கண்டறிய உதவுகிறது. மிகவும் சிக்கலான தவிர்ப்புச் சூழ்நிலைகள் மற்றும் அரிதான பலமொழி நிகழ்வுகளின் செயற்கை எடுத்துக்காட்டுகளின் தொகுப்பை LLM-இல் பயிற்சி செய்தது, நாங்கள் ஆதரிக்கும் மொழிகளை 17-லிருந்து 189-ஆக விரிவுபடுத்த எங்களுக்கு உதவியது. மேலும், நாங்கள் குறியிடப்பட்ட தரவுகளின் தொகுப்பிலிருந்து தொடர்புடைய மாதிரிகளைப் பெற, LLM-களை சூழல்-பெறும் அம்சத்துடன் இணைத்துள்ளோம். இன்று, பதிப்பு 2.0-இன் துல்லியம் மற்றும் மீட்டெடுத்தல் ஆகியவை பாரம்பரிய நெறிப்படுத்தல் நுட்பங்களை விட மேம்பட்டுள்ளன—குறிப்பாக மிகவும் நுட்பமான தவிர்ப்பு முயற்சிகளில். உதாரணமாக, வேறு ஒரு தளத்தில் உள்ள ஒரு சர்வர் பற்றி யாரிடமாவது கேட்கப்பட்டால், அவர்கள் தங்கள் பதிலை மறைக்கலாம்:

பயனர்: "it's dscrd (dot) gg (slash) rblx-vibe-99," 

பயனர்: "இப்போது (புள்ளி) என்பதை . ஆகவும் (கீழ் கோடு) என்பதை / ஆகவும் மாற்றவும்."

பதிப்பு 2.0 இந்தச் செய்திகளின் சூழலை ஒருங்கிணைத்துப் புரிந்துகொண்டு, ஒரு வீரரை Roblox-இலிருந்து வெளியேற்றக்கூடிய தனிப்பட்ட அடையாளத் தகவல்களைப் பகிர்வதைத் தடுக்கிறது. தானியங்கி ரெட்-டீமிங் மற்றும் இலக்கு வைக்கப்பட்ட செயற்கை தரவு உருவாக்கம் ஆகியவற்றின் மூலம், இந்த மாதிரி இயல்பான பயனர் அனுபவத்தைப் பாதுகாக்கும் அதே வேளையில், நுட்பமான தனிப்பட்ட அடையாளத் தகவல்களை (PII) சாதாரண உரையாடலில் இருந்து வேறுபடுத்திப் பார்ப்பதில் இன்னும் சிறப்பாகச் செயல்படுகிறது. இந்தப் பணியானது எங்கள் F1 மதிப்பெண்ணை 63.41-லிருந்து 90.52 ஆக உயர்த்தியது—இது பதிப்பு 1.0-ஐ விட ஒரு குறிப்பிடத்தக்க முன்னேற்றமாகும், மேலும் இது உள் மற்றும் திறந்த மூல அளவுகோல்களில் சிறந்த மதிப்பெண்களைப் பெறுகிறது.

ஒரு மதிப்பீட்டுத் தரவுத் தொகுப்பைப் பகிர்தல்

ராப்ளாக்ஸ் PII வகைப்படுத்தி அளவுகோல் என்பது, PII வகைப்படுத்திகளுக்கான ஒரு புதிய மதிப்பீட்டுத் தரவுத்தொகுப்பாகும். இது, PII வடிகட்டிகளைத் தவிர்ப்பதற்குப் பொதுவாகப் பயன்படுத்தப்படும் நுட்பங்களை மாதிரியாகக் கொண்டு, ஆங்கில மொழி பல்லுபயனர் அரட்டைகளின் செயற்கை மாதிரிகளைக் கொண்டுள்ளது. இந்த மாதிரிகள், வீரர்கள் PII-ஐக் கேட்பது அல்லது பகிர்வது, அல்லது வீரர்களைத் தளத்திலிருந்து வெளியேறச் சொல்வது போன்றவற்றின் LLM-ஆல் உருவாக்கப்பட்ட உருவகப்படுத்துதல்களாகும். உத்திகளில் ஒலிபெயர் தந்திரங்கள், எழுத்து மற்றும் காட்சி மாற்றுதல், குறியீட்டு மொழி, மற்றும் உரையாடல் சுற்றுகளில் தகவல்களைப் பிரிப்பது ஆகியவை அடங்கும். PII பகிர்தல் அல்லது கோரிக்கையை உள்ளடக்கிய உரையாடல்களுடன் ஒத்ததாகத் தோன்றும், ஆனால் பாதிப்பில்லாததாக இருக்கும் அரட்டைகள் போன்ற கடின எதிர்மறைகளிலும் நாங்கள் பயிற்சி செய்தோம்.

இந்த தரவுத்தொகுப்பு, பெரும்பாலும் பெயர்-என்டிட்டி பிரித்தெடுத்தலில் கவனம் செலுத்தும் தற்போதுள்ள தரவுத்தொகுப்புகளுக்கு மாறாக, யதார்த்தமான பல பயனர் ஆன்லைன் அரட்டையை பிரதிபலிக்கிறது—இது தளங்கள் காண்பவற்றில் ஒரு சிறிய பகுதியே. உண்மையில், தனிப்பட்ட அடையாளத் தகவல்களைக் கோரும் முயற்சிகள், கண்டறியக்கூடிய எந்தவொரு தனிப்பட்ட அடையாளத் தகவல்கள் கொண்ட சரத்திற்கு முன்பே பெரும்பாலும் தோன்றும்—உதாரணமாக, ஒரு வீரர் மற்றொருவரிடம், "ghost உடன் உள்ள செயலியில் உன் @ என்ன?" என்று கேட்பது. சமூகமானது Roblox-இன் தனிப்பட்ட அடையாளத் தகவல் வகைப்படுத்தியைச் சோதித்து மேம்படுத்த உதவுவதற்காகவும், அனைவரும் இன்னும் வலுவான ஆன்லைன் பாதுகாப்புகளை நோக்கிச் செல்ல உதவுவதற்காகவும் நாங்கள் இந்த அளவுகோலைப் பகிர்கிறோம்.

முடிந்தவரை முன்கூட்டியே அபாயத்தைக் கண்டறிதல்

ராப்ளாக்ஸ் சென்டின், மற்ற அமைப்புகள் கண்டறியும் அளவுக்கு செய்திகள் வெளிப்படையாக ஆவதற்கு முன்பே, குழந்தைகள் ஆபத்தில் சிக்கும் அபாயத்தின் ஆரம்ப அறிகுறிகளைக் கண்டறிய வடிவமைக்கப்பட்டுள்ளது. கான்ட்ராஸ்டிவ் லேர்னிங் (contrastive learning) அடிப்படையில் உருவாக்கப்பட்ட சென்டின், பாதிப்பில்லாத மற்றும் இறுதியில் தீங்கு விளைவிக்கும் உரையாடல்களின் முறைகளில் பயிற்சி அளிக்கப்பட்டுள்ளது. இது புதிய உரையாடல்களை அந்த முறைகளுடன் ஒப்பிட்டு, நிலைமை மோசமடைவதற்கு முன்பு மதிப்பாய்விற்காக நுட்பமான எச்சரிக்கை அறிகுறிகளைக் குறிக்கிறது. கவனம் தேவைப்படக்கூடிய அரட்டைகளுக்கு மனித மறுஆய்வாளர்கள் முன்னுரிமை அளிக்க சென்டினல் அனுமதிக்கிறது, இதன் மூலம் அவர்கள் தவறான பயனர்களின் கணக்குகளில் விரைவாக நடவடிக்கை எடுக்கவும், சிக்கலான பயனர்களைப் பொருத்தமான அதிகாரிகளுக்குப் புகாரளிக்கவும் முடியும். ஆகஸ்ட் 7, 2026 அன்று முடிவடைந்த 12 மாதங்களில், நாங்கள் கண்டறிந்த வழக்குகளில் கிட்டத்தட்ட 70% சென்டினலின் ஆரம்பகால கண்டறிதலால் ஏற்பட்டவை, இது பெரும்பாலும் மற்ற கண்டறிதல் முறைகளை விட மிக விரைவாக இந்த வழக்குகளைப் பிடித்தது.

இன்று, நாங்கள் பதிப்பு 2-ஐ வெளியிடுகிறோம், இது மதிப்பெண்களைச் சேர்ப்பதற்கான வழிகளை இரண்டு சேர்ப்புச் செயல்பாடுகளில் இருந்து ஆறு என விரிவுபடுத்தி, துல்லியத்தை அதிகரிக்கிறது. ஒவ்வொரு செயல்பாடும் வெவ்வேறு வகையான தரவுகளுக்கு ஏற்றவாறு அமைக்கப்பட்டுள்ளது. ROOST சமூகத்திடமிருந்து பெறப்பட்ட கருத்துக்களை உள்ளடக்கி, பதிப்பு 2 ஒரு குறிப்பிட்ட பயன்பாட்டு நிகழ்வுக்கு எந்தச் செயல்பாடு சிறப்பாகப் பொருந்தும் என்பதை மதிப்பிடுவதற்கான புதிய வழிகளையும் சேர்க்கிறது. மேலும், ஒரு ஆதாரம் ஏன் அந்த வழியில் மதிப்பெண் பெற்றது என்பதற்கான விளக்கங்களையும் இது உள்ளடக்கியுள்ளது. மேலும், ஒவ்வொரு அமைப்பிற்கும் மதிப்பீட்டுத் தரவை மீண்டும் கணக்கிடும் தேவையை நீக்குவதன் மூலம், பதிப்பு 2 அந்தத் தேர்வுகள் முழுவதும் தேடுவதை நடைமுறைக்கு ஏற்றதாக ஆக்குகிறது. ஒரு உதாரணத்தில், பதிப்பு 2 ஆனது 324 உள்ளமைவுகளில் ஒரு முழுமையான சோதனையை மூன்று நிமிடங்களுக்கும் குறைவான நேரத்தில் முடிக்க முடிந்தது—அந்தச் சோதனை முன்பு கிட்டத்தட்ட ஒரு மணி நேரம் எடுத்திருக்கும். மேலும், இயல்புநிலை அமைப்புகளுடன் 0.894 ஆக இருந்த ROC-AUC-ஐ (வரிசைப்படுத்தல் தரத்தின் ஒரு நிலையான அளவீடு) கண்டறியப்பட்ட சிறந்த உள்ளமைவுடன் 0.996 ஆக உயர்த்தியது. இந்த மேம்பாடுகள், இந்த புதிய திறந்த மூலக் கருவியை குறிப்பிட்ட பயன்பாட்டு நிகழ்வுகளுக்குச் சோதித்துச் செம்மைப்படுத்துவதை எளிதாக்கும்.

உண்மையான நேரத்தில் குரல் பாதுகாப்பைச் சமநிலைப்படுத்துதல்

எங்கள் குரல் பாதுகாப்பு வகைப்படுத்தி, பொருத்தமற்ற பேச்சை நிகழ்நேரத்தில் கண்டறிந்து குறியிடும் வகையில் உருவாக்கப்பட்டுள்ளது. ஒரு வீரர் எங்கள் விதிகளில் ஒன்றை மீறும்போது, அவர்கள் ஒரு அறிவிப்பைப் பார்ப்பார்கள், அது அவர்களுக்கு எச்சரிக்கை அளித்து, அவர்கள் எந்தக் கொள்கையை மீறியது பற்றிய தகவலைப் பகிர்ந்து கொள்ளும். அவர்கள் தொடர்ந்து விதிகளை மீறினால், அரட்டை அணுகல் ஐந்து நிமிடங்கள் வரை தற்காலிகமாக இடைநிறுத்தப்படும். பெரிய மீறல்களுக்காக அல்லது மற்ற வீரர்கள் அவர்கள் மீது புகார்கள் அளித்தால், வீரர்கள் கடுமையான விளைவுகளுக்கு உள்ளாக நேரிடலாம். 2024-ல் நாங்கள் எங்கள் வகைப்படுத்தியை ஓப்பன் சோர்ஸ் செய்ததிலிருந்து, அது 72,000-க்கும் மேற்பட்ட முறை பதிவிறக்கம் செய்யப்பட்டுள்ளது. 

சமீபத்தில் வெளியிடப்பட்ட, பதிப்பு 3, மொத்தம் 30 மொழிகள் மற்றும் எட்டு மீறல் வகைகளில் இன்னும் அதிகமான மீட்டெடுத்தல் மற்றும் துல்லியத்துடன் குரல் அரட்டைகளை நெறிப்படுத்துகிறது. அனைத்து 30 மொழிகளிலும், இது கடுமையான 1% தவறான-நேர்மறை விகிதத்தில் 61% மீட்டெடுத்தலை அடைகிறது. இது உள்ளமைக்கப்பட்ட மொழி கண்டறிதலையும் சேர்க்கிறது. இந்த முன்னேற்றங்கள், ஆதரிக்கப்படும் அனைத்து 30 மொழிகளிலும் அதிகமான லேபிளிடப்பட்ட பயிற்சித் தரவுகளால் இயக்கப்படுகின்றன—அளவிற்காக இயந்திர லேபிளிங், பின்னர் தரத்திற்காக மனித லேபிளிங். அடிப்படை மாதிரி 94.6 மில்லியனிலிருந்து 320 மில்லியன் அளவுருக்களாக அதிகரித்திருந்தாலும், நிகழ்நேர கண்டறிதலுக்கு போதுமான வேகமாக வைத்திருக்க நாங்கள் மாதிரி சுருத்தலைப் பயன்படுத்தினோம். 

பாதுகாப்பு என்பது ஒரு கூட்டுப் பொறுப்பாகும்—எந்தவொரு நிறுவனமும் இதைத் தனியாகத் தீர்க்க முடியாது. ROOST-க்கு பங்களிப்பதன் மூலம், மற்ற நிறுவனங்கள் தங்களின் சொந்த பாதுகாப்பு வகைப்படுத்திகளை மேம்படுத்த உதவுவதே எங்கள் நோக்கம். நாம் அனைவரும் ஒன்றிணைந்து தானியங்கி கண்டறிதலை முன்னெடுக்கும்போது, ROOST சமூகத்திடமிருந்து பகிர்வதையும் கற்றுக்கொள்வதையும் தொடர்வோம்.