মজা, গেমপ্লে এবং ভদ্রতার জন্য চ্যাট পুনর্বিবেচনা

• দল বা সম্প্রদায় একসঙ্গে খেলতে যেসব গেম আছে, সেগুলোতে স্বাভাবিক, মসৃণ চ্যাট অপরিহার্য। 
• #####-এর স্ট্রিং, যেখানে অশোভন ভাষা ব্লক করা হয়েছে, চ্যাট বিঘ্নিত করতে পারে, অনুসরণ করা কঠিন হতে পারে এবং গেমপ্লে বাধাগ্রস্ত করতে পারে।
• চ্যাটকে স্বচ্ছন্দ ও সম্মানজনক রাখতে, আমরা আমাদের চ্যাট ফিল্টার উন্নত করছি এবং অশ্লীল শব্দগুলোকে আমাদের নির্দেশিকা অনুযায়ী শব্দে পুনঃপ্রয়োগ করছি।
• এটি আরও স্বাভাবিক চ্যাট অভিজ্ঞতার জন্য ##### কমানোর আমাদের দীর্ঘমেয়াদী পথে প্রথম ধাপ। আমরা নিরাপদ ও সভ্য চ্যাট সমর্থনে আমাদের সরঞ্জামগুলো শেখা, পুনরাবৃত্তি এবং উন্নয়ন চালিয়ে যাব, যার মধ্যে ব্যবহারকারীদের জন্য অতিরিক্ত নিয়ন্ত্রণও থাকবে।

প্রতিদিন লক্ষ লক্ষ মানুষ Roblox-এ সংযোগ স্থাপন করে এবং গেম খেলে, যেখানে রিয়েল-টাইম যোগাযোগ ব্যবহারকারীর ভাবপ্রকাশ এবং গেম সমন্বয়ের জন্য গুরুত্বপূর্ণ। সমস্যাযুক্ত টেক্সট (##### হিসেবে ব্যবহারকারীদের কাছে দৃশ্যমান) ব্লক করতে AI ফিল্টার ব্যবহার করা সবসময়ই আমাদের নিরাপত্তা এবং সভ্যতা বৃদ্ধির মূল কৌশলের অংশ। এই হ্যাশমার্কগুলো রিয়েল-টাইমে তৈরি হয় এবং ব্যবহারকারীদের বুঝতে সাহায্য করে কখন তারা যা টাইপ করছে তা অনুমোদিত নয়। অবশ্যই, যখন ব্যবহারকারীরা বারবার নিয়ম ভঙ্গ করে, তখন তাদের শুধুমাত্র তাদের শব্দ ### করার বাইরে আরও পরিণতির মুখোমুখি হতে হবে।

মে ২০২৫-এ, আমরা ব্যবহারকারীদের আমাদের নীতিগুলি বুঝতে সাহায্য করার জন্য সক্রিয়, রিয়েল-টাইম সতর্কতা প্রবর্তন করেছি। এগুলি এখন টেক্সট এবং ভয়েস চ্যাট উভয়ের জন্য সক্রিয়। এই বিজ্ঞপ্তিগুলি ব্যবহারকারীদের জানায় কখন তারা কোনো নিয়ম ভঙ্গ করেছে, তাদের পরের বার তাদের ভাষা পুনর্বিবেচনা করতে উৎসাহিত করে, এবং তাদের আরও ভালো ডিজিটাল নাগরিক হতে সাহায্য করে। গত বছর পরীক্ষায় আমরা দেখেছি যে ইন-এক্সপেরিয়েন্স টেক্সট চ্যাট নোটিফিকেশন এবং টাইম-আউট জারি করার ফলে ফিল্টারকৃত চ্যাট বার্তায় ৫% এবং অপব্যবহার রিপোর্ট থেকে নেওয়া পদক্ষেপগুলোতে ৬% হ্রাস হয়েছে।

আজ, আমরা ইন-এক্সপেরিয়েন্স টেক্সট চ্যাট সভ্য রাখতে একটি অতিরিক্ত ফিচার যোগ করছি: আমরা AI ব্যবহার করে স্বয়ংক্রিয়ভাবে বার্তা পুনর্লিখন করব, শুরুতে অশ্লীল ভাষা দিয়ে। এই সিস্টেমগুলো যত বেশি বিস্তৃত হবে, ততই সভ্যতার একটি ফ্লাইহুইল তৈরি করবে, যেখানে রিয়েল-টাইম ফিডব্যাক ব্যবহারকারীদের আমাদের কমিউনিটি স্ট্যান্ডার্ড শিখতে এবং গ্রহণ করতে সাহায্য করবে। শুধুমাত্র বার্তা প্রেরক নয়, সকল ব্যবহারকারীই দেখতে পান Roblox-এ কোন ভাষা অনুমোদিত (এবং প্রেরক দেখতে পান কোন ভাষা অনুমোদিত নয়)। এটি তাদের জন্য আরও প্রতিক্রিয়া প্রদান করে যারা হয়তো নিয়মগুলো জানেন না এবং আমাদের ফিল্টারিং ও রিয়েল-টাইম সতর্কবার্তার ভিত্তিকে আরও মজবুত করে, যা Roblox-এ নিরাপদ, সভ্য এবং মজাদার কথোপকথনকে সমর্থন করে। 

রিয়েল-টাইম চ্যাট পুনঃবাক্যবিন্যাস: স্টপ সাইন থেকে নির্দেশনার দিকে

অনেক ব্যবহারকারীর জন্য, #####-এর একটি স্ট্রিং কথোপকথনে একটি অচলাবস্থা তৈরি করতে পারে, যেখানে আমাদের কমিউনিটি স্ট্যান্ডার্ড অনুসরণ করার জন্য তাদের ভাষা কীভাবে পুনর্বিবেচনা করতে হবে সে সম্পর্কে কোনো নির্দেশনা থাকে না। এটি প্রায়ই বিভ্রান্তি সৃষ্টি করে এবং গেমের ভিতরে দলগুলোর সহযোগিতা কঠিন করে তোলে। কল্পনা করুন কেউ তার বন্ধুকে জানাতে চাচ্ছে যে তার পেছনে একটা দৈত্য আছে এবং সতর্ক করতে "সাবধান! তোমার ahhh-এ একটা fkng দৈত্য আছে!" এরকম কিছু টাইপ করছে। বন্ধু শুধু "###########" দেখছে। এটা মোটেই সহায়ক নয়। 

আজ থেকে, ফিল্টারকৃত টেক্সট আরও সম্মানজনক ভাষায় অনুবাদ করা হবে যা Roblox ব্যবহারকারীদের কাছে স্বাভাবিক মনে হবে। লঞ্চের সময়, এই রিয়েল-টাইম পুনর্বাক্যবিন্যাস অশ্লীল ভাষার উপর কেন্দ্রীভূত। উদাহরণস্বরূপ, "Hurry tf up!" হতে পারে "Hurry up!", যা #####-এর তুলনায় মূল উদ্দেশ্যের অনেক কাছাকাছি। স্পষ্ট করে বলতে গেলে, যখন আমরা আমাদের অশ্লীলতা নীতি লঙ্ঘনকারী কোনো বার্তা পুনঃলিখন করি—তবুও তা লঙ্ঘন হিসেবেই গণ্য হবে এবং একই নিয়ম প্রযোজ্য থাকবে। চ্যাটে গালিগালাজ চালিয়ে যাওয়ার চেষ্টা অব্যাহত রাখলে ব্যবহারকারী আমাদের নীতি বারবার লঙ্ঘনের জন্য একই পরিণতির সম্মুখীন হবে। 

এই সিস্টেমটিকে একটি স্টপ সাইন হিসেবে না ভেবে একটি স্টিয়ারিং হুইল হিসেবে ভাবুন: যদি কোনো বার্তা আমাদের নীতি লঙ্ঘন করে, তাহলে চ্যাটে থাকা সবাইকে জানানো হয় যে বিষয়টিকে সভ্য রাখতে টেক্সটটি পুনরায় বাক্যবদ্ধ করা হয়েছে। সীমাবদ্ধ শব্দগুলোকে ব্যবহারকারীদের দৈনন্দিন চ্যাটে ব্যবহৃত বাক্যের সাথে মিলিয়ে, আমরা আসল স্বাদ বা প্রবাহ হারিয়ে না গিয়ে চ্যাটকে সম্মানজনক রাখতে সাহায্য করি। এই স্টপ সাইনগুলোকে রিয়েল-টাইম নির্দেশনায় প্রতিস্থাপন করে, আমরা সেই কিছু ঘর্ষণ কমাতে পারি—এবং তবুও গালিগালাজের বিরুদ্ধে আমাদের নিয়মগুলোকে শক্তিশালী করতে পারি।

টেক্সট ব্লক হলে ব্যবহারকারীদের পুনঃবাক্য গঠন করে আরও প্রাসঙ্গিক তথ্য প্রদান করার ক্ষেত্রে আমরা এখনও শুরুতেই আছি। সময়ের সাথে সাথে, যেকোনো এআই অনুবাদ টুলের মতোই, এটি ব্যবহারকারীর মূল স্বর বা প্রেক্ষাপট সংরক্ষণে ক্রমেই আরও সঠিক ও সূক্ষ্ম হয়ে উঠবে। আমাদের অগ্রাধিকার এখনও Roblox-এ নিরাপদ ও সভ্য যোগাযোগের একটি মাধ্যম তৈরি করা, যা আমাদের ব্যবহারকারীদের আমাদের নীতিমালা শেখার সময় তাদের তথ্য জানানো, শিক্ষিত করা এবং পথপ্রদর্শন করার ওপর গুরুত্ব দেয়। 

যদিও পুনঃবাক্যবিন্যাস চ্যাটে কিছু বিঘ্নতা কমায়, তবুও আরও গুরুতর আচরণের জন্য আমাদের বহুমাত্রিক নিরাপত্তা ব্যবস্থা কার্যকর থাকে। পুনঃবাক্যবিন্যাস শুধুমাত্র ইন-এক্সপেরিয়েন্স চ্যাটের জন্য উপলব্ধ, যা শুধুমাত্র বয়স যাচাইকৃত, একই বয়স গোষ্ঠীর ব্যবহারকারী এবং তাদের ট্রাস্টেড কানেকশনদের মধ্যেই সম্ভব। আমাদের স্বয়ংক্রিয় অনুবাদ সরঞ্জামের মাধ্যমে বর্তমানে যেসব ভাষা উপলব্ধ, সব ভাষাতেই পুনঃবাক্যবিন্যাস সমর্থিত। আমাদের লক্ষ্য এমন একটি নির্ভুলতার স্তর অর্জন করা যা আমাদের ### কমাতে সাহায্য করবে যতক্ষণ না আমরা এটি সম্পূর্ণরূপে বাদ দিতে পারি, ফলে ডিজিটাল যোগাযোগ ব্যক্তিগত কথোপকথনের মতো স্বাভাবিক ও স্পষ্ট হয়ে উঠবে।

আমরা যখন এই ফিচারটি তৈরি করছিলাম, তখন আমাদের টিন কাউন্সিলের সদস্যদের সাথে পরামর্শ করেছিলাম যাতে একটি এমন সিস্টেম তৈরি করা যায় যা কিশোর-কিশোরীরা প্রকৃতপক্ষে কীভাবে চ্যাট করে তা প্রতিফলিত করে। কাউন্সিল সদস্য সোফিয়া আমাদের বলেছিলেন, "রিয়েল-টাইম পুনঃবাক্যবিন্যাসের দিকে এগিয়ে যাওয়া কথোপকথনের গতি বজায় রাখে এবং একই সাথে সবাইকে নিরাপদ রাখতে সাহায্য করে। এটি মিথস্ক্রিয়াকে সাবধানে সঠিক পথে ফিরিয়ে আনে এবং মানুষকে স্বাগত অনুভব করতে সাহায্য করে।" 

টিন কাউন্সিলের সদস্য জর্ডিন একমত। "এই পরিবর্তন খেলোয়াড়দের তাদের যোগাযোগের ধরন বিবেচনা করতে শেখায় এবং বন্ধুত্বপূর্ণ সম্পর্ক গড়ে তুলে মিথস্ক্রিয়াকে শক্তিশালী করে," বলেন জর্ডিন। "পুনঃবাক্যবিন্যাসে পরিবর্তন আনার মাধ্যমে খেলোয়াড়দের অনুরোধ এবং প্রয়োজনীয় নিরাপত্তা মানের মধ্যে একটি মধ্যপন্থা তৈরি হয়।"  

উন্নত টেক্সট ফিল্টার: প্যাটার্ন থেকে প্রসঙ্গে বিবর্তন

আমাদের নিরাপত্তা বৈশিষ্ট্যগুলো ক্রমাগত বিকশিত হচ্ছে যাতে সেগুলো Roblox-এ ব্যবহারকারীদের চ্যাটের প্রকৃত ধরণকে প্রতিফলিত করে। আমাদের টেক্সট ফিল্টারগুলো আমাদের কমিউনিটি স্ট্যান্ডার্ডের বিরুদ্ধে যায় এমন যেকোনো বিষয়বস্তু সনাক্ত ও ব্লক করতে প্রশিক্ষিত। এটি বিশ্বব্যাপী এবং রিয়েল-টাইমে ঘটতে হবে, কারণ ব্যবহারকারীরা চ্যাট করছেন।

প্রাথমিকভাবে, এই সিস্টেমে দুটি উপাদান ছিল: ১) একটি নিয়ম-ভিত্তিক সিস্টেম যা বাস্তব বিশ্বের ঘটনা ঘটলে কয়েক মিনিটের মধ্যে আমাদের নিয়ম লঙ্ঘনকারী বিষয়বস্তু সনাক্ত ও ব্লক করার জন্য ডিজাইন করা হয়েছে। ২) একটি বৃহত্তর মডেলের উপর প্রশিক্ষিত বিশেষায়িত মডেলগুলির একটি সেট, যা সিমুলেটেড এবং বাস্তব নমুনের একটি সেটের উপর ভিত্তি করে তৈরি এবং ক্রমবর্ধমান ভাষার ধরন অন্তর্ভুক্ত করতে ক্রমাগত আপডেট করা হয়। 

এই বিশেষায়িত মডেলগুলো নির্দিষ্ট কাজগুলোতে খুবই দক্ষ, যেমন আমরা যেসব শব্দ অনুমোদন করি না সেগুলোর তালিকা খুঁজে বের করা, কিন্তু এদের যুক্তি করার ক্ষমতা সীমিত, তাই এগুলো ক্রমবর্ধমান শব্দার্থ খুঁজে বের করতে সক্ষম নয়। অত্যন্ত বড় মডেলগুলো রিয়েল-টাইমে কাজ করে না, এবং হ্যালুসিনেশন (অথবা ভুল শ্রেণীবিন্যাস) প্রায়ই ভুল ইতিবাচক ফলাফল বাড়িয়ে দেয়। 

এই আপডেটে, আমরা আমাদের টেক্সট ফিল্টার সিস্টেমে একটি নতুন, তৃতীয় উপাদান যুক্ত করেছি। এখন, যখন বিশেষায়িত মডেলগুলো কোনো কিছু নিয়ম লঙ্ঘন করছে কিনা সে বিষয়ে নিশ্চিত হতে পারে না, তখন সেগুলো অত্যন্ত বড় মডেলগুলোর কাছে পাঠানো হয়, যারা যুক্তি-তর্ক করতে এবং আরও প্রাসঙ্গিক তথ্য মূল্যায়ন করতে আরও দক্ষ। এই বড় মডেলগুলো আরও জটিল সিদ্ধান্ত নিতে পারে। 

আমাদের পরীক্ষাগুলো দেখিয়েছে যে এই সমন্বিত পদ্ধতি আমাদের ফিল্টারগুলোকে উল্লেখযোগ্যভাবে উন্নত করেছে। ফিল্টারগুলো এখন লিট-স্পিক, বা সংখ্যা বা প্রতীক দিয়ে প্রতিস্থাপিত অক্ষর, এবং আমাদের ফিল্টার এড়ানোর আরও উন্নত প্রচেষ্টাগুলো আরও ভালোভাবে সনাক্ত করতে পারে। কোনো সিস্টেমই কখনোই নিখুঁত নয়, তবে আমরা উচ্ছ্বসিত যে এই সাম্প্রতিক উদ্ভাবন আমাদেরকে সামাজিক হ্যান্ডেল বা ফোন নম্বরগুলির মতো ব্যক্তিগত তথ্য শেয়ার করা বা চাওয়ার ক্ষেত্রে ভুয়া নেগেটিভের প্রাদুর্ভাব ২০ গুণ হ্রাস করতে সক্ষম করেছে।

এটি একটি সাহসী নতুন পদ্ধতি এবং আমরা সবসময়ই বিষয়গুলো নিখুঁতভাবে পুনর্ব্যক্ত করতে পারব না। কিন্তু আমরা এগিয়ে যেতে থাকব, শিখতে ও পরীক্ষা-নিরীক্ষা করতে থাকব, এবং ব্যবহারকারীরা তাদের চ্যাটে যে ##### দেখছেন তা কমাতে থাকব, দীর্ঘমেয়াদী লক্ষ্য হলো এগুলো সম্পূর্ণরূপে বিলুপ্ত করা। আমাদের চূড়ান্ত লক্ষ্য হলো ব্যবহারকারীদের এমনভাবে সহযোগিতা ও সংযোগ স্থাপনে ক্ষমতা দেওয়া, যা মজাদার এবং সম্মানজনক উভয়ই।