إعادة التفكير في الدردشة من أجل المتعة واللعب والكياسة

• تعد المحادثة الطبيعية والسلسة أمرًا حيويًا للألعاب التي تلعب فيها الفرق أو المجتمعات معًا. 
• قد تؤدي سلاسل ##### التي تظهر عند حجب الألفاظ غير اللائقة إلى تعطيل الدردشة وصعوبة متابعتها، كما أنها قد تقاطع سير اللعبة.
• للمساعدة في الحفاظ على انسيابية الدردشة واحترامها، نقوم بتحسين مرشحات الدردشة لدينا وإعادة صياغة الألفاظ البذيئة إلى كلمات تتوافق مع إرشاداتنا.
• هذه هي الخطوة الأولى في مسيرتنا طويلة المدى للحد من ##### من أجل تجربة دردشة أكثر طبيعية. سنواصل التعلم والتكرار وتطوير أدواتنا للمساعدة في دعم الدردشة الآمنة والمدنية، بما في ذلك ضوابط إضافية للمستخدمين.

كل يوم، يتواصل ملايين الأشخاص ويلعبون على Roblox حيث التواصل في الوقت الفعلي مهم لتعبير المستخدمين وتنسيق اللعب. لطالما كان استخدام مرشحات الذكاء الاصطناعي لحجب النصوص المشكوك فيها (التي تظهر للمستخدمين على شكل #####) أمرًا أساسيًا في نهجنا تجاه السلامة وزيادة الاحترام. يتم إنشاء علامات الهاش هذه في الوقت الفعلي وتساعد المستخدمين على فهم متى يكون ما يكتبونه غير مسموح به. وبالطبع، عندما يخرق المستخدمون القواعد بشكل متكرر، سيواجهون عواقب تتجاوز مجرد تحويل كلماتهم إلى ###.

في مايو 2025، أدخلنا تحذيرات استباقية في الوقت الفعلي لمساعدة المستخدمين على فهم سياساتنا. هذه التحذيرات نشطة الآن لكل من الدردشة النصية والصوتية. تُعلم هذه الإشعارات المستخدمين عندما يخرقون قاعدة ما، وتطالبهم بإعادة النظر في لغتهم في المرة القادمة، وتساعدهم على أن يصبحوا مواطنين رقميين أفضل. في التجارب التي أُجريت العام الماضي، لاحظنا أن إصدار إشعارات الدردشة النصية داخل التطبيق وفترات التوقف المؤقت أدى إلى انخفاض بنسبة 5% في رسائل الدردشة التي تمت تصفيتها، وانخفاض بنسبة 6% في العواقب الناجمة عن بلاغات الإساءة.

اليوم، نضيف ميزة إضافية للمساعدة في الحفاظ على لياقة الدردشة النصية داخل التجربة: نستخدم الذكاء الاصطناعي لإعادة صياغة الرسائل تلقائيًا، بدءًا من الألفاظ البذيئة. مع توسع نطاق هذه الأنظمة، فإنها تخلق دافعًا لللياقة، حيث تساعد التعليقات في الوقت الفعلي المستخدمين على تعلم معايير مجتمعنا وتبنيها. يرى جميع المستخدمين، وليس فقط مرسل الرسالة، اللغة المسموح بها على Roblox (ويرى المرسل ما هو غير مسموح به). يوفر هذا مزيدًا من التعليقات للمستخدمين الذين قد لا يعرفون القواعد، ويبني على أساسنا من التصفية والتحذيرات في الوقت الفعلي للمساعدة في دعم محادثة آمنة ومهذبة وممتعة على Roblox. 

إعادة صياغة الدردشة في الوقت الفعلي: الانتقال من إشارات التوقف إلى التوجيه

بالنسبة للعديد من المستخدمين، قد تكون سلسلة ##### طريقًا مسدودًا في المحادثة، دون أي إرشادات حول كيفية إعادة صياغة لغتهم لاتباع معايير مجتمعنا. غالبًا ما يؤدي هذا إلى الارتباك ويجعل من الصعب على الفرق داخل اللعبة التعاون. تخيل أن شخصًا ما يحاول إخبار صديقه بوجود وحش خلفه ويكتب شيئًا مثل "احذر! هناك وحش لعين خلفك!" لتحذيره. لا يرى الصديق سوى "###########". وهذا ليس مفيدًا للغاية. 

اعتبارًا من اليوم، سيتم ترجمة النص الذي تمت تصفيته إلى لغة أكثر احترامًا تظل تبدو طبيعية لمستخدمي Roblox. عند الإطلاق، تركز إعادة الصياغة في الوقت الفعلي هذه على الألفاظ البذيئة. على سبيل المثال، قد تصبح عبارة "Hurry tf up!" عبارة "Hurry up!"، وهي أقرب بكثير إلى القصد الأصلي من #####. للتوضيح، عندما نعيد صياغة رسالة تنتهك سياستنا الخاصة بالألفاظ البذيئة، فإنها تظل انتهاكًا وتظل القواعد نفسها سارية. سيواجه المستخدم الذي يستمر في محاولة استخدام الألفاظ البذيئة في الدردشة نفس العواقب لانتهاكه المتكرر لسياستنا. 

فكر في هذا النظام على أنه عجلة قيادة، وليس علامة توقف: إذا انتهكت رسالة سياستنا، يتم إخطار جميع المشاركين في الدردشة بأن النص قد أعيدت صياغته للحفاظ على الأدب. من خلال مطابقة الكلمات المحظورة بالعبارات التي يستخدمها المستخدمون فعليًا في الدردشة اليومية، نساعد في الحفاظ على احترام الدردشة دون فقدان الإحساس الأصيل أو انسيابية الحوار. من خلال استبدال علامات التوقف هذه بتوجيهات في الوقت الفعلي، يمكننا تقليل بعض هذا الاحتكاك — مع الاستمرار في تعزيز قواعدنا ضد الشتائم.

ما زلنا في البداية فيما يتعلق بإعادة صياغة النصوص وتوفير المزيد من السياق للمستخدمين عند حظر النص. بمرور الوقت، مثل أي أداة ترجمة تعتمد على الذكاء الاصطناعي، ستصبح أكثر دقة ودقة في الحفاظ على النبرة أو السياق الأصلي للمستخدم. تظل أولويتنا هي بناء طريقة آمنة ومهذبة للتواصل على Roblox تستمر في إعطاء الأولوية لإعلام وتثقيف وتوجيه مستخدمينا أثناء تعلمهم لمعاييرنا. 

في حين أن إعادة الصياغة تقلل من بعض الاضطرابات في الدردشة، يظل نظام الأمان متعدد الطبقات لدينا ساريًا بالنسبة للسلوكيات الأكثر خطورة. إعادة الصياغة متاحة حصريًا للدردشة داخل التجربة، والتي تتوفر فقط بين المستخدمين الذين تم التحقق من أعمارهم في فئات عمرية متشابهة و"اتصالاتهم الموثوقة". يتم دعم إعادة الصياغة بجميع اللغات المتاحة حاليًا من خلال أدوات الترجمة الآلية لدينا. هدفنا هو تحقيق مستوى من الدقة يسمح لنا بتقليل استخدام الرموز ### حتى نتمكن من التخلص منها تمامًا، مما يجعل التواصل الرقمي طبيعيًا وواضحًا مثل المحادثة الشخصية.

أثناء تطويرنا لهذه الميزة، تشاورنا مع أعضاء مجلس المراهقين لدينا لإنشاء نظام يعكس الطريقة التي يتحدث بها المراهقون فعليًا. قالت لنا صوفيا، عضوة المجلس: "الانتقال إلى إعادة الصياغة في الوقت الفعلي يحافظ على تدفق المحادثة مع المساعدة في الحفاظ على سلامة الجميع. إنه يوجه التفاعل بلطف إلى المسار الصحيح ويساعد الناس على الشعور بالترحيب." 

تتفق جوردين، عضوة مجلس المراهقين، مع هذا الرأي. قالت جوردين: "يعلم هذا التحول اللاعبين التفكير في طريقة تواصلهم ويقوي التفاعل من خلال تعزيز العلاقات الودية. ويتيح التحول إلى إعادة الصياغة حلاً وسطًا بين طلبات اللاعبين ومعايير السلامة الضرورية".  

مرشحات نصية محسّنة: التطور من الأنماط إلى السياق

تتطور ميزات الأمان لدينا باستمرار لتبقى متوافقة مع طريقة تواصل المستخدمين في Roblox. تم تدريب مرشحات النصوص لدينا على اكتشاف وحظر أي شيء يخالف معايير مجتمعنا. ويجب أن يحدث ذلك على نطاق عالمي وفي الوقت الفعلي، أثناء تواصل المستخدمين.

في البداية، كان لهذا النظام مكونان: 1) نظام قائم على القواعد مصمم لاكتشاف وحظر المحتوى الذي يخالف قواعدنا في غضون دقائق عند وقوع أحداث في العالم الحقيقي. 2) مجموعة من النماذج المتخصصة التي تم تدريبها انطلاقًا من نموذج أكبر، استنادًا إلى مجموعة من العينات المحاكاة والحقيقية التي يتم تحديثها باستمرار لتشمل أنواع اللغة المتطورة. 

هذه النماذج المتخصصة جيدة جدًا في مهام محددة، مثل العثور على قائمة بالكلمات التي لا نسمح بها، لكنها لا تستطيع الاستدلال جيدًا، لذا فهي ليست جيدة في العثور على المصطلحات المتطورة. النماذج الضخمة للغاية لا تعمل في الوقت الفعلي، وغالبًا ما تؤدي الهلوسة (أو التصنيفات الخاطئة) إلى زيادة الإيجابيات الخاطئة. 

في هذا التحديث، أدخلنا مكونًا ثالثًا جديدًا إلى نظام تصفية النصوص لدينا. الآن، عندما لا تكون النماذج المتخصصة متأكدة مما إذا كان شيء ما يخالف القواعد أم لا، يتم إرسالها إلى نماذج ضخمة جدًا تكون أفضل في الاستدلال وتقييم المزيد من السياق. يمكن لهذه النماذج الضخمة اتخاذ قرارات أكثر تعقيدًا. 

تُظهر تجاربنا أن هذا النهج المدمج قد حسّن مرشحاتنا بشكل كبير. يمكن للمرشحات الآن اكتشاف لغة "ليت" بشكل أفضل، أو الأحرف التي تم استبدالها بأرقام أو رموز، والمحاولات الأكثر تعقيدًا لتجاوز مرشحاتنا. لا يوجد نظام مثالي على الإطلاق، لكننا متحمسون لأن هذا الابتكار الأخير قد سمح لنا بتقليل انتشار النتائج السلبية الخاطئة لمشاركة أو طلب المعلومات الشخصية، مثل أسماء المستخدمين على مواقع التواصل الاجتماعي أو أرقام الهواتف، بمقدار 20 ضعفًا.

هذا نهج جديد وجريء، ولن نتمكن دائمًا من إعادة صياغة الأمور بشكل مثالي. لكننا سنواصل التعلم والتجريب بينما نمضي قدمًا، وسنواصل تقليل عدد ##### التي يراها المستخدمون في محادثاتهم، بهدف طويل الأمد يتمثل في التخلص منها تمامًا. هدفنا النهائي هو تمكين المستخدمين من التعاون والتواصل بطريقة ممتعة ومحترمة في الوقت نفسه.