Tái suy nghĩ về trò chuyện để giải trí, trải nghiệm trò chơi và sự lịch sự

• Một cuộc trò chuyện tự nhiên và trôi chảy là yếu tố quan trọng đối với các trò chơi mà các đội hoặc cộng đồng chơi cùng nhau. 
• Các chuỗi ##### xuất hiện khi ngôn ngữ không phù hợp bị chặn có thể làm gián đoạn cuộc trò chuyện, gây khó khăn cho việc theo dõi và làm gián đoạn trải nghiệm chơi game.
• Để giúp cuộc trò chuyện diễn ra suôn sẻ và tôn trọng, chúng tôi đang nâng cấp bộ lọc trò chuyện và chuyển đổi ngôn ngữ thô tục thành các từ nằm trong quy định của chúng tôi.
• Đây là bước đầu tiên trong hành trình dài hạn của chúng tôi nhằm giảm thiểu ##### để mang lại trải nghiệm trò chuyện tự nhiên hơn. Chúng tôi sẽ tiếp tục học hỏi, cải tiến và phát triển các công cụ của mình để hỗ trợ trò chuyện an toàn và văn minh, bao gồm các tính năng kiểm soát bổ sung cho người dùng.

Mỗi ngày, hàng triệu người kết nối và chơi trên Roblox, nơi giao tiếp thời gian thực là yếu tố quan trọng cho việc thể hiện bản thân và phối hợp trong trò chơi. Việc sử dụng bộ lọc AI để chặn nội dung gây tranh cãi (hiển thị dưới dạng ##### cho người dùng) luôn là trọng tâm trong chiến lược an toàn và thúc đẩy văn hóa lịch sự của chúng tôi. Các ký hiệu ##### này được tạo ra theo thời gian thực và giúp người dùng nhận biết khi nội dung họ nhập không được phép. Tất nhiên, khi người dùng vi phạm quy tắc nhiều lần, họ sẽ phải đối mặt với hậu quả nghiêm trọng hơn việc nội dung bị ###.

Vào tháng 5 năm 2025, chúng tôi đã giới thiệu các cảnh báo chủ động, thời gian thực để giúp người dùng hiểu rõ các chính sách của chúng tôi. Các cảnh báo này hiện đã được áp dụng cho cả trò chuyện văn bản và giọng nói. Các thông báo này thông báo cho người dùng khi họ vi phạm quy tắc, khuyến khích họ suy nghĩ lại về ngôn ngữ sử dụng lần sau và giúp họ trở thành công dân số tốt hơn. Trong các thử nghiệm năm ngoái, chúng tôi nhận thấy rằng việc gửi thông báo trong trò chuyện văn bản và áp dụng thời gian chờ đã giúp giảm 5% số tin nhắn bị lọc và giảm 6% hậu quả từ các báo cáo lạm dụng.

Hôm nay, chúng tôi bổ sung một tính năng mới để duy trì sự văn minh trong trò chuyện văn bản trong trò chơi: Chúng tôi sử dụng AI để tự động chỉnh sửa lại nội dung tin nhắn, bắt đầu từ các từ ngữ thô tục. Khi các hệ thống này được mở rộng, chúng tạo ra một vòng lặp tích cực cho sự văn minh, nơi phản hồi thời gian thực giúp người dùng học hỏi và tuân thủ Tiêu chuẩn Cộng đồng của chúng tôi. Tất cả người dùng, không chỉ người gửi tin nhắn, đều có thể thấy ngôn ngữ nào được phép sử dụng trên Roblox (và người gửi sẽ thấy những gì không được phép). Điều này cung cấp thêm phản hồi cho những người dùng có thể chưa biết các quy tắc và củng cố nền tảng lọc tin nhắn và cảnh báo thời gian thực của chúng tôi để giúp hỗ trợ các cuộc trò chuyện an toàn, văn minh và vui vẻ trên Roblox. 

Chỉnh sửa tin nhắn trò chuyện theo thời gian thực: Chuyển từ các dấu hiệu cấm sang hướng dẫn

Đối với nhiều người dùng, một chuỗi ##### có thể là một ngõ cụt trong cuộc trò chuyện, không có hướng dẫn về cách điều chỉnh ngôn ngữ để tuân thủ Tiêu chuẩn Cộng đồng của chúng tôi. Điều này thường gây nhầm lẫn và khiến các đội trong trò chơi khó hợp tác hơn. Hãy tưởng tượng ai đó cố gắng cảnh báo bạn bè rằng có một con quái vật phía sau họ và gõ một câu như “Cẩn thận! Có một con quái vật khốn kiếp phía sau cậu ahhh!” để cảnh báo. Người bạn chỉ thấy “###########.” Điều đó không giúp ích gì. 

Từ hôm nay, văn bản bị lọc sẽ được chuyển đổi thành ngôn ngữ lịch sự hơn nhưng vẫn tự nhiên đối với người dùng Roblox. Khi ra mắt, tính năng chuyển đổi ngôn ngữ theo thời gian thực này tập trung vào ngôn ngữ thô tục. Ví dụ, “Hurry tf up!” có thể trở thành “Hurry up!”, điều này gần với ý định ban đầu hơn so với #####. Để rõ ràng, khi chúng tôi chỉnh sửa một tin nhắn vi phạm chính sách từ ngữ thô tục của chúng tôi — đó vẫn là vi phạm và các quy tắc vẫn áp dụng. Người dùng tiếp tục cố gắng chửi thề trong chat vẫn sẽ phải đối mặt với hậu quả tương tự do vi phạm chính sách của chúng tôi nhiều lần. 

Hãy xem hệ thống này như một tay lái, chứ không phải là biển báo dừng: Nếu một tin nhắn vi phạm chính sách của chúng tôi, tất cả mọi người trong cuộc trò chuyện sẽ được thông báo rằng văn bản đã được chỉnh sửa để duy trì sự lịch sự. Bằng cách khớp các từ bị hạn chế với các cụm từ mà người dùng thực sự sử dụng trong cuộc trò chuyện hàng ngày, chúng tôi giúp duy trì sự tôn trọng trong cuộc trò chuyện mà không làm mất đi cảm giác chân thực hay dòng chảy tự nhiên. Bằng cách thay thế các biển báo dừng bằng hướng dẫn thời gian thực, chúng tôi có thể giảm bớt một số ma sát — đồng thời vẫn củng cố các quy tắc chống lại việc chửi thề.

Chúng tôi vẫn đang trong giai đoạn đầu tiên của việc diễn đạt lại và cung cấp thêm bối cảnh cho người dùng khi văn bản bị chặn. Theo thời gian, giống như bất kỳ công cụ dịch thuật AI nào, công cụ này sẽ ngày càng chính xác và tinh tế hơn trong việc giữ nguyên giọng điệu hoặc bối cảnh ban đầu của người dùng. Ưu tiên hàng đầu của chúng tôi vẫn là xây dựng một cách giao tiếp an toàn và văn minh trên Roblox, tiếp tục ưu tiên việc thông tin, giáo dục và hướng dẫn người dùng khi họ tìm hiểu các tiêu chuẩn của chúng tôi. 

Mặc dù việc diễn đạt lại giúp giảm bớt một số gián đoạn trong chat, hệ thống an toàn nhiều lớp của chúng tôi vẫn được áp dụng đối với các hành vi nghiêm trọng hơn. Tính năng diễn đạt lại chỉ khả dụng cho chat trong trải nghiệm, chỉ dành cho người dùng đã xác minh độ tuổi trong các nhóm tuổi tương tự và các Kết nối Đáng tin cậy của họ. Việc diễn đạt lại được hỗ trợ trong tất cả các ngôn ngữ hiện có thông qua các công cụ dịch tự động của chúng tôi. Mục tiêu của chúng tôi là đạt được mức độ chính xác cho phép chúng tôi giảm thiểu việc sử dụng ### cho đến khi có thể loại bỏ hoàn toàn, giúp giao tiếp kỹ thuật số trở nên tự nhiên và rõ ràng như một cuộc trò chuyện trực tiếp.

Trong quá trình phát triển tính năng này, chúng tôi đã tham khảo ý kiến các thành viên Hội đồng Thanh thiếu niên để xây dựng hệ thống phản ánh cách thức trò chuyện thực tế của thanh thiếu niên. Thành viên Hội đồng Sofia chia sẻ: "Chuyển sang tính năng chỉnh sửa câu theo thời gian thực giúp duy trì dòng chảy của cuộc trò chuyện đồng thời vẫn đảm bảo an toàn cho mọi người. Tính năng này nhẹ nhàng hướng tương tác trở lại đúng hướng và giúp mọi người cảm thấy được chào đón." 

Thành viên Hội đồng Thanh thiếu niên Jordyn cũng đồng ý. "Sự thay đổi này dạy người chơi suy nghĩ về cách họ giao tiếp và củng cố sự tương tác bằng cách thúc đẩy các mối quan hệ thân thiện," Jordyn nói. "Việc chuyển sang tính năng diễn đạt lại tạo ra một điểm trung gian giữa yêu cầu của người chơi và các tiêu chuẩn an toàn cần thiết."  

Bộ lọc văn bản được cải thiện: Phát triển từ các mẫu sang ngữ cảnh

Các tính năng an toàn của chúng tôi liên tục phát triển để phù hợp với cách người dùng trò chuyện trên Roblox. Bộ lọc văn bản của chúng tôi được huấn luyện để phát hiện và chặn mọi nội dung vi phạm Tiêu chuẩn Cộng đồng. Điều này cần diễn ra trên quy mô toàn cầu và theo thời gian thực, khi người dùng đang trò chuyện.

Ban đầu, hệ thống này có hai thành phần: 1) Hệ thống dựa trên quy tắc được thiết kế để phát hiện và chặn nội dung vi phạm quy tắc của chúng tôi trong vòng vài phút khi các sự kiện thực tế xảy ra. 2) Bộ mô hình chuyên biệt được đào tạo từ một mô hình lớn hơn, dựa trên tập dữ liệu mô phỏng và thực tế được cập nhật liên tục để bao gồm các loại ngôn ngữ đang phát triển. 

Các mô hình chuyên biệt này rất giỏi trong các tác vụ cụ thể, như tìm danh sách các từ bị cấm, nhưng chúng không thể suy luận tốt, nên không hiệu quả trong việc phát hiện các thuật ngữ đang phát triển. Các mô hình cực lớn không hoạt động theo thời gian thực, và hiện tượng ảo giác (hoặc phân loại sai) thường làm tăng tỷ lệ cảnh báo sai. 

Trong bản cập nhật này, chúng tôi đã giới thiệu một thành phần thứ ba mới vào hệ thống lọc văn bản của mình. Giờ đây, khi các mô hình chuyên biệt không chắc chắn liệu một nội dung có vi phạm quy tắc hay không, chúng sẽ được chuyển đến các mô hình rất lớn, vốn giỏi hơn trong việc suy luận và đánh giá bối cảnh rộng hơn. Các mô hình lớn này có thể đưa ra các quyết định phức tạp hơn. 

Các thử nghiệm của chúng tôi cho thấy phương pháp kết hợp này đã cải thiện đáng kể hiệu quả của bộ lọc. Các bộ lọc hiện có thể phát hiện tốt hơn các trường hợp sử dụng "leet-speak" (thay thế chữ cái bằng số hoặc ký tự) và các nỗ lực tinh vi hơn nhằm vượt qua bộ lọc. Không có hệ thống nào là hoàn hảo, nhưng chúng tôi rất phấn khởi vì sự đổi mới mới nhất này đã giúp giảm tỷ lệ kết quả âm tính giả liên quan đến việc chia sẻ hoặc yêu cầu thông tin cá nhân (như tài khoản mạng xã hội hoặc số điện thoại) xuống 20 lần.

Đây là một phương pháp mới táo bạo và chúng tôi sẽ không phải lúc nào cũng diễn đạt mọi thứ một cách hoàn hảo. Nhưng chúng tôi sẽ tiếp tục học hỏi và thử nghiệm trong quá trình phát triển, đồng thời tiếp tục giảm số lượng ##### mà người dùng nhìn thấy trong các cuộc trò chuyện của họ, với mục tiêu dài hạn là loại bỏ chúng hoàn toàn. Mục tiêu cuối cùng của chúng tôi là trao quyền cho người dùng hợp tác và kết nối theo cách vừa thú vị vừa tôn trọng lẫn nhau.