Roblox의 안전 혁신
당사는 안전 시스템을 지속적으로 강화하고, 새로운 보호 기능에 투자하며, 악의적인 사용자를 발견할 경우 즉시 차단하고 있습니다. 새로운 수법이 등장하고, 사용자 행동이 변화하며, 전 세계적인 규제가 도입됨에 따라 당사는 이에 발맞춰 내장된 보호 기능을 강화할 방안을 모색하고 있습니다.
얼굴 나이 추정
연령 확인을 통해 사용자를 처음부터 연령에 적합한 환경에 배치할 수 있으며, 부모가 자녀에 대해 적절한 모니터링과 통제권을 행사할 수 있도록 돕습니다.
‘얼굴 연령 추정’은 당사의 가장 신속한 연령 확인 절차입니다. 이 기술은 실시간 영상을 활용하여 잘못된 연령 확인 사례를 줄여줍니다. 얼굴 연령 추정에 사용된 이미지와 동영상은 안전하게 처리된 후 삭제됩니다.
고급 게임 관리
Roblox의 모든 게임은 커뮤니티 기준을 위반하는 내용이 있는지 지속적으로 검토 및 관리됩니다. 당사는 위반 사례를 줄이기 위해 인간과 기계 지능을 모두 활용하고 있습니다.
다중 모드 검토
기존의 AI 모니터링 시스템은 한 번에 하나의 객체만 평가하기 때문에, 유해한 이미지나 콘텐츠를 초래할 수 있는 조합을 놓치기 쉽습니다. 당사의 다중 모달 시스템은 맥락적인 장면이나 상황을 포착합니다.
조기 위험 감지
당사의 오픈소스 모델인 ‘Roblox Sentinel’은 인간 안전 팀이 주의가 필요한 채팅을 우선순위로 선정하는 데 도움을 줍니다.
게임 내 보고
플레이어 신고는 경기 초반에 발생할 수 있는 정책 위반 사항을 조기에 파악하는 데 있어 매우 중요한 역할을 합니다. 이러한 신고에 대한 평가 정확도를 높이기 위해, 게임 내 신고 도구를 개선했습니다.
채팅 필터 및 관리
채팅은 사용자들이 Roblox를 좋아하는 이유 중 하나입니다. 이 기능을 유지하면서도 소통이 연령에 적합하고 최대한 안전하게 이루어지도록 하기 위해, 정책 위반 상호작용을 방지하는 데 도움이 되는 업데이트를 적용했습니다.
로블록스만의 채팅 안전 기능이 제공됩니다. 대화를 로블록스 내에서만 진행해 주시고, 보호 기능이 충분히 갖춰지지 않은 다른 웹사이트로 대화를 옮기지 마십시오.
필터
개인 정보 공유를 포함하여 정책을 위반하는 대화를 차단하기 위해 채팅 필터가 적용되어 있습니다.
채팅 모니터링
게임 내 채팅과 개인 채팅을 막론하고 모든 채팅은 심각한 피해 발생 여부를 모니터링합니다. 여기에는 22개의 새로운 언어를 지원하는 당사의 v3 오픈소스 음성 안전 분류기 모델도 포함됩니다.
채팅 문구 재구성
대화가 원활하게 이어질 수 있도록, 당사의 채팅 문장 수정 기능은 욕설이 포함된 메시지를 자동으로 더 예의 바른 표현으로 수정합니다.
채팅 요약
게임 내 경험을 향상시키기 위해, 당사의 채팅 요약 기능을 통해 사용자는 자신의 연령대와 다른 사용자들의 대화 내용도 확인할 수 있습니다. 이를 통해 세대 간 소통으로 인한 위험 없이 더욱 몰입도 높은 게임 플레이를 즐길 수 있습니다.
디지털 안전 및 웰빙 리소스를 통해 더 많은 혜택을 누리세요
당사의 혁신적인 기능은 처음부터 더 안전한 환경을 조성하는 데 도움을 줍니다. 하지만 온라인 환경은 복잡하고 끊임없이 변화합니다. 당사는 대부분의 악의적인 사용자를 차단하기 위해 노력하고 있지만, 일부는 이를 뚫고 들어올 수도 있습니다. 또한 온라인 웰빙과 디지털 모범 사례를 개선할 수 있는 방법들도 있습니다.
자녀와 함께 온라인에서 발생할 수 있는 상황과 디지털 웰빙 실천 방법에 대해 솔직하고 지속적인 대화를 나누실 것을 권장합니다.