Robloxにおける安全性の革新
当社は、安全体制の継続的な強化、新たな保護機能への投資、および悪意のあるユーザーを発見した際の排除に取り組んでいます。新たな手口が出現し、ユーザーの行動が変化し、世界的な規制が導入されるにつれ、当社は状況に適応し、組み込みの保護機能を強化する方法を模索しています。
顔の年齢推定
年齢確認により、ユーザーを最初から年齢に適した環境に誘導するとともに、保護者がお子様の利用状況を適切に把握し、管理できるよう支援します。
「顔年齢推定」は、当社で最も高速な年齢確認プロセスです。この技術はライブ映像を活用することで、誤った年齢判定の発生を低減します。「顔年齢推定」に使用された画像や動画は、安全に処理された後、削除されます。
高度なゲームモデレーション
Roblox上のすべてのゲームは、当社のコミュニティ基準に違反する内容がないか、一貫して審査および監視されています。違反事例を減らすため、人間による審査と機械学習の両方を活用しています。
マルチモーダルなモデレーション
従来のAIモデレーションシステムは、オブジェクトを1つずつ評価するため、有害な画像やコンテンツにつながる可能性のある組み合わせを見逃してしまいます。当社のマルチモーダルシステムは、文脈的な場面や状況を捉えます。
早期の危険検知
当社のオープンソースモデル「Roblox Sentinel」は、人間の安全対策チームが対応が必要なチャットを優先的に処理できるよう支援します。
ゲーム内レポート
プレイヤーからの報告は、試合の早い段階でポリシー違反の可能性を特定する上で、私たちの業務に欠かせない重要な情報源です。これらの報告の評価精度を高めるため、ゲーム内報告ツールを更新しました。
チャットのフィルタとモデレーション
チャットは、ユーザーがRobloxを気に入っている理由の一つです。この機能を維持しつつ、コミュニケーションを可能な限り年齢に適した安全な状態に保つため、ポリシー違反となるやり取りをユーザーが回避できるよう、更新を実施しました。
Roblox独自のチャット安全機能は、Roblox内でのみ有効です。会話はRoblox内にとどめてください。保護機能が十分でない可能性のある他のウェブサイトへ、誰との会話も持ち出さないでください。
フィルター
個人情報の共有など、ポリシーに違反する会話をブロックするため、チャットフィルターが導入されています。
チャットの監視
ゲーム内チャットおよびダイレクトチャットを問わず、すべてのチャットは重大な危害の有無について監視されています。これには、22の新しい言語に対応したv3オープンソースの音声安全分類モデルも含まれます。
チャットの言い換え
会話が円滑に進むよう、当社のチャット再表現機能は、不適切な表現を含むメッセージを自動的に、より礼儀正しい言葉遣いに修正します。
チャットの要約
ゲーム内体験を向上させるため、当社のチャットサマリーでは、たとえ自分の年齢層とは異なるユーザーであっても、他のユーザーが何を言っているかを確認できるようになっています。これにより、世代を超えたコミュニケーションによるリスクを伴わずに、より没入感のあるプレイ時間を楽しむことができます。
デジタルセキュリティとウェルビーイングに関するリソースを活用して、さらに多くのメリットを得ましょう
当社の革新的な機能は、最初からより安全な環境づくりを支援します。しかし、オンライン環境は複雑で、絶えず変化しています。悪意のあるユーザーのほとんどを検知するよう努めていますが、検知をすり抜ける者もいる可能性があります。また、オンラインでのウェルビーイングやデジタル上のベストプラクティスを向上させる方法もあります。
オンライン上で起こりうる状況や、デジタルウェルビーイングの実践方法について、お子様と率直かつ継続的な対話を重ねることをお勧めします。