Innowacje w zakresie bezpieczeństwa w serwisie Roblox
Nieustannie wzmacniamy nasze systemy bezpieczeństwa, inwestujemy w nowe zabezpieczenia i usuwamy nieuczciwych użytkowników, gdy tylko ich wykryjemy. W miarę pojawiania się nowych taktyk, ewolucji zachowań użytkowników oraz wprowadzania globalnych regulacji dostosowujemy się do sytuacji i poszukujemy sposobów na wzmocnienie naszych wbudowanych zabezpieczeń.
Oszacowanie wieku na podstawie twarzy
Weryfikacja wieku pomaga nam od samego początku kierować użytkowników do środowisk odpowiednich dla ich wieku oraz zapewnia rodzicom odpowiedni wgląd i kontrolę nad dziećmi.
Szacowanie wieku na podstawie twarzy to nasz najszybszy proces weryfikacji wieku. Technologia ta wykorzystuje materiał na żywo, aby ograniczyć przypadki błędnych wyników weryfikacji wieku. Zdjęcia i filmy wykorzystywane do szacowania wieku na podstawie twarzy są usuwane po ich bezpiecznym przetworzeniu.
Zaawansowana moderacja gier
Wszystkie gry na platformie Roblox są na bieżąco sprawdzane i moderowane pod kątem wszelkich naruszeń naszych Standardów społeczności. Wykorzystujemy zarówno inteligencję ludzką, jak i sztuczną, aby ograniczyć liczbę naruszeń.
Moderacja multimodalna
Tradycyjne systemy moderacji oparte na sztucznej inteligencji oceniają pojedyncze obiekty i pomijają kombinacje, które mogą skutkować szkodliwymi obrazami lub treściami. Nasz system multimodalny rozpoznaje sceny i sytuacje w kontekście.
Wczesne wykrywanie zagrożeń
Nasz model open source, Roblox Sentinel, pomaga naszemu zespołowi ds. bezpieczeństwa użytkowników ustalać priorytety czatów wymagających uwagi.
Raportowanie w grze
Zgłoszenia od graczy mają kluczowe znaczenie dla naszej pracy polegającej na wczesnym wykrywaniu potencjalnych naruszeń zasad podczas rozgrywek. Aby usprawnić ocenę tych zgłoszeń, wprowadziliśmy zmiany w naszym narzędziu do zgłaszania naruszeń w trakcie rozgrywki.
Filtry czatu i moderacja
Czat to jedna z cech, za które użytkownicy cenią Roblox. Aby zachować tę funkcję, a jednocześnie zapewnić komunikację dostosowaną do wieku i jak najbezpieczniejszą, wprowadziliśmy aktualizacje, które pomagają użytkownikom unikać interakcji naruszających zasady.
Nasze funkcje bezpieczeństwa czatu są dostępne wyłącznie w serwisie Roblox. Prowadź rozmowy wyłącznie w serwisie Roblox; nie przenoś rozmów z nikim na inne strony internetowe, gdzie zabezpieczenia mogą nie być tak skuteczne.
Filtry
Filtry czatu mają na celu blokowanie rozmów naruszających zasady, w tym udostępnianie danych osobowych.
Monitorowanie czatu
Wszystkie czaty są monitorowane pod kątem treści stanowiących poważne zagrożenie, zarówno czaty w grze, jak i czaty bezpośrednie. Obejmuje to nasz model klasyfikatora bezpieczeństwa głosowego v3 typu open source, który obsługuje 22 nowe języki.
Przeformułowanie treści czatu
Aby ułatwić kontynuowanie rozmów, nasza funkcja przeformułowywania wiadomości na czacie automatycznie zastępuje wulgarne słowa w wiadomościach bardziej uprzejmym językiem.
Podsumowania czatów
Aby poprawić wrażenia z gry, nasze podsumowania czatu pozwalają użytkownikom zobaczyć, co mówią inni, nawet jeśli nie należą do tej samej grupy wiekowej. Pozwala to na bardziej angażującą rozgrywkę bez ryzyka komunikacji międzypokoleniowej.
Skorzystaj z dodatkowych zasobów dotyczących bezpieczeństwa i dobrego samopoczucia w świecie cyfrowym
Nasze innowacyjne funkcje pomagają tworzyć bezpieczniejsze środowiska od samego początku. Środowiska internetowe są jednak złożone i nieustannie się zmieniają. Chociaż staramy się wyłapać większość osób o złych zamiarach, niektóre z nich mogą się przed nami przedostać. Istnieją również sposoby na poprawę dobrego samopoczucia w sieci oraz najlepsze praktyki cyfrowe.
Zalecamy prowadzenie otwartych i ciągłych rozmów z dziećmi na temat sytuacji, które mogą wystąpić w sieci, oraz praktyk związanych z dobrym samopoczuciem w środowisku cyfrowym.