Veiligheidsinnovatie bij Roblox
We werken voortdurend aan het versterken van onze beveiligingssystemen, investeren in nieuwe beschermingsmaatregelen en verwijderen kwaadwillende gebruikers zodra we ze opsporen. Naarmate er nieuwe tactieken opduiken, het gedrag van gebruikers verandert en er wereldwijd nieuwe regelgeving wordt ingevoerd, passen we ons aan en zoeken we naar manieren om onze ingebouwde beveiliging te versterken.
Schatting van de gezichtsleeftijd
Leeftijdscontroles helpen ons om gebruikers vanaf het begin in een voor hun leeftijd geschikte omgeving te plaatsen en zorgen ervoor dat ouders het juiste inzicht en de juiste controle hebben over hun kinderen.
Gezichtsleeftijdsschatting is ons snelste proces voor leeftijdsverificatie. Deze technologie maakt gebruik van livebeelden om het aantal valse leeftijdsverificaties te verminderen. Afbeeldingen en video's die worden gebruikt voor gezichtsleeftijdsschatting worden verwijderd nadat ze op een veilige manier zijn verwerkt.
Geavanceerde gamemoderatie
Alle games op Roblox worden voortdurend gecontroleerd en gemodereerd op alles wat in strijd is met onze communityrichtlijnen. We maken gebruik van zowel menselijke als kunstmatige intelligentie om het aantal overtredingen te verminderen.
Multimodale moderatie
Traditionele AI-moderatiesystemen beoordelen één object tegelijk en zien combinaties over het hoofd die kunnen leiden tot schadelijke afbeeldingen of inhoud. Ons multimodale systeem legt contextuele scènes of situaties vast.
Vroegtijdige detectie van gevaren
Ons open-source model, Roblox Sentinel, helpt ons veiligheidsteam bij het prioriteren van chats die aandacht vereisen.
Rapportage in de game
Spelersmeldingen leveren een cruciale bijdrage aan ons werk om mogelijke schendingen van de spelregels al vroeg in wedstrijden op te sporen. Om onze beoordeling van deze meldingen te verbeteren, hebben we onze meldingstool in de game aangepast.
Chatfilters en moderatie
Chat is een van de dingen die gebruikers zo leuk vinden aan Roblox. Om deze functie te behouden en tegelijkertijd de communicatie zo leeftijdsgeschikt en veilig mogelijk te houden, hebben we updates doorgevoerd die gebruikers helpen om interacties die in strijd zijn met het beleid te vermijden.
Onze veiligheidsfuncties voor de chat zijn alleen beschikbaar op Roblox. Houd je gesprekken op Roblox; verplaats gesprekken met anderen niet naar andere websites, waar de beveiliging mogelijk minder streng is.
Filters
Er zijn chatfilters ingesteld om gesprekken te blokkeren die in strijd zijn met het beleid, waaronder het delen van persoonlijke gegevens.
Chatmonitoring
Alle chats worden gecontroleerd op ernstige schade, zowel in-game chats als directe chats. Dit omvat ons v3 open-source classificatiemodel voor spraakveiligheid, dat 22 nieuwe talen ondersteunt.
Herformulering van chat
Om gesprekken soepel te laten verlopen, zorgt onze functie voor het herschrijven van chatberichten ervoor dat berichten met grof taalgebruik automatisch worden aangepast naar een respectvollere taal.
Chatsamenvattingen
Om de spelervaring te verbeteren, laten onze chat-samenvattingen gebruikers zien wat anderen zeggen, zelfs als ze buiten hun leeftijdsgroep vallen. Dit zorgt voor een meer betrokken spelervaring zonder het risico op communicatie tussen verschillende generaties.
Haal meer uit digitale bronnen over veiligheid en welzijn
Onze innovatieve functies helpen om vanaf het begin veiligere omgevingen te creëren. Online omgevingen zijn echter complex en veranderen voortdurend. Hoewel we proberen de meeste kwaadwillenden op te sporen, kunnen er toch enkele door de mazen van het net glippen. Er zijn ook manieren om het online welzijn en digitale best practices te verbeteren.
We raden u aan om open en voortdurende gesprekken met uw kinderen te voeren over situaties die zich online kunnen voordoen en over praktijken voor digitaal welzijn.