Nowe podejście do czatu dla zabawy, rozgrywki i kultury osobistej

• Naturalna, płynna rozmowa jest kluczowa w grach, w których grają razem zespoły lub społeczności. 
• Ciągi znaków #####, które zastępują zablokowane nieodpowiednie słowa, mogą zakłócać czat, utrudniać śledzenie rozmowy i przerywać rozgrywkę.
• Aby czat przebiegał płynnie i był pełen szacunku, ulepszamy nasze filtry czatu i zamieniamy wulgaryzmy na słowa zgodne z naszymi wytycznymi.
• To pierwszy krok na naszej długiej drodze do ograniczenia #####, aby zapewnić bardziej naturalne wrażenia z czatu. Będziemy nadal uczyć się, udoskonalać i rozwijać nasze narzędzia, aby wspierać bezpieczny i kulturalny czat, w tym dodatkowe opcje kontroli dla użytkowników.

Każdego dnia miliony ludzi łączą się i grają na Roblox, gdzie komunikacja w czasie rzeczywistym jest ważna dla wyrażania się użytkowników i koordynowania rozgrywki. Wykorzystanie filtrów AI do blokowania problematycznego tekstu (widocznego dla użytkowników jako #####) zawsze było kluczowym elementem naszego podejścia do bezpieczeństwa i zwiększania kultury rozmów. Te znaki hash są generowane w czasie rzeczywistym i pomagają użytkownikom zrozumieć, kiedy coś, co wpisują, jest niedozwolone. Oczywiście, gdy użytkownicy wielokrotnie łamią zasady, ponoszą konsekwencje wykraczające poza zamianę ich słów na ###.

W maju 2025 r. wprowadziliśmy proaktywne ostrzeżenia w czasie rzeczywistym, aby pomóc użytkownikom zrozumieć nasze zasady. Są one obecnie aktywne zarówno w czacie tekstowym, jak i głosowym. Powiadomienia te informują użytkowników o złamaniu zasady, zachęcają ich do ponownego przemyślenia języka, jakim się posługują, i pomagają im stać się lepszymi obywatelami cyfrowymi. W zeszłorocznych eksperymentach zauważyliśmy, że wysyłanie powiadomień w czacie tekstowym w ramach aplikacji oraz stosowanie czasowych blokad spowodowało 5-procentowy spadek liczby filtrowanych wiadomości na czacie oraz 6-procentowy spadek konsekwencji wynikających ze zgłoszeń nadużyć.

Dzisiaj dodajemy kolejną funkcję, która pomoże utrzymać kulturę w czacie tekstowym w ramach aplikacji: wykorzystujemy sztuczną inteligencję do automatycznego przeformułowywania wiadomości, zaczynając od wulgaryzmów. W miarę rozwoju tych systemów tworzą one koło zamachowe kultury, w którym informacje zwrotne w czasie rzeczywistym pomagają użytkownikom uczyć się i stosować nasze Standardy społeczności. Wszyscy użytkownicy, a nie tylko nadawca wiadomości, widzą, jaki język jest dozwolony w Roblox (a nadawca widzi, co jest niedozwolone). Zapewnia to więcej informacji zwrotnych użytkownikom, którzy mogą nie znać zasad, i opiera się na naszych podstawach filtrowania i ostrzeżeń w czasie rzeczywistym, aby wspierać bezpieczne, kulturalne i przyjemne rozmowy w Roblox. 

Przeformułowywanie czatu w czasie rzeczywistym: przejście od znaków stopu do wskazówek

Dla wielu użytkowników ciąg znaków ##### może oznaczać ślepą uliczkę w rozmowie, bez wskazówek, jak przeformułować swoje sformułowania, aby były zgodne z naszymi Standardami społeczności. Często może to powodować zamieszanie i utrudniać współpracę zespołów w grze. Wyobraź sobie, że ktoś próbuje powiedzieć znajomemu, że za nim jest potwór, i pisze coś w stylu „Uważaj! Za tobą jest pieprzony potwór, ahhh!”, żeby go ostrzec. Znajomy widzi tylko „###########”. To nie jest zbyt pomocne. 

Od dzisiaj filtrowany tekst będzie tłumaczony na bardziej uprzejmy język, który nadal będzie brzmiał naturalnie dla użytkowników Roblox. W momencie uruchomienia ta zmiana sformułowań w czasie rzeczywistym skupia się na wulgaryzmach. Na przykład „Pospiesz się, kurwa!” może stać się „Pospiesz się!”, co jest znacznie bliższe pierwotnemu zamysłowi niż #####. Żeby było jasne: kiedy zmieniamy sformułowanie wiadomości, która narusza nasze zasady dotyczące wulgaryzmów, nadal jest to naruszenie i nadal obowiązują te same zasady. Użytkownik, który nadal próbuje przeklinać na czacie, nadal poniesie te same konsekwencje za wielokrotne naruszanie naszych zasad. 

Pomyśl o tym systemie raczej jak o kierownicy, a nie o znaku stopu: jeśli wiadomość narusza nasze zasady, wszyscy na czacie otrzymują powiadomienie, że tekst został przeformułowany, aby zachować kulturę rozmowy. Dopasowując słowa objęte ograniczeniami do zwrotów, których użytkownicy faktycznie używają w codziennych rozmowach, pomagamy zachować szacunek na czacie bez utraty autentycznego charakteru i płynności rozmowy. Zastępując te znaki stopu wskazówkami w czasie rzeczywistym, możemy zmniejszyć część tych tarć — i nadal wzmacniać nasze zasady dotyczące przekleństw.

Wciąż jesteśmy na początku drogi, jeśli chodzi o przeformułowywanie i dostarczanie użytkownikom dodatkowego kontekstu w przypadku zablokowania tekstu. Z czasem, podobnie jak w przypadku każdego narzędzia do tłumaczenia opartego na sztucznej inteligencji, będzie ono coraz dokładniejsze i bardziej dopracowane w zakresie zachowania oryginalnego tonu lub kontekstu wypowiedzi użytkownika. Naszym priorytetem pozostaje stworzenie bezpiecznego i kulturalnego sposobu komunikacji w serwisie Roblox, który nadal będzie kładł nacisk na informowanie, edukowanie i doradzanie naszym użytkownikom w miarę jak poznają nasze standardy. 

Chociaż przeformułowywanie zmniejsza niektóre zakłócenia w czacie, nasz wielowarstwowy system bezpieczeństwa pozostaje w mocy w przypadku poważniejszych zachowań. Przeformułowywanie jest dostępne wyłącznie w czacie w ramach doświadczenia, który jest dostępny tylko dla użytkowników o zweryfikowanym wieku w podobnych grupach wiekowych oraz ich zaufanych kontaktów. Przeformułowania są obsługiwane we wszystkich językach dostępnych obecnie za pośrednictwem naszych narzędzi do automatycznego tłumaczenia. Naszym celem jest osiągnięcie takiego poziomu dokładności, który pozwoli nam ograniczyć stosowanie symbolu ###, aż do całkowitego wycofania go, dzięki czemu komunikacja cyfrowa stanie się tak naturalna i jasna jak rozmowa twarzą w twarz.

Podczas opracowywania tej funkcji konsultowaliśmy się z członkami naszej Rady Nastolatków, aby stworzyć system odzwierciedlający sposób, w jaki nastolatki faktycznie rozmawiają. Członkini Rady, Sofia, powiedziała nam: „Przejście na przeformułowywanie w czasie rzeczywistym pozwala zachować płynność rozmowy, a jednocześnie pomaga zapewnić wszystkim bezpieczeństwo. Delikatnie kieruje interakcję z powrotem na właściwe tory i sprawia, że ludzie czują się mile widziani”. 

Członkini Teen Council, Jordyn, zgadza się z tym. „Ta zmiana uczy graczy, jak komunikować się, i wzmacnia interakcje, sprzyjając nawiązywaniu przyjaznych relacji” – powiedziała Jordyn. „Przejście na przeformułowywanie pozwala znaleźć kompromis między prośbami graczy a niezbędnymi standardami bezpieczeństwa”.  

Ulepszone filtry tekstowe: ewolucja od wzorców do kontekstu

Nasze funkcje bezpieczeństwa nieustannie ewoluują, aby dostosować się do sposobu, w jaki użytkownicy rozmawiają na Roblox. Nasze filtry tekstowe są wyszkolone do wykrywania i blokowania wszystkiego, co jest sprzeczne z naszymi Standardami społeczności. Musi to odbywać się na skalę globalną i w czasie rzeczywistym, podczas gdy użytkownicy prowadzą rozmowy.

Początkowo system ten składał się z dwóch elementów: 1) System oparty na regułach, zaprojektowany do wykrywania i blokowania treści naruszających nasze zasady w ciągu kilku minut od wystąpienia zdarzeń w świecie rzeczywistym. 2) Zestaw wyspecjalizowanych modeli, które zostały wytrenowane na podstawie większego modelu, opartego na zestawie symulowanych i rzeczywistych próbek, które są stale aktualizowane w celu uwzględnienia ewoluujących typów języka. 

Te wyspecjalizowane modele bardzo dobrze radzą sobie z konkretnymi zadaniami, takimi jak wyszukiwanie listy niedozwolonych słów, ale nie potrafią zbyt dobrze rozumować, więc nie są dobre w wykrywaniu terminów, które ewoluują. Bardzo duże modele nie działają w czasie rzeczywistym, a halucynacje (lub błędne kategoryzacje) często zwiększają liczbę fałszywych alarmów. 

W tej aktualizacji wprowadziliśmy nowy, trzeci komponent do naszego systemu filtrowania tekstu. Teraz, gdy wyspecjalizowane modele nie mają pewności, czy coś narusza zasady, czy nie, są one wysyłane do bardzo dużych modeli, które lepiej radzą sobie z wnioskowaniem i oceną szerszego kontekstu. Te duże modele mogą podejmować bardziej złożone decyzje. 

Nasze eksperymenty pokazują, że to połączone podejście znacznie poprawiło działanie naszych filtrów. Filtry mogą teraz lepiej wykrywać język leet-speak, czyli litery zastąpione cyframi lub symbolami, oraz bardziej wyrafinowane próby obejścia naszych filtrów. Żaden system nie jest idealny, ale cieszymy się, że ta najnowsza innowacja pozwoliła nam 20-krotnie zmniejszyć liczbę fałszywych wyników negatywnych dotyczących udostępniania lub wyłudzania danych osobowych, takich jak nazwy użytkownika w mediach społecznościowych czy numery telefonów.

To śmiałe, nowe podejście i nie zawsze uda nam się idealnie przeformułować treści. Będziemy jednak nadal uczyć się i eksperymentować w miarę postępów oraz zmniejszać liczbę znaków ##### wyświetlanych użytkownikom na czatach, a naszym długoterminowym celem jest całkowite wyeliminowanie ich. Naszym ostatecznym celem jest umożliwienie użytkownikom współpracy i nawiązywania kontaktów w sposób, który jest zarówno przyjemny, jak i pełen szacunku.