Chat neu gedacht: Spaß, Spielspaß und Höflichkeit

• Ein natürlicher, flüssiger Chat ist für Spiele, in denen Teams oder Communities zusammen spielen, unerlässlich. 
• Zeichenfolgen wie #####, die anstelle von unangebrachter Sprache erscheinen, können den Chat stören, schwer zu verstehen sein und das Spielgeschehen unterbrechen.
• Um einen flüssigen und respektvollen Chat zu gewährleisten, verbessern wir unsere Chat-Filter und ersetzen Schimpfwörter durch Begriffe, die unseren Richtlinien entsprechen.
• Dies ist der erste Schritt auf unserem langfristigen Weg zur Reduzierung von ##### für ein natürlicheres Chat-Erlebnis. Wir werden weiterhin lernen, iterieren und unsere Tools weiterentwickeln, um einen sicheren und höflichen Chat zu unterstützen, einschließlich zusätzlicher Kontrollmöglichkeiten für Nutzer.

Jeden Tag verbinden sich Millionen von Menschen auf Roblox und spielen dort, wo Echtzeitkommunikation für den Ausdruck der Nutzer und die Koordination des Spiels wichtig ist. Der Einsatz von KI-Filtern zum Blockieren problematischer Texte (für Nutzer als ##### sichtbar) war schon immer zentral für unseren Ansatz zur Sicherheit und zur Förderung eines höflichen Umgangs. Diese Hash-Zeichen werden in Echtzeit generiert und helfen den Nutzern zu verstehen, wenn etwas, das sie eingeben, nicht erlaubt ist. Wenn Nutzer wiederholt gegen die Regeln verstoßen, müssen sie natürlich mit Konsequenzen rechnen, die über das Ersetzen ihrer Worte durch ### hinausgehen.

Im Mai 2025 haben wir proaktive Echtzeit-Warnungen eingeführt, um Nutzern unsere Richtlinien näherzubringen. Diese sind nun sowohl für den Text- als auch für den Sprachchat aktiv. Diese Benachrichtigungen weisen Nutzer darauf hin, wenn sie gegen eine Regel verstoßen haben, fordern sie auf, ihre Wortwahl beim nächsten Mal zu überdenken, und helfen ihnen, bessere digitale Bürger zu werden. In Experimenten im letzten Jahr haben wir festgestellt, dass die Ausgabe von Benachrichtigungen im Text-Chat und von Zeitausfällen zu einer Reduzierung der gefilterten Chat-Nachrichten um 5 % und zu einer Verringerung der Konsequenzen aus Missbrauchsmeldungen um 6 % geführt hat.

Heute fügen wir eine weitere Funktion hinzu, um den Text-Chat innerhalb der Erfahrung höflich zu halten: Wir nutzen KI, um Nachrichten automatisch umzuformulieren, beginnend mit Schimpfwörtern. Wenn diese Systeme skalieren, schaffen sie einen Schwung für Höflichkeit, bei dem Echtzeit-Feedback den Nutzern hilft, unsere Community-Standards zu lernen und zu übernehmen. Alle Nutzer, nicht nur der Absender der Nachricht, sehen, welche Sprache auf Roblox erlaubt ist (und der Absender sieht, was nicht erlaubt ist). Dies bietet mehr Feedback für Nutzer, die die Regeln möglicherweise nicht kennen, und baut auf unserer Grundlage aus Filterung und Echtzeit-Warnungen auf, um sichere, höfliche und unterhaltsame Unterhaltungen auf Roblox zu fördern. 

Umformulierung im Echtzeit-Chat: Von Stoppschildern zu Hilfestellungen

Für viele Nutzer kann eine Reihe von ##### eine Sackgasse im Gespräch sein, ohne Anleitung, wie sie ihre Sprache umformulieren können, um unsere Community-Standards einzuhalten. Dies kann oft zu Verwirrung führen und die Zusammenarbeit von Teams innerhalb eines Spiels erschweren. Stellt euch vor, jemand versucht, seinem Freund zu sagen, dass sich ein Monster hinter ihm befindet, und tippt etwas wie „Pass auf! Da ist ein verdammtes Monster hinter dir, ahhh!“ ein, um ihn zu warnen. Der Freund sieht nur „###########“. Das ist nicht besonders hilfreich. 

Ab heute wird gefilterter Text in eine respektvollere Sprache umgewandelt, die sich für Roblox-Nutzer dennoch natürlich anfühlt. Zum Start konzentriert sich diese Umformulierung in Echtzeit auf Obszönitäten. Zum Beispiel könnte aus „Beeil dich verdammt noch mal!“ ein „Beeil dich!“ werden, was der ursprünglichen Absicht viel näher kommt als #####. Um es klar zu sagen: Wenn wir eine Nachricht umformulieren, die gegen unsere Richtlinie zu Schimpfwörtern verstößt, handelt es sich immer noch um einen Verstoß, und es gelten weiterhin dieselben Regeln. Ein Nutzer, der weiterhin versucht, im Chat zu fluchen, muss nach wie vor mit denselben Konsequenzen rechnen, da er wiederholt gegen unsere Richtlinie verstößt. 

Stellt euch dieses System eher als Lenkrad vor als als Stoppschild: Wenn eine Nachricht gegen unsere Richtlinien verstößt, werden alle im Chat darüber informiert, dass der Text umformuliert wurde, um den Umgangston höflich zu halten. Indem wir verbotene Wörter mit Ausdrücken abgleichen, die Nutzer tatsächlich im täglichen Chat verwenden, tragen wir dazu bei, den Chat respektvoll zu gestalten, ohne dabei das authentische Gefühl oder den Fluss zu verlieren. Indem wir diese Stoppschilder durch Echtzeit-Anleitungen ersetzen, können wir einige dieser Reibungspunkte verringern – und dennoch unsere Regeln gegen das Fluchen durchsetzen.

Wir stehen noch ganz am Anfang, was das Umformulieren und die Bereitstellung von mehr Kontext für Nutzer betrifft, wenn Text blockiert wird. Mit der Zeit wird es, wie jedes KI-Übersetzungstool, immer genauer und differenzierter darin, den ursprünglichen Tonfall oder Kontext eines Nutzers zu bewahren. Unsere Priorität bleibt es, eine sichere und höfliche Art der Kommunikation auf Roblox zu schaffen, die weiterhin darauf ausgerichtet ist, unsere Nutzer zu informieren, aufzuklären und anzuleiten, während sie unsere Standards kennenlernen. 

Während die Umformulierung einige Störungen im Chat reduziert, bleibt unser mehrschichtiges Sicherheitssystem für schwerwiegenderes Verhalten weiterhin in Kraft. Die Umformulierung ist ausschließlich für den Chat innerhalb von Erlebnissen verfügbar, der nur zwischen altersgeprüften Nutzern in ähnlichen Altersgruppen und ihren „Trusted Connections“ genutzt werden kann. Umformulierungen werden in allen Sprachen unterstützt, die derzeit über unsere automatischen Übersetzungstools verfügbar sind. Unser Ziel ist es, ein Maß an Genauigkeit zu erreichen, das es uns ermöglicht, die ### zu reduzieren, bis wir sie vollständig abschaffen können, um die digitale Kommunikation so natürlich und klar wie ein persönliches Gespräch zu gestalten.

Bei der Entwicklung dieser Funktion haben wir uns mit den Mitgliedern unseres Teen Council beraten, um ein System zu schaffen, das widerspiegelt, wie Teenager tatsächlich chatten. Council-Mitglied Sofia sagte uns: „Der Übergang zur Umformulierung in Echtzeit bewahrt den Gesprächsfluss und trägt gleichzeitig dazu bei, die Sicherheit aller zu gewährleisten. Er lenkt die Interaktion sanft wieder in die richtige Bahn und hilft den Leuten, sich willkommen zu fühlen.“ 

Teen Council-Mitglied Jordyn stimmt dem zu. „Diese Umstellung lehrt die Spieler, darüber nachzudenken, wie sie kommunizieren, und stärkt die Interaktion, indem sie freundschaftliche Beziehungen fördert“, sagte Jordyn. „Durch die Umstellung auf Umformulierungen wird ein Mittelweg zwischen den Wünschen der Spieler und den notwendigen Sicherheitsstandards geschaffen.“  

Verbesserte Textfilter: Von Mustern hin zum Kontext

Unsere Sicherheitsfunktionen werden ständig weiterentwickelt, um der Art und Weise gerecht zu werden, wie Nutzer auf Roblox chatten. Unsere Textfilter sind darauf trainiert, alles zu erkennen und zu blockieren, was gegen unsere Community-Standards verstößt. Dies muss weltweit und in Echtzeit geschehen, während die Nutzer chatten.

Anfangs bestand dieses System aus zwei Komponenten: 1) Ein regelbasiertes System, das darauf ausgelegt ist, Inhalte, die gegen unsere Regeln verstoßen, innerhalb von Minuten zu erkennen und zu blockieren, sobald Ereignisse in der realen Welt eintreten. 2) Eine Reihe spezialisierter Modelle, die auf der Grundlage eines größeren Modells trainiert wurden, basierend auf einer Reihe simulierter und realer Beispiele, die kontinuierlich aktualisiert werden, um sich weiterentwickelnde Sprachformen einzubeziehen. 

Diese spezialisierten Modelle sind sehr gut bei bestimmten Aufgaben, wie zum Beispiel dem Auffinden einer Liste von Wörtern, die wir nicht zulassen, aber sie können nicht besonders gut logisch schlussfolgern, sodass sie nicht gut darin sind, sich entwickelnde Begriffe zu erkennen. Extrem große Modelle funktionieren nicht in Echtzeit, und Halluzinationen (oder Fehlkategorisierungen) führen oft zu einer Zunahme von Fehlalarmen. 

In diesem Update haben wir eine neue, dritte Komponente in unser Textfiltersystem integriert. Wenn die spezialisierten Modelle nun nicht sicher sind, ob etwas gegen die Regeln verstößt oder nicht, werden sie an sehr große Modelle weitergeleitet, die besser logisch denken und mehr Kontext bewerten können. Diese großen Modelle können komplexere Entscheidungen treffen. 

Unsere Experimente zeigen, dass dieser kombinierte Ansatz unsere Filter deutlich verbessert hat. Die Filter können nun Leetspeak – also durch Zahlen oder Symbole ersetzte Buchstaben – sowie raffiniertere Versuche, unsere Filter zu umgehen, besser erkennen. Kein System ist jemals perfekt, aber wir freuen uns, dass wir dank dieser jüngsten Innovation die Häufigkeit von Fehlalarmen beim Teilen oder Abfragen persönlicher Informationen wie Social-Media-Handles oder Telefonnummern um das 20-Fache reduzieren konnten.

Dies ist ein mutiger neuer Ansatz, und wir werden die Formulierungen nicht immer perfekt hinbekommen. Aber wir werden im weiteren Verlauf weiter lernen und experimentieren und die Anzahl der #####, die Nutzer in ihren Chats sehen, weiter reduzieren, mit dem langfristigen Ziel, sie vollständig abzuschaffen. Unser oberstes Ziel ist es, Nutzer in die Lage zu versetzen, auf eine Weise zusammenzuarbeiten und Kontakte zu knüpfen, die sowohl Spaß macht als auch respektvoll ist.