Eğlence, Oyun ve Nezaket için Sohbeti Yeniden Düşünmek

• Takımların veya toplulukların birlikte oynadığı oyunlarda doğal ve akıcı bir sohbet hayati önem taşır. 
• Uygunsuz dilin engellendiği yerlerdeki ##### dizileri sohbeti bozabilir, takip etmeyi zorlaştırabilir ve oyun akışını kesintiye uğratabilir.
• Sohbetin akıcı ve saygılı bir şekilde devam etmesini sağlamak için sohbet filtrelerimizi geliştiriyor ve küfürlü kelimeleri kurallarımıza uygun kelimelerle değiştiriyoruz.
• Bu, daha doğal bir sohbet deneyimi için #####'leri azaltmaya yönelik uzun vadeli yolumuzun ilk adımıdır. Kullanıcılar için ek denetimler de dahil olmak üzere, güvenli ve medeni bir sohbeti desteklemek amacıyla araçlarımızı öğrenmeye, geliştirmeye ve iyileştirmeye devam edeceğiz.

Her gün milyonlarca kişi, kullanıcıların kendilerini ifade etmeleri ve oyun akışını koordine etmeleri için gerçek zamanlı iletişimin önemli olduğu Roblox'ta bağlantı kurup oyun oynuyor. Sorunlu metinleri engellemek için yapay zeka filtreleri kullanmak (kullanıcılara ##### olarak görünür), güvenlik ve nezaketi artırma yaklaşımımızın her zaman merkezinde yer almıştır. Bu hash işaretleri gerçek zamanlı olarak oluşturulur ve kullanıcıların yazdıkları bir şeyin izin verilmediğini anlamalarına yardımcı olur. Elbette, kullanıcılar kuralları tekrar tekrar ihlal ettiklerinde, sözlerinin ### olarak görünmesinden öte sonuçlarla karşı karşıya kalacaklardır.

Mayıs 2025'te, kullanıcıların politikalarımızı anlamalarına yardımcı olmak için proaktif, gerçek zamanlı uyarılar getirdik. Bu uyarılar artık hem metin hem de sesli sohbet için aktiftir. Bu bildirimler, kullanıcılara bir kuralı ihlal ettiklerinde bunu bildirir, bir dahaki sefere dil kullanımlarını yeniden gözden geçirmelerini ister ve daha iyi dijital vatandaşlar olmalarına yardımcı olur. Geçen yıl yapılan deneylerde, deneyim içi metin sohbet bildirimleri ve zaman aşımları uygulamanın, filtrelenen sohbet mesajlarında %5'lik bir azalma ve kötüye kullanım raporlarından kaynaklanan sonuçlarda %6'lık bir azalma sağladığını gördük.

Bugün, deneyim içi metin sohbetinin nezaket kuralları çerçevesinde kalmasına yardımcı olacak ek bir özellik ekliyoruz: Yapay zekayı kullanarak, küfürlü ifadelerden başlayarak mesajları otomatik olarak yeniden ifade ediyoruz. Bu sistemler ölçeklendikçe, gerçek zamanlı geri bildirimlerin kullanıcıların Topluluk Standartlarımızı öğrenmesine ve benimsemesine yardımcı olduğu bir nezaket döngüsü oluşturur. Sadece mesajın göndereni değil, tüm kullanıcılar Roblox'ta hangi dilin izinli olduğunu görebilir (gönderen ise izinli olmayanları görebilir). Bu, kuralları bilmeyen kullanıcılara daha fazla geri bildirim sağlar ve Roblox'ta güvenli, medeni ve eğlenceli sohbeti desteklemek için filtreleme ve gerçek zamanlı uyarılar temelimizi güçlendirir. 

Gerçek Zamanlı Sohbet Yeniden Düzenleme: Dur İşaretlerinden Rehberliğe Geçiş

Birçok kullanıcı için, ##### dizisi, Topluluk Standartlarımıza uymak için dilini nasıl yeniden düşünmesi gerektiğine dair hiçbir rehberlik sunmayan, sohbetin sonu anlamına gelebilir. Bu durum genellikle kafa karışıklığına neden olabilir ve oyun içindeki ekiplerin işbirliği yapmasını zorlaştırabilir. Birinin arkadaşına arkasında bir canavar olduğunu söylemeye çalıştığını ve onu uyarmak için "Dikkat et! Arkanda lanet bir canavar var!" gibi bir şey yazdığını hayal edin. Arkadaşı sadece "###########" görür. Bu pek yardımcı olmaz. 

Bugünden itibaren, filtrelenen metinler Roblox kullanıcıları için hala doğal hissettiren daha saygılı bir dile çevrilecektir. Başlangıçta, bu gerçek zamanlı yeniden ifade etme işlemi küfürlere odaklanmaktadır. Örneğin, "Hurry tf up!" ifadesi "Hurry up!" haline gelebilir; bu, #####'dan çok daha fazla orijinal niyete yakındır. Açıkça belirtmek gerekirse, küfür politikamızı ihlal eden bir mesajı yeniden ifade ettiğimizde, bu yine de bir ihlal sayılır ve aynı kurallar geçerli olmaya devam eder. Sohbette küfür etmeye devam eden bir kullanıcı, politikamızı tekrar tekrar ihlal ettiği için yine aynı sonuçlarla karşı karşıya kalacaktır. 

Bu sistemi bir dur işareti yerine bir direksiyon simidi olarak düşünün: Bir mesaj politikamızı ihlal ederse, sohbetteki herkese, ortamın nezaketini korumak için metnin yeniden ifade edildiği bildirilir. Yasaklanmış kelimeleri, kullanıcıların günlük sohbetlerinde gerçekten kullandıkları ifadelerle eşleştirerek, sohbetin özgün hissini veya akışını kaybetmeden saygılı kalmasına yardımcı oluyoruz. Bu dur işaretlerini gerçek zamanlı rehberlikle değiştirerek, bu sürtüşmenin bir kısmını azaltabilir ve yine de küfürle ilgili kurallarımızı güçlendirebiliriz.

Metin engellendiğinde, yeniden ifade etme ve kullanıcılara daha fazla bağlam sağlama konusunda henüz başlangıç aşamasındayız. Zamanla, diğer tüm AI çeviri araçları gibi, kullanıcının orijinal tonunu veya bağlamını koruma konusunda giderek daha doğru ve incelikli hale gelecektir. Önceliğimiz, kullanıcılarımızın standartlarımızı öğrenirken onları bilgilendirmeyi, eğitmeyi ve yönlendirmeyi ön planda tutan, Roblox'ta güvenli ve medeni bir iletişim ortamı oluşturmaktır. 

Yeniden ifade etme, sohbetteki bazı aksaklıkları azaltırken, daha ciddi davranışlar için çok katmanlı güvenlik sistemimiz yürürlükte kalmaya devam ediyor. Yeniden ifade etme, yalnızca benzer yaş gruplarındaki yaş doğrulaması yapılmış kullanıcılar ve Güvenilir Bağlantıları arasında kullanılabilen deneyim içi sohbet için mevcuttur. Yeniden ifade etme, otomatik çeviri araçlarımız aracılığıyla şu anda mevcut olan tüm dillerde desteklenmektedir. Amacımız, ### özelliğini tamamen kaldırabilene kadar onu azaltmamızı sağlayacak bir doğruluk düzeyine ulaşmak ve dijital iletişimi yüz yüze bir konuşma kadar doğal ve net hale getirmektir.

Bu özelliği geliştirirken, gençlerin gerçekte nasıl sohbet ettiğini yansıtan bir sistem oluşturmak için Gençlik Konseyi üyelerimize danıştık. Konsey üyesi Sofia bize şöyle dedi: "Gerçek zamanlı yeniden ifadeye geçmek, herkesin güvenliğini sağlarken sohbetin akışını da koruyor. Etkileşimi nazikçe doğru yola yönlendiriyor ve insanların kendilerini hoş karşılanmış hissetmelerine yardımcı oluyor." 

Gençlik Konseyi üyesi Jordyn de aynı fikirde. Jordyn, "Bu değişiklik, oyunculara iletişim kurma şekillerini düşünmelerini öğretir ve dostane bağlar kurarak etkileşimi güçlendirir," dedi. "Yeniden ifade etmeye geçmek, oyuncuların istekleri ile gerekli güvenlik standartları arasında bir orta yol sağlar."  

Geliştirilmiş Metin Filtreleri: Kalıplardan Bağlama Doğru Evrim

Güvenlik özelliklerimiz, kullanıcıların Roblox'ta sohbet etme şekline uygun kalmak için sürekli olarak gelişiyor. Metin filtrelerimiz, Topluluk Standartlarımıza aykırı olan her şeyi tespit etmek ve engellemek üzere eğitilmiştir. Bu, kullanıcılar sohbet ederken küresel ölçekte ve gerçek zamanlı olarak gerçekleşmelidir.

Başlangıçta bu sistem iki bileşenden oluşuyordu: 1) Gerçek dünyada olaylar meydana geldiğinde kurallarımızı ihlal eden içeriği dakikalar içinde tespit edip engellemek üzere tasarlanmış kural tabanlı bir sistem. 2) Sürekli güncellenerek gelişen dil türlerini de kapsayacak şekilde simüle edilmiş ve gerçek örnekler temelinde daha büyük bir modelden eğitilmiş bir dizi özel model. 

Bu özel modeller, izin vermediğimiz kelimelerin listesini bulmak gibi belirli görevlerde çok başarılıdır, ancak mantık yürütme konusunda çok iyi değildirler, bu nedenle gelişen terimleri bulmada pek başarılı olamazlar. Son derece büyük modeller gerçek zamanlı olarak çalışmaz ve halüsinasyonlar (veya yanlış kategorizasyonlar) genellikle yanlış pozitif sonuçları artırır. 

Bu güncellemede, metin filtre sistemimize yeni bir üçüncü bileşen ekledik. Artık, özel modeller bir şeyin kuralları ihlal edip etmediğinden emin olamadıklarında, daha iyi akıl yürütebilen ve daha fazla bağlamı değerlendirebilen çok büyük modellere gönderiliyorlar. Bu büyük modeller daha karmaşık kararlar alabilirler. 

Deneylerimiz, bu birleşik yaklaşımın filtrelerimizi önemli ölçüde iyileştirdiğini gösteriyor. Filtreler artık leet-speak'i (harflerin sayılar veya sembollerle değiştirilmesi) ve filtrelerimizi atlatmaya yönelik daha sofistike girişimleri daha iyi tespit edebiliyor. Hiçbir sistem mükemmel değildir, ancak bu en son yenilik sayesinde sosyal medya kullanıcı adları veya telefon numaraları gibi kişisel bilgilerin paylaşılması veya istenmesi konusunda yanlış negatiflerin yaygınlığını 20 kat azaltabildiğimiz için heyecan duyuyoruz.

Bu cesur ve yeni bir yaklaşımdır ve her zaman her şeyi mükemmel bir şekilde ifade edemeyebiliriz. Ancak ilerledikçe öğrenmeye ve denemeye devam edeceğiz ve kullanıcıların sohbetlerinde gördükleri ##### sayısını azaltmaya devam edeceğiz; uzun vadeli hedefimiz ise bunları tamamen ortadan kaldırmaktır. Nihai hedefimiz, kullanıcıların hem eğlenceli hem de saygılı bir şekilde işbirliği yapmalarını ve bağlantı kurmalarını sağlamaktır.