|
Компания объявила в четверг, что Roblox представляет функцию перефразирования в чате с использованием искусственного интеллекта в режиме реального времени, которая автоматически заменяет запрещенные слова на более уважительные.
Новая функция выходит за рамки текущего текстового фильтра Roblox, который просто заменяет запрещенные слова и фразы символом “#”. Но в Roblox говорят, что, когда пользователи сталкиваются со строками “####”, разговоры могут прерываться и за ними трудно уследить.
Теперь вместо простого отображения хэш-меток отфильтрованный текст будет перефразирован на более уважительный язык, близкий к первоначальным намерениям пользователя.
Например, сообщение с надписью “Поторопитесь!” ранее отображалось как “####”, но теперь будет перефразировано как “Поторопитесь!”. По словам Роблокса, все участники чата получают уведомление о том, что сообщение было перефразировано, чтобы поддерживать вежливый разговор.
“Чат играет центральную роль в том, как люди общаются, координируют свои действия и играют в Roblox”, - сказал Раджив Бхатия, вице-президент Roblox по продуктам для пользователей и поиска информации, в пресс-релизе . “Перефразирование в режиме реального времени помогает поддерживать игровой процесс и разговоры в нужном русле, направляя язык в нужное русло. Такой подход уменьшает трения в чате, сохраняя при этом стандарты, которые помогают нашему сообществу вести себя цивилизованно”.
Roblox отмечает, что, хотя перефразирование сокращает некоторые сбои в работе чата, его система безопасности остается в силе для более серьезного поведения.
Новая функция поддерживается на всех языках, доступных в настоящее время с помощью инструментов автоматического перевода Roblox.
Компания также модернизирует систему фильтрации текста, чтобы выявлять больше вариантов запрещенной лексики. Roblox сообщает, что первые результаты показывают, что система становится все лучше в обнаружении текстовых сообщений и более сложных попытках обойти фильтры. Это позволило компании в 20 раз снизить количество ложных срабатываний при передаче или запросе личной информации.
Объявление в четверг появилось вскоре после того, как Roblox ввел обязательную проверку лица для доступа к чатам на своей платформе после волны судебных исков по поводу безопасности детей от генерального прокурора штата Техас , Кентукки и Луизиана , среди прочих. Судебные иски были поданы в ответ на сообщения о том, что Roblox подвергает молодых пользователей опасным рискам, таким как уход за собой и откровенный контент.
