Оскорбления в чате – привычная вещь для игровой среды. Но компания Microsoft старается с этим бороться. Она внедряет новые механизмы для борьбы с оскорблениями. Сейчас новые средства доступны инсайдерами, но в течение осени они должны стать доступны всем игрокам.

Смысл нововведения заключается в следующем. Компания Microsoft дает возможность настроить уровень фильтрации сообщений для различных типов сообщений Xbox Live – личные сообщения, сообщения в клубах, сообщения в каналах активности и так далее. На данный момент система работает только с личными сообщениями.

Есть 4 уровня фильтрации:
  • Дружественный – рекомендуется включать для детских аккаунтов. Скрывает всю нецензурную брань и потенциально агрессивные сообщения.
  • Средний – грубые выражения пользователь сможет видеть, но мат и оскорбления от него скроют.
  • Взрослый – скрывает откровенные оскорбления в адрес собеседника.
  • Без фильтра – оставляет все, как есть.
Когда система фильтрации будет срабатывать, вместо сообщения в чате пользователь будет видеть соответствующее оповещение. При желании, он имеет возможность нажать на это сообщение, чтобы увидеть его.
При этом, если аккаунт является дочерним, выбрать степень доступной фильтрации сообщений для него может аккаунт-родитель. По-умолчанию, для дочерних аккаунтов будет устанавливаться максимальный уровень защиты от оскорблений – «Дружественный». При этом, если учетная запись несовершеннолетнего человека, он не имеет возможность просмотреть сообщение, которое было заблокировано фильтром.
Microsoft уверяет, что данная система работает на основе искусственного интеллекта, что позволяет ей считывать контекст. Поскольку часто в играх бывают «жесткие» слова в названии режима или названии предмета, Microsoft не может просто фильтровать все «жесткие» слова, и ИИ старается понять контекст, после чего принимает решение о необходимости фильтрации – понимая, используется «жесткое» слово в качестве оскорбления или обозначения чего-либо.

Стоит отметить, что Microsoft в будущем обещает распространить данную систему и на голосовой чат. ИИ должен будет успевать в реальном времени «запикивать» мат.