В Call of Duty: Modern Warfare III появится нейросеть для отслеживания токсичных высказываний
Она будет следить за поведением игроков в голосовом чате и отправлять модераторам жалобы.
В игру Call of Duty: Modern Warfare III добавят нейросеть ToxMod, которая отслеживает токсичные высказывания игроков. Она заработает 10 ноября.
Она реагирует на конкретные фразы игроков в реальном времени, а также оценивает тон и эмоциональность высказываний. Помимо этого, в расчёт берутся и реакции других игроков в сессии. Вычисления будут производиться на компьютере игрока, а данные хранятся на серверах.
Если нейросеть определит токсичные высказывания, разжигания ненависти или другие нарушения в голосовом чате, она отправит записи на проверку модераторам, чтобы те приняли меры в отношении нарушителей.
Нейросеть понимает только английский язык, но позже обучится и другим языкам. Тестирование ToxMod уже проходит в CoD: Modern Warfare II и CoD: Warzone в Северной Америке.