Роскомнадзор предлагает использовать ИИ для мониторинга внутриигрового контента
Это якобы позволит оградить игроков от вредоносной информации: порнографии, призывов к совершению самоубийств и употреблению наркотиков.
Подконтрольный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) предложил использовать нейронные сети для мониторинга внутриигрового контента.
По задумке авторов инициативы, нейросети должны помочь оградить граждан, в частности, детей, от вредоносной информации: детской порнографии, призывов к совершению самоубийств и употреблению наркотиков. Руководитель НТЦ ГРЧЦ Александр Федотов отметил, что ИИ позволит ускорить поиск запрещённой информации, например, в игровых сценариях и сюжетах.
Игры становятся сложнее, а человек не может охватить всю полноту предлагаемых сюжетных развилок. Существуют игры с глубокими продуманными вселенными, в которых есть свои мифология, история, фольклор и книжные произведения. Для изучения подобного контента можно потратить сотни или тысячи часов, что для человека сложно. ИИ может помочь в этом, — Александр Федотов.
В ГРЧЦ уточнили, что ИИ может использоваться как рекомендательный сервис, который предоставляет информацию экспертам, а они, в свою очередь, уже будут принимать решение по каждому признаку нарушения. В Роскомнадзоре подчеркнули важность нахождения алгоритмов под контролем и надзором человека, чтобы их использование не приводило к нарушению прав и свобод граждан.
По словам руководителя Liquid Studio Accenture в России Арсения Кондратьева, при использовании комбинации нескольких нейросетей анализировать контент в играх и выявлять противоречивые моменты возможно, однако основная сложность заключается в том, что для каждой новой игры необходимо тренировать отдельную сеть, которая будет учиться её проходить. Реализовать это будет довольно затруднительно, добавил эксперт.
По мнению основателя портала rawg.io Гаджи Махтиева, инициатива ГРЧЦ может создать реальные сложности разработчикам игр:
Прогонять большие игры через ИИ на предмет поиска чего-то незаконного или неэтичного в теории возможно, но это в результате может привести к ограничению доступности игры или платформ для их размещения по формальным признакам. Одна из особенностей всех игровых вселенных сегодня — огромное количество пользовательского контента, когда сами люди в игре делают то, что им интересно, и в таком случае манипулировать «незаконным контентом» станет проще, и под санкции можно подтянуть всё что угодно, включая сообщения в чате.
Кроме того, сама инициатива кажется бесполезной, так как игры перед релизом проходят принятые во всем мире фильтры, получают возрастные маркировки и проверяются платформами, где они продаются. Также есть и неформальные фильтры, когда сообщество активно придаёт огласке те или иные неоднозначные моменты в играх, подытожил Махтиев.