Нейросети предложили использовать для цензуры видеоигр

ГРЧЦ предлагает использовать нейросети для защиты граждан — в первую очередь детей — от вредоносной информации путём мониторинга внутриигрового контента. Об этом пишет «Ъ», ознакомившиймся с исследованием Научно-технического центра (НТЦ) ГРЧЦ, посвященным мировому опыту регулирования и применения искусственного интеллекта (ИИ).

Изданию в ведомстве пояснили,  что в качестве примеров такой информации можно привести наличие в игре сценариев и сюжетов, содержащих детскую порнографию, призывы к совершению самоубийств и употреблению наркотиков. Руководитель НТЦ ГРЧЦ Александр Федотов заявил, что:

«Игры становятся сложнее, а человек не может охватить всю полноту предлагаемых сюжетных развилок. Существуют игры с глубокими продуманными вселенными, в которых есть свои мифология, история, фольклор и книжные произведения. Для изучения подобного контента можно потратить сотни или тысячи часов, что для человека сложно. ИИ может помочь в этом».

В ГРЧЦ отмечают, что ИИ могут использовать как рекомендательный сервис. Однако решение по каждому признаку нарушения принимаются экспертом на основании всей имеющейся информации. В Роскомнадзоре рассказали изданию, что алгоритмы должны всегда быть под контролем человека, чтобы их использование не приводило к нарушению прав и свобод граждан.

Продюсер студии Owlcat Games Максим Фомичёв говорит, что проект подведомственного Роскомнадзору центра — это нейросетевая вспомогательная программа для автотестов, когда алгоритм сам пробегает по всем уровням игры, со всеми говорит и в итоге выдаёт отчет, в том числе с технической информацией.

По мнению основателя портала rawg.io и «Канобу» Гаджи Махтиева, подобная инициатива может создать сложности разработчикам игр:

«Прогонять большие игры через ИИ на предмет поиска чего-то незаконного или неэтичного в теории возможно, но это в результате может привести к ограничению доступности игры или платформ для их размещения. Дело в том, что одна из особенностей всех игровых вселенных сегодня — огромное количество пользовательского контента. В таком случае манипулировать „незаконным контентом“ станет проще, и под санкции можно подтянуть всё что угодно, включая сообщения в чате».

Сейчас игры перед релизом проходят принятые во всем мире фильтры, возрастные маркировки, проверку со стороны платформ, где они размещаются (PlayStation Store, Steam, AppStore и другие). Кроме того, есть и неформальные фильтры, когда сообщество активно придает огласке те или иные неоднозначные моменты в играх, подчеркивает Махтиев. Так, например, объясняет он, было с игрой «Hatred», авторов которой игроки начали обвинять в ультранасилии еще до релиза.