Роскомнадзор протестирует систему выявления видеолжи

Национальный центр когнитивных разработок ИТМО создаст для Главного радиочастотного центра (ГРЧЦ, поведомственен Роскомнадзору) сервис Expert на основе искусственного интеллекта (ИИ). Он сможет анализировать видеозаписи и выявлять в них ложь и манипуляции. Об этом сообщает «Ъ» со ссылкой на источники и представителей ИТМО, Роскомнадзора и ГРЧЦ.

Данный сервис также способен быстро выявлять «дипфейки», то есть замену элементов изображения в оригинальном видео, с помощью которой создаются фейковые видеозаписи с заявлениями политиков и знаменитостей.

Один из собеседников издания рассказал, что прототип сервиса представили Роскомнадзору на заседании экспертного совета ГРЧЦ по ИИ в июле. Источник добавил, что решение заинтересовало участвовавшего в заседании главу Роскомнадзора Андрея Липова и он просил передать его ведомству на тестирование.

Система Expert анализирует видео или аудио, оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов.

Руководитель научно-исследовательской лаборатории «Когнитивная невербалика» НЦКР ИТМО Олег Басов пояснил, что английский выбран как самый распространенный язык: «Доработка системы для получения текста из речи на русском языке стоит в ближайших планах». Система прошла предварительное тестирование в преддверии выборов в Сенат США, рассказал Олег Басов: «Мы проанализировали опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе». По его словам, в заявлениях трех кандидатов система обнаружила скрытую агрессию, а одного из них удалось уличить во лжи.

Сейчас более 90% российских разработок, связанных с ИИ, построены на основе скачанных открытых зарубежных библиотек вместе с дата-сетами для их обучения, объясняет топ-менеджер профильной IT-компании:

«Поэтому разработка ИТМО адаптирована для английского языка. Для переобучения под русский потребуется большой массив данных и затраты».

Аналогичные разработки велись и на Западе: в 2017 году в США Университет Мэриленда и Дартмутский колледж создали нейросеть, распознающую ложь, которую обучали на видеозаписях судебных процессов. Распознаванием лжи в суде через ИИ также занималась американская Innocence Project, используя для анализа Amazon Mechanical Turk.