Минцифры разрабатывает платформу выявления дипфейков

Минцифры займется созданием платформы для выявления дипфейков, созданных с помощью технологий искусственного интеллекта (ИИ), рассказал «Ведомостям» представитель министерства. Соответствующее поручение министерству дал премьер Михаил Мишустин по итогам прошедшей в конце декабря 2023 г. стратегической сессии, посвященной нацпроекту «Экономика данных».

Когда планируется запустить систему и кто займётся её поддержкой, собеседник издания не уточнил. По его словам, на этапе обсуждения было «предложено предварительно провести научно-исследовательские работы по обозначенной тематике».

Разработка могла бы определять в видео и изображениях неестественные изменения или аномалии. Впрочем, логичнее было бы выявлять не внешние признаки дипфейка, а использование конкретной технологии, считают в компании-поставщике систем ИТ-безопасности T.Hunter.

Одно из возможных решений — поисковый робот, который сканирует видео, проверяет его уникальность и вероятность того, что оно сгенерировано, говорит гендиректор VisionLabs Дмитрий Марков. Но подобный подход потребует большого количества вычислительных ресурсов, отмечает он. Такие мощности может обеспечить крупный игрок российского телеком- или ИТ-рынка.

Инструмент, который планирует создать Минцифры, может быть реализован в виде плагина для браузера, который автоматически сканирует сайты на наличие ИИ-контента, рассуждает собеседник газеты на рынке. Однако для мониторинга соцсетей нужно будет получать доступ к API той или иной платформы и разрабатывать специальное ПО.