14 May 2024

В России будут маркировать созданный с помощью нейросетей контент

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И (ИЛИ) РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ «РОСКОМСВОБОДА» ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА «РОСКОМСВОБОДА». 18+
Разработку соответствующего законопроекта рассматривают в Госдуме, объясняя это опасностью появления большого количества никем не проверенных фактов, цифр и данных.

В Государственной думе обсуждается возможность введения закона о маркировке контента, сгенерированного при помощи нейронных сетей. Эту информацию предоставил член комитета Госдумы по информационной политике Антон Немкин.

По мнению депутата, в интернете уже настолько много информации, созданной с помощью ботов, алгоритмов и других инструментов, что становится сложно отличить реальное от вымышленного. Парламентарий также добавил:

«А если рассматривать отдаленную перспективу, то развитие ИИ-сервисов без необходимого контроля несет опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных».

По словам Немкина, человеку важно иметь представление о том, с чем он имеет дело, отличать реальное от нереального, как и в случае с рекламой, — пользователя очень легко обмануть и завлечь куда-то, а задача государства не позволить это сделать.

«На мой взгляд, маркировка должна осуществляться при помощи графических или водяных знаков. Главное, чтобы такая маркировка была ненавязчивой, но при том четкой и заметной для любого пользователя, чтобы он понимал, какой контент перед ним и мог более тщательно его анализировать», — подчеркнул Немкин.

В силу того, что пока не ясно, какая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, российские ИИ-сервисы должны автоматически маркировать любые сгенерированные тексты. В первую очередь, задуматься над подобными технологиями цифровой маркировки изображений нужно российским компаниям, развивающим компетенции в области генеративных нейросетей - прежде всего, «Сберу» и «Яндексу», предложил Немкин:

«Тем не менее, учитывая, что часть контента, созданного с использованием искусственного интеллекта, создается в деструктивных целях, нерационально ждать его маркировки от создателей. В связи с этим было бы логично наделить новыми полномочиями, например, Роскомнадзор, специалисты которого могли бы проводить экспертизу для выявления такого контента, если его создатели стараются все же избежать маркировки. После выявления такой контент должен будет принудительно маркироваться на площадках его распространения или же блокироваться в случае, если он распространяется в противоправных целях».

Предложение маркировать созданный ИИ контент, как это делают Meta (признана «экстремистской организацией» и запрещена в России), TikTok и YouTube, было озвучено в РФ в феврале текущего года. После этого к данной идее неоднократно возвращались, в том числе сопредседатель ИТ-комитета Госдумы Антон Горелкин.

Contacts

For general questions

[email protected]

For legal questions

[email protected]

Contacts for media:

Telegram: moi_fee
Signal: moi_fee.13

18+

On December 23, 2022, the Ministry of Justice included Roskomsvoboda in the register of unregistered public associations performing the functions of a foreign agent. We disagree with this decision and are appealing it in court.