30 октября 2024

VK будет защищать трафик с помощью анализа пользовательского поведения

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ «РОСКОМСВОБОДА» ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА «РОСКОМСВОБОДА». 18+
Работать эта система будет с помощью искусственного интеллекта, и во многом её использование оправданно, однако при этом эксперты сомневаются в безопасности для пользователей.
Фото: коллаж «Роскомсвобода» / Freepik / Canva

VK запускает собственную систему защиты от DDoS-атак и бот-активности на основе искусственного интеллекта (ИИ), рассказали «Ъ» в компании. Там объясняют, что ИИ-модели должны отличать вредоносный трафик от реальных всплесков активности на площадке. До конца года систему внедрят в работу большинства проектов компании: «VK Видео», ОК, «Дзен», Mail и др. Ранее они защищались комплексом решений, включая продукты вендоров информационной безопасности (ИБ).

«ИИ-модели обучены на обезличенных и обобщенных данных о поведении пользователей каждого сервиса VK»,— рассказали в компании. Нейросети позволяют на ранних стадиях выявлять вредоносный трафик, даже если он не отличается от органического. Также система должна выявлять программы-парсеры (собирают открытые данные о пользователях) и программы-брутфорсеры, которые автоматически перебирают пароли от аккаунтов, а также другую вредоносную активность на сервисах VK. Объем инвестиций в разработку в компании не раскрыли. При этом источник, близкий к вендору корпоративного ПО VK Tech (входит в группу VK) говорит, что рассматривается также вариант продажи WARP внешним заказчикам в виде облачного решения.

По мнению ИБ-специалистов и технических экспертов «Роскомсвободы», решение от VK действительно может повысить устойчивость к киберугрозам, но остаются вопросы в отношении приватности. «То, что готовит „ВКонтакте“, имеет смысл, — рассуждает первый эксперт:

«Например, благодаря подобной системе в Google перестал ходить фишинг. То есть сейчас очень тяжело отправить фишинговое сообщение кому-нибудь через гугловскую почту так, чтобы оно дошло. Потому что он сканирует все сообщения при помощи вот этого своего могучего искусственного интеллекта. И если гугловский ИИ понимает, что это нечто похоже на фишинг, то он сообщения просто не доставляет».

Facebook таким же способом борется с ботами. «Например, если кто-то отправил 15 сообщений за секунду или подключился, отправил 10 тысяч сообщений за полминуты, а потом отключился, то ИИ понимает, что перед ним бот», — объясняет специалист.

Всё это давно используется также для борьбы с преступным контентом. «Если, например, на картинке что-то похожее на детскую порнографию, система всё это блокирует и, допустим, сообщает правоохранителям. Так что для защиты от ботов, незаконного контента, защиты от DDoS-ов это хорошо, — рассуждает он. — Но хорошо ли с точки зрения приватности? Скорее нет. Наверняка „ВКонтакте“ сделает эту систему профессионально, классно, ботам станет тяжелее спамить в комментариях… Но вспоминая, как соцсеть взаимодействует с российскими силовиками, что из-за постов на людей заводили уголовные дела, это вряд ли на руку пользователям. Учитывая такую репутацию „ВКонтакте“, это вообще нехорошо».

Второй эксперт прогнозирует, что «100% будут ложные срабатывания, потому что никто заранее не может знать, по каким критериям этот их ИИ решит матчить невалидный трафик».

«По поводу слежки вопрос тоже дискуссионный, — рассуждает он, — потому что, с одной стороны, заявляется — «анализировать будет ИИ» (подразумевая что, в отличие от человека, у него нет причин для злоупотребления), а с другой — всё зависит от того, на что именно будут натаскивать эту модель во время обучения. И они же ведь не будут делиться этой информацией. А значит — там буквально может быть что угодно».

Соответственно, и для пользователей это может быть чем угодно, считает эксперт:

«...от относительного блага, которое может в итоге им принести в том числе „плюшки“ в виде защиты от спама, имперсонализации (фальшивых аккаунтов с их именами) и взломов их аккаунтов (если те, кто будут тренировать нейросеть и решат натренировать на такое поведение в том числе), и вплоть до абсолютного зла, которое будет анализировать поведение и „стучать куда надо“. Всё очень сильно зависит от процесса тренировки, который на 146% не будет публичным».

По мнению заместителя гендиректора группы компаний «Гарда» Рустэма Хайретдинова, специфичность подхода VK делает внедрение подобных решений на других платформах сложным. Каждая атака на социальные сети уникальна, и зачастую киберпреступники используют легитимно выглядящие запросы, чтобы скрыть свою активность. Это требует тщательного анализа трафика, что может стать препятствием при адаптации системы VK для внешних заказчиков.

Вице-президент по стратегии МТС Евгений Черешнев выразил мнение, что для борьбы с DDoS-атаками ИИ не обязателен — с задачей могут справиться серверные мощности и грамотно выстроенные системы управления трафиком. По его словам, именно для борьбы с ботами, где ИИ помогает выявлять ложные аккаунты, нейросети более полезны. Он также отметил, что качество защиты напрямую зависит от разнообразия поступающих данных, так как атакующие методично меняют тактики.

На фоне увеличения числа DDoS-атак на 300% по сравнению с прошлым годом, кибератаки стали более продолжительными и сложными, подчеркивают аналитики. Специализированные решения могут предложить дополнительные уровни защиты, однако в России пока нет прецедента успешного выхода на рынок компаний, не специализирующихся на информационной безопасности, говорит бизнес-консультант по информационной безопасности Positive Technologies Алексей Лукацкий.

Эксперты полагают, что такие решения, даже если они разрабатываются на базе ИИ, лучше всего работают в рамках собственных платформ и вряд ли подойдут для других клиентов без значительных доработок. В целом, новая инициатива VK может повысить уровень безопасности на платформах компании, но, по мнению экспертов, это вряд ли обойдется без компромиссов для пользователей.

Контакты

По общим вопросам

[email protected]

По юридическим вопросам

[email protected]

Для СМИ

Телеграм: moi_fee
Signal: moi_fee.13

18+

23 декабря 2022 года Минюст включил Роскомсвободу в реестр незарегистрированных общественных объединений, выполняющих функции иностранного агента. Мы не согласны с этим решением и обжалуем его в суде.