«Роскомсвобода» и ОВД-Инфо: Права человека и новые технологии в России

«Роскомсвобода» и правозащитный медиапроект ОВД-Инфо в совместном представлении Верховному Комиссару ООН осветили отсутствие каких-либо стандартов для применения новых технологий в России и вытекающие из этого нарушения прав человека. 

Особенно часто такие нарушения можно наблюдать в использовании:

• систем распознавания лиц;

• технологий онлайн-цензуры;

• оборудований для управления трафиком и его фильтрации;

•  систем мониторинга социальных сетей. 

Сейчас эффективные механизмы восстановления нарушенных прав и компенсации вреда, предотвращения будущих нарушений, а также предварительной оценки технологий на соответствие правам человека в стране отсутствуют. 

«В данном случае опыт России является скорее антипримером, на котором можно продемонстрировать, как права человека грубо нарушаются, если разработка и применение новых технологий проходит без оглядки на права человека (и почему важно всё-таки помнить об этом аспекте). На основе собранных докладов заинтересованных лиц, в том числе совместного инпута «Роскомсвободы» и ОВД-Инфо, Верховный Комиссар презентует Совету по правам человека ООН общий доклад и свои рекомендации. Каких-то персональных замечаний и рекомендаций именно для России доклад не предусматривает», — комментируют наши юристы.

Системы распознавания лиц

Российские правоохранительные органы применяют технологию распознавания лиц не только для пресечения и расследования преступлений, но и для преследования по политическим мотивам, а также для розыска в целях мобилизации.

Видеонаблюдение используется:

• во дворах, подъёздах;

• в торговых центрах и ночных клубах;

• в транспорте, включая метро.

В 2021 году данные с камер городского видеонаблюдения активно применялись для установления личности участников мирного протеста и их преследования после акций.

С 2022 года система распознавания лиц стала использоваться для превентивных задержаний в дни государственных праздников или других важных общественных событий, когда, по мнению властей, более вероятна протестная активность. 

С сентября 2022 года систему «Сфера» также начали применять для розыска мужчин с целью мобилизации.

Всего за 2021–2022 года в ОВД-Инфо зафиксировали как минимум 595 задержаний с использованием системы распознавания лиц.

В 2023 году появилась информация о создании специальной базы с исчерпывающими данными о военнообязанных, которая будет сопряжена с системой распознавания лиц, в том числе на транспорте и пограничных пунктах.

Согласно официальным сведениям за февраль 2023 года, 8998 камер на объектах транспорта и в передвижных комплексах передают сигналы системе «Сфера». В начале февраля 2023 года власти сообщали, что с помощью «Сферы» задержали 7713 человек. 

15 февраля 2023 года заместитель начальника службы безопасности Московского метрополитена М. Ю. Ромашин на конференции, посвященной транспортной безопасности, сообщил, что при необходимости сведения с камер видеонаблюдения накладывают на трекинг сотовой связи, данные об использовании банковских карт, проездных билетов, что позволяет выследить и задержать человека.

При этом он также сказал, что «было бы идеально задерживать людей ещё до совершения ими преступлений или правонарушений, как только они подумают о нарушении закона».

Некоторые задержанные при помощи «Сферы» обжаловали задержание при помощи алгоритмов распознавания и потребовали удалить их персональные данные из базы системы. В настоящее время суды Москвы рассмотрели 5 таких дел и по каждому из них отказали. Ещё 8 дел находятся на рассмотрении.

Технологии, используемые для онлайн-цензуры

В 2012 году в России появился первый централизованный Единый реестр блокировок, который ведёт Роскомнадзор. Относительно блокировок известно следующее:

• каких-либо обязательных технологических стандартов в сфере интернет-блокировок в России не установлено: оператором связи разрешается блокировать целый из-за одной из его страниц, если у оператора связи нет технологической возможности осуществить блокировку точечно;

• штрафы за неисполнение обязанности по блокировке и отсутствие стандартов привели к тому, что ограничение доступа к информации излишне и затрагивает контент, который не был признан незаконным;

•  защита права на распространение законной информации затруднена и почти не приводит к положительному исходу, так как сложившаяся судебная практика непоколебимо стоит на позиции оправданности практически любой блокировк. 

В части правоприменительной практики показательны два дела: дело директора Ассоциации интернет-издателей Владимирова Харитонова и блокировка мессенджера Telegram. ЕСПЧ признал блокировку сайта Харитонова незаконным, дело Telegram ещё рассматривается. 

DPI и ТСПУ

За время двухлетней блокировки Telegram в России приняли так называемый «закон о суверенном интернете», который ввёл обязательные правила маршрутизации интернет-трафика, поместив её под контроль Роскомнадзора. Цель закона — защита российского сегмента интернета от внешних угроз. Оборудование DPI и ТСПУ — это те технологические инструменты, которые применяются его реализации.

10 марта 2021 года Роскомнадзор сообщил о том, что Twitter внесли в перечень внешних угроз из-за медленного удаления материалов с запрещённой информацией, а также о своём решении замедлить скорость работы сервиса на 100% мобильных устройствах и 50% стационарных устройств. При этом однозначных оснований для замедления трафика в законе нет. Никакой определённой технической информации о том, как именно надзорный орган осуществляет это самое замедление, в публичном доступе также нет.

6 апреля 2021 поэтому группа экспертов, в которую входил эксперт и «Роскомсвободы», опубликовала доклад, где на примере Twitter отмечается, что

механизм онлайн-цензуры в России меняет свой характер с децентрализованного (операторы связи блокировали контент на основе информации от Роскомнадзора) на централизованный (Роскомнадзор из-за обязательного применения ТСПУ имеет возможность в одностороннем порядке наложить желаемые ограничения). 

Исследователи также отметили, что в отличие от блокировки, при которой доступ к контенту заблокирован, замедление трафика направлено на снижение качества обслуживания, что делает практически невозможным отличить навязанное/преднамеренное замедление от непреднамеренного вследствие, например, высокой нагрузки на сервер или перегрузки сети.

Граждане, которые использовали Twitter, попытались оспорить замедление трафика к сервису в рамках общественной кампании «Роскомсвободы» «Битва за Twitter». Суд посчитал, что права на это у них нет и отказал в принятии иска. В настоящее время отказ обжалуется в суде кассационной инстанции.

В феврале 2023 года «Роскомсвобода» в сотрудничестве с Open Observatory of Network Interference (OONI) также подготовила отчёт, документирующий случаи интернет-цензуры в России за последний год. С января 2022 года по февраль 2023 года эксперты выявили блокировку 494 доменов, 48 из которых оказались не включены в официальный реестр блокировок Роскомнадзора. 

Мониторинг социальных сетей

В феврале 2023 года Роскомнадзор запустил систему автоматического поиска запрещённого контента «Окулус». Кроме того, подведомственное Роскомнадзору предприятие Главный радиочастотный центр занимается внутренними испытаниями системы поиска и обезвреживания информационных бомб «Вепрь». Эксперты полагают, что обе системы — «Окулус» и «Вепрь» — заменят «ручное» выявление запрещённой информации. Полагаем, что данные системы могут использоваться как для принятия решений о блокировке контента, так и для наказания отдельных лиц за распространение информации в интернете. Это приведёт к снижению возможностей оспаривания и обжалования ограничений и наказаний, так как российские суды не ставят под сомнение правильность решений, принятых в автоматизированном режиме.

Стандарты защиты прав человека в контексте новых цифровых технологий

Новые технологии всегда представляют риск для прав человека, поэтому очень важно оценивать технологии на ранней стадии разработки и воспринимать их как «взаимодействие между технологическим потенциалом и социальными ценностями».

Проект УВКПЧ ООН «Бизнес и права человека в технологиях» представляет собой актуальный процесс, который следует развивать дальше как механизм прозрачного участия гражданского общества в защите прав человека в сфере технологий.

Национальные органы власти должны играть центральную роль в оценке законодательства и выявлении любых пробелов. Несмотря на то, что невозможно предсказать развитие новых технологий, уже существуют налаженные процессы, которые могут снизить риски нарушения прав человека. Одним из них является подход human rights by design, основанный на уже хорошо известных и широко используемых методологиях privacy by design. Разработчики должны выполнять ключевые обязательства и требования такого подхода при создании технологии. Таким образом, значительного вреда можно легко избежать на ранних этапах. 

Существует также ряд других механизмов, которые могут помочь защитить права человека:

• должная осмотрительность при соблюдении прав человека, которая быстро становится обязательным требованием во многих юрисдикциях в связи с введением специальных правил на национальном уровне;

• принятие законов, которые бы закрепляли необходимость соблюдения прав человека при разработке новых технологий;

•  создание регуляторных песочниц, то есть инструментов регулирования, позволяющих бизнесу экспериментировать с новыми и инновационными продуктами под контролем регулятора в течение ограниченного периода времени;

• сертификация и аудит;

• предварительные публичные обсуждения и дискуссии с представителями тех групп населения, которых такая технология будет касаться. 

Препятствия для интеграции прав человека в процессы установления технических стандартов 

Одним из распространенных препятствий на пути эффективной интеграции прав человека является принятие законов и других нормативных актов, ограничивающих права человека с помощью технологий: когда государства борются не за права человека, а против правозащитников и независимых СМИ. Новые законы облегчают легализованный сбор данных граждан. Первая стратегия в России — это тотальные ограничения, попытки поставить под контроль цифровую среду с помощью «закона Яровой», «суверенного Рунета», блокировки сайтов независимых СМИ.

Более того, если в стране отсутствует законодательное регулирование конкретной технологии, а также общее требование о проведении предварительной оценки соответствия технологии правам человека, у пострадавших лиц будут отсутствовать эффективные способы защиты. Такая ситуация складывается в России применительно к использованию системы распознавания лиц против протестующих, поскольку применение этой технологии никак не урегулировано. В силу этого оспорить такое применение в судах является чрезвычайно трудным.

Участие гражданского общества в установлении стандартов 

В России процессы установления стандартов для технологий недоступны, поскольку в целом серьёзно ограничены права человека, включая свободу слова, свободу ассоциаций, а также возможность участвовать в жизни государства. Существование «доступа» могло бы измеряться следующими показателями:

•  открытостью информации о разработке такой технологии;

• участием гражданского общества в общественных дискуссиях в связи с разработкой и использованием технологии:

•  участием гражданского общества в экспертной оценке соответствия технологии правам человека;

• существованием эффективных средств защиты пострадавших от использования технологий. 

Все эти критерии в России не выполняются.

Передовая практика эффективной интеграции прав человека в процессы установления технологических стандартов

1. В 2017 году Мьянма провела комплексный анализ изображений со спутников и почвенного слоя. В результате был установлен факт уничтожения деревень (на их местах остались пепелища) и появления лагерей беженцев. Таким образом, применение технологии показало хорошие результаты как раз из-за соблюдения стандартов прав человека и использования данных без «персонализации». 

2. В Австралии можно отметить хорошую судебную практику использования искусственного интеллекта (ИИ), где существует гайд, чётко очерчивающий границы такого использования. Несмотря на то что замена судьи ИИ в каждом деле видится невозможной и чрезмерной, ИИ может активно использоваться для технической работы и при рассмотрении дел по административным правонарушениям.

3. В России право человека на информацию всесторонне нарушается в связи с дискриминационными и выборочными практиками. Хороший механизм соблюдения прав человека здесь — формирование системы, аналогичной антимонопольному регулированию, которая ограничит право на необоснованную фильтрацию информации агрегаторами и соцсетями.

Учёт права на частную жизнь 

Ярким примером нарушения этого прав являются приложения ИИ для распознавания лиц. Этот тип технологий уже используется полицией в некоторых странах и рискует быть применённым авторитарными режимами для подавления политических диссидентов и меньшинств.

Так, в 2016 году в США стало известно, что половина взрослых американцев уже есть в полицейских базах данных по распознаванию лиц по всей стране. Из-за опасений неправомерного использования несколько крупных городов США ввели запрет на использование этой технологии. Калифорния, Нью-Гэмпшир и Орегон приняли законы, запрещающие использование технологии распознавания лиц с полицейскими нательными камерами. После протестов Black Lives Matter в США в 2020 году IBM, Amazon и Microsoft ограничили или приостановили продажи своих продуктов для распознавания лиц.

В Европе GDPR запрещает обработку биометрических данных с целью однозначной идентификации физического лица, данных о здоровье, сексуальной жизни или сексуальной ориентации физического лица, а также обработку данных, раскрывающих расовое или этническое происхождение. В апреле 2021 года Европейская комиссия предложила новые правила по разработке надёжного ИИ, в которых распознавание лиц считается технологией с высоким риском и разрешено только в определённых случаях.

В России ситуация следующая:

• системы распознавания лиц никак не контролируются и не регулируются законодательно;

•  у общества и правозащитников нет доступа к процессам разработки и работы таких технологий;

• не существует ведомства, ответственного за такие процессы, как и контролирующего законодательства;

• суды и органы власти отказываются предоставлять подробности идентификации и внесения лиц в базы, как и алгоритмы выхода оттуда.

Учёт права на недискриминацию

Системы ИИ могут быть преднамеренно или непреднамеренно предвзяты. В России известны случаи использования баз данных для политического, этнического и идеологического профилирования, что создает опасные прецеденты. Обязанности и ответственность организаций, разрабатывающих и применяющих такие технологии, следующие:

• подробная оценка каждой стадии разработки и применения данных технологий;

•  прозрачный репортинг этих процессов;

•  механизмы остановки использования алгоритмов.

Рекомендации Верховному Комиссару:

• обратить внимание на российский пример использования новых технологий в отсутствие необходимых стандартов в области прав человека;

• осудить многочисленные нарушения прав человека, допускаемые российскими властями при использовании таких технологий;

• рекомендовать странам применять механизмы оценки и анализа потенциального влияния технологий на права человека ещё в процессе их разработки;

• организовывать публичные обсуждения и дискуссии с представителями тех групп населения, которых такая технология будет касаться, наряду с релевантными экспертами;

• рекомендовать странам обеспечить эффективные меры защиты и восстановления нарушенных прав человека, а также привлечение к ответственности лиц, совершивших эти нарушения, включая разработчиков и пользователей технологий.

«Организация тематических исследований — это одна из форм работы Верховного комиссара ООН по правам человека. Анализ применения новых цифровых технологий с точки зрения соблюдения прав человека стало актуальным направлением работы Комиссара, поскольку технологии развиваются быстро, влияют на жизнь человека напрямую, а регуляторика за этими процессами не успевает. В ООН исходят из того, что новые технологии могут как помочь реализации прав человека, так и стать инструментом их нарушения или источником рисков и угроз, поэтому необходимо оценить потенциальное воздействие технологий на права человека, наметить возможные методы внедрения процессов оценки новых технологий с точки зрения прав человека. Для этого Комиссар по правам человека собирает информацию в том числе у организаций и экспертов по теме», — поясняют наши юристы. 

👉 Не только в ЕСПЧ. Куда обращаться после выхода России из Совета Европы?