Правозащитники предложили ограничить использование систем распознавания лиц

Эксперты проекта «Сетевые свободы» провели исследование о проникновении технологии распознавания лиц в жизнь россиян и по его итогам презентовали доклад «Распознавание лиц: предчувствие антиутопии».

«Мы описываем ситуации, в которых обычный гражданин может столкнуться с распознаванием лиц, а также существующее нормативное регулирование этой сферы», — указывают авторы исследования.

В документе анализируется хронология появления систем в разных странах, в том числе США и России, открывших «новые возможности для тотального контроля». Если до 2018 года в РФ системы распознавания лиц тестировались, то последние три года широко внедряются по всей стране, говорят авторы. В пример приводится государственная система «Безопасный город», использующая данные с видеокамер, которая в 2020 году работала в 40 регионах. При этом в 13 субъектах (включая Санкт-Петербург, Рязань, Саратов, Камчатку и Крым) уже применяются системы распознавания лиц, утверждается в докладе.

Распознавание лиц (facial recognition, FR) — метод компьютерной идентификации или подтверждения личности по цифровому образу. Технология используется:

• в системах управления доступом и организации пропускного режима на предприятиях;
• в сфере торговли и услуг для оплаты «по лицу»;
• при профилировании клиентов, оптимизации обслуживания, борьбы с кражами;
• помогает организовать учет рабочего времени; создает новые цифровые развлечения;
• контролирует медицинское освидетельствование и предрейсовые медицинские осмотры в транспортных предприятиях и т.п.

При этом идентификация личности происходит с точностью 99% по базе из 1,5 млрд лиц и занимает менее 1 секунды. Технология стала настолько эффективна, что ее массовое распространение в отсутствие гарантий соблюдения прав граждан несет серьезную угрозу. «Сетевые свободы» подчёркивают:

«Несмотря на то, что системы распознавания лиц тестируются и применяются в России уже более 10 лет, почти никаких специальных положений, регулирующих эту технологию, в российском праве нет».

Риски утечек, злоупотреблений, использования технологии для массовой слежки, дискриминации и выявления «политически неблагонадежных» лиц настолько велики, что в ряде стран обсуждается полный или частичный запрет распознавания лиц без согласия граждан.

Правозащитники призвали российские власти ограничить работу систем распознавания лиц из-за угроз приватности и утечек информации. Соответствующий доклад подготовил проект «Сетевые свободы» международной правозащитной организации «Агора».https://t.co/FhHclJegi4

— ForkLog (@ForkLog) July 26, 2021

В «Сетевых Свободах» предлагают законодательно ограничить использование таких систем в РФ. Правозащитники считают, что минимальной гарантией против злоупотребления системами распознавания лиц могло бы стать детальное законодательное описание технологии и пределов ее легального использования, в том числе:

• обязательное подробное и доступное информирования граждан о применении видеонаблюдения и распознавания лиц;
• перечень разрешенных мест использования и гарантированных «чистых» зон, где видеонаблюдение и FR запрещены;
• установление предельного срока хранения с обязательным последующим уничтожением собранных данных;
• обязательный независимый аудит;
• создание эффективных процедур рассмотрения жалоб на нарушения;
• запрет предоставления данных иностранным субъектам, в том числе органам власти.

«До законодательного описания технология не должна применяться без ясно выраженного предварительного согласия субъекта», — считают правозащитники.

Крупнейшим обладателем камер среди регионов РФ остается Москва, пишет «Ъ». По данным мэрии, здесь установлено около 200 тыс. устройств — на улицах, во дворах и подъездах. Информация с них стекается в единый центр хранения данных (ЕЦХД, создан в 2011 году). Оттуда ее запрашивают ведомства — например, МВД. При этом Москва активно тратится на новую технику. В 2019 году власти заказали 258 серверов, 105 компьютеров (с 16 графическими ускорителями Nvidia Tesla T4 каждый) и систему хранения данных общей емкостью 9 петабайт на сумму 1,2 млрд руб. В 2020 году был проведен конкурс на 1,9 млрд руб. на поставку оборудования для системы распознавания лиц на транспорте, в частности 454 серверов (с двумя 18-ядерными процессорами каждый). В июле 2021 года Центр организации дорожного движения (ЦОДД) Москвы провел тендер на 1 млрд руб. на установку более 2 тыс. камер видеонаблюдения на дорогах столицы, которые с помощью нейросетей будут не только распознавать лица, но также фиксировать аварии и пожары.

Столичные власти ранее приобрели одну из главных составляющих системы — технологию поиска лиц в видеопотоке — у разработчика NTechlab (12,5% компании контролирует «Ростех»). Как заявлял в 2020 году гендиректор NTechlab Александр Минин, речь на примере Москвы идет о развертывании крупнейшего в мире проекта распознавания лиц в режиме реального времени. В NTechlab ранее разрабатывали технологию FindFace Security, с помощью которой, в частности, во время чемпионата мира по футболу в 2018 году в России удалось задержать 180 правонарушителей. В столичном департаменте информационных технологий (ДИТ) сообщали, что помимо разработок NTechlab используют алгоритмы компаний VisionLabs и Tevian, утверждая, что «передовые системы распознавания лиц» дают не более одной ошибки на 10 млн просканированных лиц.

Горожане пытались оспаривать саму возможность применения подобных технологий. В их числе — волонтёр «РосКомСвободы» Анна Кузнецова, которая доказала небезопасность таких систем и подверженность их утечкам, заказав через посредников за 16 тысяч рублей «пробив» самой себя. Она получила маршрут собственных передвижений, который был составлен с помощью городской системы распознавания лиц. Позже Анна и юристы «РосКомСвободы» подали иск против ДИТ и городской полиции. Также мы потребовали установить мораторий на использование систем распознавания лиц в России. Несмотря на то, что полицейские, укравшие данные Анны Кузнецовой, были привлечены к ответственности, проблема утечек и злоупотреблений такими системами остаётся открытой, о чём пишут в том числе и «Сетевые свободы».

Суд отказал в иске Анне Кузнецовой, приняв аргументы властей, что камеры наблюдения снимают открытые пространства, поэтому согласия граждан не требуется, а их персональные данные при этом никак не задействованы. В «Сетевых свободах» считают, что системы распознавания лиц будут бесконтрольно распространяться в странах, способных «быть достаточно авторитарными и независимыми от международных стандартов, чтобы игнорировать их при попустительстве подконтрольных судов». Если не ограничить такие системы законодательно, граждане начнут скрывать лица на улицах и уничтожать камеры, добавляют правозащитники.

В ДИТ, куда «Ъ» обратился за комментариями, сообщили, что в Москве уже установлен предельный срок хранения записей с камер (5–30 дней), но он может быть продлен «в случае подачи заявки на резервирование».

Городская система функционирует в строгом соответствии с законодательством РФ, съемка ведется «в общественных местах и не затрагивает личного пространства горожан», а видеонаблюдение используется при расследовании 70% преступлений и помогает городским службам «контролировать качество уборки дворов и улиц», добавили в департаменте. Наконец, в ДИТ не согласились с выводами докладчиков, что по ФЗ-123 об эксперименте с искусственным интеллектом (принят в 2020 году) столичные власти «полностью освобождены» от соблюдения законодательства о персональных данных. В департаменте заявили «Ъ», что определенный в документе экспериментальный режим не позволяет «ограничивать конституционные права и свободы граждан». Кроме того, закон «подразумевает работу либо с данными, которые никогда не были персональными, например, о состоянии городской инфраструктуры, либо исключительно с обезличенными данными».

Первый зампред комитета Госдумы по госстроительству и законодательству Юрий Синельщиков заявил «Ъ», что ограничивать использование систем распознавания лиц «конечно, нужно»:

«С одной стороны, они необходимы для безопасности. С другой — не может же в каждой квартире такая камера стоять. Логика в таких опасениях есть. Глобальный контроль за личностью ни к чему. Нужно принять специальный закон, который бы определял пределы вмешательства для систем видеонаблюдения».

Синельщиков также добавил, что «вопрос нуждается в серьезном анализе». При этом в комитете Госдумы по госстроительству и законодательству такой работы не проводилось, уточнил депутат, предположив, что для этого должна быть создана рабочая группа в правительстве или администрации президента РФ.