Дискуссии Privacy Day 2021 — часть I: «Человек — не строчка в базе данных»

Туманное будущее и сомнительное настоящее приватности: утечки и цифровая диктатура, к которым приведут отсутствие адекватной регуляторики и безответственность разработчиков.  

28 января, в День защиты персональных данных, «РосКомСвобода» совместно с Digital Rights Center и Privacy Accelerator провела ежегодную международную конференцию Privacy Day 2021. Представляем вашему вниманию обзор обширного выступления первого спикера «Четыре всадника апокалипсиса приватности: кто они и как их победить» и первой панельной дискуссии «Большой Брат знает всё: зачем госорганам всё больше информации о нас?».

Приглашённые гости и эксперты «РосКомСвободы» порассуждали, что станет с приватностью в России в ближайшие годы, разошлись во мнениях, достаточно ли в стране соответствующего законодательства, и решали, кто виноват и что делать. Красной нитью через выступления проходил тезис об ответственности разработчиков и необходимости ставить во главу угла интересы человека, а не данные как таковые.

.

.

Приватность — задача для разработчиков

.

Руководитель «Теплицы социальных технологий» Алексей Сидоренко иронично представил проблемы с приватностью в виде четырёх всадников апокалипсиса приватности, которые являются результатом асимметрии власти, когда у граждан и пользователей есть значительно меньше возможностей управлять своими персональными данными, чем у разработчиков и чиновников.

Дата-апокалипсис — это серия катаклизмов, которые могут случиться, если довести существующие тенденции до абсурда. Сидоренко спрогнозировал три таких сценария.

Первый сценарий — мегаутечка, в результате которой многолетняя история пользователей окажется в открытом доступе. Тайна личной жизни исчезнет, что приведёт к войне всех против всех и падению цивилизации.

Второй сценарий — порабощение человека искусственным интеллектом через доступ к инфраструктуре мира. Популистские правительства и роботы придут к власти. Это станет возможным за счёт того, что у сверхмощного ИИ на момент его появления в распоряжении окажется очень много данных.

Третий сценарий предполагает, что весь мир — игра, в которой государства создают системы общественного поощрения и «оптимизируют» поведение граждан через систему наблюдения, обладающей всем набором данных. К примеру, люди ведут себя послушно и не протестуют, потому что из-за камер видеонаблюдения им отказали в доступе к общественному транспорту.

Всё это не так уж и абсурдно, пока есть четыре всадника дата-апокалипсиса, считает Сидоренко.  Цифровая реальность сейчас только формируется, и они находятся в головах у разработчиков. Всадники — следствие определённых паттернов мышления, в рамках которых не находится места заботе о человеке. Человек здесь — всего лишь строчка в базе данных.

«Разработчики не считают гуманитарные науки важными для развития общества», — сетует Сидоренко.

Четыре всадника дата-апокалипсиса выглядят следующим образом.

Избыточная коммерциализация. Она, что интересно, подразумевает не столько чрезмерный сбор данных Facebook (хотя и это тоже), сколько нелегальность сбора, например, на рынке пробивки данных.

Махровая безалаберность. Появляется в силу человеческого фактора и отношения к человеку не как к человеку, а как строчке в базе данных.

Тоталитарный оппортунизм. Работает по принципу «а давайте соберём как можно больше, а что с ними делать, разберёмся потом».

Адская игрофикация. Максимальный сбор данных и сегментация. Уже находит своё воплощение в виде «Социального мониторинга» в Китае.

Для борьбы со всадниками необходимы законодательные меры, как в Европе, где система построена вокруг людей и их интересов, а вокруг не строчек в базе данных. Сидоренко призвал изменить мышление в сторону гуманизма не только законодателей, но и разработчиков.

«Давайте подойдём к приватности как к задаче для разработчиков, головоломке», — заявил он.

.

Тотальная открытость и цифровая диктатура как наша будущая реальность

.

Интернет-омбудсмен Дмитрий Мариничев на конференции был настроен серьёзно и при том пессимистично. По его мнению, через 10-20 лет с приватностью в России будет только хуже. При авторитарной модели управления нет граждан, а есть поданные, которые представляют для государства просто ресурс, по которому есть определённые данные и метаданные. Наша страна пойдёт по пути Китая, когда государство стремится к содержанию всей информации в реестрах.

«В горизонте пяти лет мы увидим обработку всех собранных нейросетями массивов, на основе которых будут делаться выводы о людях и прогнозирование их поведения».

По словам Мариничева, система наблюдения станет «внушать» человеку паттерны поведения, но человек будет думать, что он принимает решение сам. Сложится цифровая диктатура, но в ней, как ни странно, людям будет комфортно, потому что жить они станут не задумываясь над тем, как они принимают решения. Сознательных же людей, которые видят, что что-то не так, довольно мало.

У человека также будет конкретный жизненный цикл в геоинформационной системе, а персональных данных как таковых не станет. Из неё произойдет тотальная утечка — кажется, спикер склоняется к первому сценарию дата-апокалипсиса по Сидоренко. После этой мегаутечки сознание людей перевернётся («так жить нельзя»). В этих условиях может появиться тренд тотальной открытости данных, когда всё будет открыто, но действия с данными — только с разрешения их владельцев. «Грубо говоря, шифровать ничего не будем, но для действий с данными понадобится разрешение».

Проблемы авторитарной модели управления сугубо идеологические, отмечает Мариничев. Ведь речь идёт о столкновении взглядов, технологии здесь вторичны, их можно использовать как угодно.

.

Слив данных за рубеж VS импортозамещение

.

Директор АНО «Информационная культура» Иван Бегтин представил исследование «Государственные мобильные приложения. Куда передаются данные из приложений, созданных органами власти».

В рамках него специалисты разобрали, какие данные собирают 44 государственных приложения («Мои Документы Онлайн», «Добродел», «Госуслуги», «Активный гражданин», «Парковки Москвы» и др.) из разных регионов и что могут с ними делать. Оказалось, что 39 приложения включают код сторонних трекеров, 38 при этом — код трекеров в зарубежных юрисдикциях.

Данные передаются компаниям в США и Японии. Всего 5 сервисов не содержат сторонних трекеров. Это «ЕГР ЗАГС», «Госуслуги.Дороги», «Липецкая область», HISTARS, «Работа в России». В одном приложении может быть до 10 трекеров (Moscow transport).

«Вопрос не в том, можно или нельзя так делать, а в двуличности власти, которая говорит об импортозамещении и одновременно сама поставляет данные за рубеж», — делает важное замечание Бегтин.

Между тем юрисдикция хранения данных имеет значение, поскольку их защита происходит в рамках законов тех стран, куда эта информация попадает. Вместо импортозамещения, возможно, стоило бы вести диалог с Google о защите данных, и это было бы эффективнее, рассуждает Бегтин.

Также для изменения ситуации надзорным органам следовало бы

– регулировать разработку приложений органами власти;

– создавать методические рекомендации;

– мониторить и контролировать передачу данных сторонним сервисам.

К сожалению, российские регуляторы, такие как Роскомнадзор, Роспотребнадзор, по мнению спикера, самоустранились, ведь с точки зрения защиты прав потребителей нет ничего, что регулировало бы слежку, государственную и коммерческую. «Регуляторы просто отсутствуют как явление», — категорично заявил выступающий.

Современная бизнес-модель на рынке мобильных приложений — бизнес-модель слежки. Госорганы существуют в этой же среде и используют такие же инструменты и подходы, что и коммерческие разработчики,  «Яндекс» или Mail.ru. Сбор данных не безвреден, рассказал спикер. В Сингапуре уже существует прецедент: изначально созданное для отслеживания ковид-заражённых приложение TraceTogether теперь используется полицией в своих и совершенно других целях.

Как и Сидоренко, Бегтин полагает, что разработчикам следовало бы быть более ответственными. Так, им стоит подумать о саморегулировании и внимательнее относиться к юридическим вопросам передачи данных сторонним сервисам.

В одних случаях использование сторонних сервисах, впрочем, может быть оправдано (Google Crashlytics, Google Firebase), отметил Бегтин. В других это совсем необъяснимо и сделано исключительно для удобства разработчиков: Flurry, HockeyApp, Estimote, Amplitud, Mapbox. Следствием этого удобства и является передача данных компаниям, которые торгуют данными на рынке.

Чем больше разрешений, тем больше шансов, что данные о вас передадутся в любой момент, заключил спикер. Пока регуляторы бездействуют, а разработчики не думают о приватности, Бегтин советует пользователям

– тщательно взвешивать, стоит ли устанавливать на смартфон то или иное приложение;

– проверять приложения на безопасность через такие сервисы, как Expodus Privacy.

При проведении исследования, к слову, как раз таки использовалась база трекеров проекта Exodus Privacy и приложение для командной строки Exodus Standalone. APK файлы мобильных приложений были выгружены через API Google Play с помощью специально разработанных для этого скриптов на языке Python. Недостающие данные в описаниях трекеров (компания-издатель, описание, юрисдикция) дополнялись вручную на основе общедоступной информации, опубликованной на веб-сайте трекера или компании-издателя трекера. Итоговые данные сводились с помощью написанных скриптов на языке Python и были перепроверены вручную. Подробнее о методологии исследования можно прочитать здесь.

.

Закон есть, механизмов их работы нет

.

Директор Центра ИТ-исследований РАНХиГС Михаил Брауде-Золотарёв не согласился с Иваном Бегтиным, что риски по утечке данных за рубеж выше, чем в России, особенно если это данные про данные, а не сами пользовательские данные. Он считает, что это не так. Помимо этого спикер указал, что для эффективной работы законов надо отделить плохое от хорошего. В России для этого механизма нет.

Не согласился Золотарёв с Бегтиным и в том, что регулирования в России нет. По его словам, оно есть — формальное. Но нет инструментов его реализации, соответствующей культуры в обществе и надзора над его исполнением.

По мнению спикера, с инструментальной точки зрения, следует выделять не чёрные зоны законодательства, что тоже важно, а белые и работать с ними.

«Механизм защиты данных понятен. При наличии политической воли и осознании потребности проблему можно решить за год-полтора и покрыть 80% законов о данных».

.

Ложь как попытка сформировать «новую реальность»

.

Журналист-расследователь Андрей Каганских рассказал о том, как целый год вместе с «РосКомСвободой» он указывал Департаменту информационных технологий Москвы на отдельно взятую уязвимость в системе распознавания лиц. Никакой реакции на это не последовало (чиновники так и не остановили утечки данных с московских камер), а ответ для СМИ был всегда один — никаких утечек нет.

«Это попытка моделирования реальности, когда говорят, что ничего не утекает», — отметил Каганских.

«РосКомСвобода» мониторила ситуацию всю весну, а летом провела эксперимент: волонтёр Анна купила полное досье на себя за 15 тыс. руб. Кроме того, выяснилось, что барыги на чёрном рынке на просьбу показать, как работает слив данных, предоставили данные шести человек просто в качестве примера.

ДИТ отвечает, что система анонимна, но на деле возможны так называемые корреляционные атаки, когда фотографии сопоставляются с данными из других систем, в результате чего личность человека раскрывается, напомнил Каганских. К примеру, в МВД есть система, которая сверяет изображения с данными из системы «Российский паспорт». Получается, что анонимность системы по факту формальна. Можно использовать две системы и фото человека и на выходе получить досье на него.

Государство содержит данные в разных системах, у каждой есть свои дыры, заключил журналист.

.

«Госуслуги» — лидер с конца рейтинга

.

Директор «Общества защиты интернета» Михаил Климарёв рассказал, как в рамках составления (совместно с «РосКомСвободой») «Рейтинга соблюдения цифровых прав 2020» он оценил приложение «Госуслуги» по степени защиты данных пользователей. Спикер перепроверил информацию непосредственно перед конференцией и сделал вывод, что, к сожалению, ничего не изменилось.

Исследование проводилось по методике Ranking Digital Rights, которая при изучении публичной позиции и политик компаний по соблюдению прав человека использует официальные веб-ресурсы компаний (технические домены третьего и более высокого уровня), веб-ресурсы материнских компаний/группы компаний, в которые входят сервисы (например, Mail.ru Group), официальные блоги компаний, а также открытые источники информации, в т.ч. СМИ и медиа-ресурсы.

В рамках этой методики рассматриваемые вопросы группировались по четырём темам:

– транспарентность;
– права потребителя;
– приватность;
– свобода информации.

Климарёв проанализировал «Госуслуги» по этим четырём пунктам (в каждом есть ещё множество подпунктов) и представил итоги в сжатом виде. Так, принципа свободы информации приложение не придерживается, transparency report не публикует, приватность защищает только на 30%, права потребителей — на 20%.

В итоге приложение «Госуслуги» занимает «почётное последнее место в списке приложений». На первых трёх, к слову, расположились «Хабр», «ВКонтакте» и «Яндекс». Более детально ознакомиться с «Рейтингом соблюдения цифровых прав 2020» можно здесь. Подробная методология исследования представлена по этой ссылке.

.

«Знать свои права»

.

Юрист «РосКомСвободы» Екатерина Абашина рассказала, как должно реагировать общество на вызовы приватности. Она дала слушателям несколько конкретных советов.

• Знать свои права как субъектов персональных данных.
• Быть проактивными.
• Понимать границы допустимого для государства.

«Я призываю граждан внимательнее относиться к тому, какую информацию они передают госорганам и коммерческим организациям, разобраться, где требования законны, а где нет, и стараться отстаивать свои права, в том числе через суд, потому что другого порядка, к сожалению, во многих случаях нет. РосКомСвобода готова в этом помогать», — заявила Абашина.

Юрист напомнила, что «РосКомСвобода» проводит кампанию за введение моратория на использование системы распознавания лиц Bancam и собирает случаи нарушения цифровых прав в в пандемию на карте Pandemic Big Brother. В первом случае вы можете помочь нам, присоединившись к кампании и подписав петицию на сайте, во втором — сообщив о соответствующих нарушениях.

Помимо этого юристы «РосКомСвободы» оказывают юридическую помощь как отдельным лицам, например, Сергею Межуеву, так и в целом обжалуют постановления госорганов, как в случае с указом мэра Москвы Собянина о сборе персональных данных ушедших на удалённую работу сотрудников столичных организаций.

По юридическим вопросам можно обращаться на [email protected].

.