Детей «датафицировали» до того, как мы осознали все риски

В отчете английского комиссара по делам детей Энн Лонгфилд поднят важный вопрос о том, как личные данные детей повсеместно собираются и распространяются: и в частном, и в публичном секторах.

В специальном отчете, озаглавленном «Кто что про меня знает», Энн Лонгфилд призывает общество «остановиться и подумать», что большие данные значат для детских жизней. Появляется поколение, чьи шансы в жизни несут на себе отпечаток данных, появившихся в Сети в их детстве, предупреждает отчет. 

«Детей “датафицируют” — во многих аспектах их жизней, не только в социальных сетях», — говорит Лонгфилд.

«Для детей, которые растут сейчас, и для поколений, которые за ними последуют, влияние профилирования будет еще больше — просто потому, что про них будет доступно гораздо больше данных».

Согласно отчету, к 13 годам родители постят в соцсетях в среднем 1300 фото и видео с ребенком. А потом эта гора данных «взрывается», потому что дети сами начнут пользоваться платформами — постить в соцсетях 26 раз в день в среднем, и к 18 годам накопят 70000 постов.

«Давайте остановимся и подумаем, что это значит в жизни детей сейчас и как это повлияет на их будущие взрослые жизни, — призывает Лонгфилд. — Мы попросту не знаем, каковы будут последствия всей этой информации о наших детях. В свете этой неопределенности, стоит ли нам продолжать радостно собирать и хранить данные детей?»

«Детям и родителям стоит лучше понимать, чем они делятся и учитывать последствия. Компаниям, которые делают приложения, игрушки и другие продукты для детей, нужно перестать наполнять их системами слежения и изложить свои положения и условия на языке, который дети могут понять. Также крайне важно, чтобы Правительство следило за ситуацией и при необходимости правило законы о защите данных, чтобы дети были по-настоящему защищены, тем более, что технологии по-прежнему развиваются», — добавляет она.

В отчете рассматривается, какие виды данных о детях собираются; где и кем; и как их могут использоваться в близкой и дальней перспективе — как для пользы детей, но так же и с учетом потенциальных рисков.

Говоря о пользе, отчет перечисляет множество пока еще довольно экспериментальных идей, которые могут стать положительными примерами использования детских данных — например, для направленных инспекций сервисов для детей, чтобы сфокусироваться на областях, где данные показывают проблемы; технологии обработки естественного языка для ускорения анализа больших наборов данных (к примеру, репозитория дел Национального центра по предотвращению жестокого обращения с детьми) с тем, чтобы выделить общие темы и понять «как предотвратить вред и стимулировать положительные результаты»; предсказательная аналитика с использованием данных детей и взрослых, чтобы эффективнее отмечать «потенциальные риски безопасности детей для социальных работников»; и оцифровка Личной медицинской карты ребенка, чтобы сделать нынешнюю бумажную карту более доступной профессионалам, работающим с детьми.

Однако, хотя Лонгфилд пишет, возрастающая доступность данных открывает «огромные преимущества», она также ясно дает понять, какие основные риски при этом возникают — безопасности и благополучия; развития ребенка и социальной динамики; кража личности и мошенничество; и более долгосрочное воздействие на возможности детей и их шансы в жизни.

«По сути [дети] — “канарейка в угольной шахте” для более широких слоев общества; они сталкиваются с рисками раньше, чем многие взрослые могут их осознать или выработать стратегии для их снижения, — предупреждает она. — Крайне важно, чтобы мы помнили о рисках и снижали их».

.

Не хватает прозрачности

Один ясный вывод их отчета — в том, что до сих пор нет прозрачности в том, как данные детей собирают и обрабатывают — что само по себе является барьером на пути лучшего понимания рисков.

«Если бы мы лучше понимали, что происходит с данными детей после того, как они переданы — кто их собирает, с кем ими делятся и как они агрегируются — тогда мы бы лучше понимали, какие последствия могут быть в будущем, но этой прозрачности не хватает», — пишет Лонгфилд, замечая, что это происходит несмотря на то, что «прозрачность» — первый ключевой принцип, на котором основаны новые жесткие рамки приватности в ЕС — GDPR.

Обновленный закон о защите данных укрепил защиту персональных данных детей в Европе — к примеру, с момента его вступления в силу 25 мая действует новое положение, которое установило возрастной предел в 16 лет, начиная с которого ребенок может дать согласие на обработку своих данных. (Впрочем, страны-члены ЕС могут снизить предельный возраст в своих законах — жесткий предел составляет 13 лет).

И ключевые приложения соцсетей, такие как Facebook и Snapchat, отреагировали, поменяв условия использования и/или свои продукты в регионе. (Хотя некоторые системы родительского согласия, которые были введены для того, чтобы обозначить подчинение GDPR, по-видимому, легко обходятся детьми, о чем ранее писали).

Но, как указывает Лонгфилд, Статья 5 GDPR требует, чтобы данные «обрабатывались с соблюдение законов, честно и прозрачным образом по отношению к людям».

Но когда речь заходить о данных детей, по словам детского комиссара никакой прозрачности просто нет.

Она также усматривает ограниченность GDPR с точки зрения защиты данных детей — указывая, что, к примеру, он не запрещает профилирование детей как таковое (а лишь заявляет, что оно «не должно быть нормой»). В это же время другое положение, Статья 22 — согласно которому дети имеют право на то, чтобы решения, которые их затрагивают, не принимались только на основании автоматической обработки (включая профилирование), если они имеют для них правовые или другие столь же значительные последствия — то же, по-видимому, можно обойти.

«Они не применяются к решения, в которых люди играют какую-либо роль, сколь бы минимальной эта роль не была,» — предупреждает она, что оставляет компаниям еще одну лазейку для эксплуатации детских данных.

«Будет ли автоматизированный процесс принятия решений иметь “столь же значительные последствия”, оценить сложно, учитывая, что мы не до конца понимаем последствия этих процессов — и, вероятно, еще сложнее судить в случае детей», — добавляет Лонгфилд.

«До сих пор много неясности, как Статья 22 будет работать в отношении детей, — добавляет она. — Ключевой областью беспокойства будут любые ограничения в отношении рекламы продуктов и сервисов и связанных практик защиты данных»/

.

Рекомендации

Отчет содержит ряд рекомендаций для тех, кто определяет политику; Лонгфилд также призывает школы «учить детей, как собирают и используют их данные, и как они могут контролировать свой след данных».

Она также призывает правительство подумать, нельзя ли обязать платформы, которые прибегают к «автоматизированному принятию решений быть более прозрачными в части алгоритмов, которые они используют и данных, которые подаются на вход этим алгоритмам» — когда используются данные несовершеннолетних.

Это, по сути, создало бы дополнительные требования ко всем основным социальным платформам стать значительно менее закрытыми по поводу того набора систем искусственного интеллекта, с помощью которого они формируют и распространяют большие объемы информации на своих платформах. Учитывая, что мало кто их них — если вообще хоть кто-то — может сказать, что несовершеннолетние их платформами не пользуются.

Она также утверждает, что компаниям, которые таргетируют свои продукты на детей, следует делать гораздо больше разъяснительной работы, и пишет:

Компании, которые производят приложения, игрушки и другие продукты, направленные на детей должны быть прозрачнее по поводу любых систем слежения, собирающих информацию о детях. В частности, если игрушка собирает какие-либо видео или аудио, созданные ребенком, об этом должно говорить явно и заметно на упаковке или в сопроводительной информации. Должно быть ясно сказано, сохраняются ли в игрушке или где-то еще какие-либо видео или аудио, а также передаются ли они через интернет. Если они передаются, родители также должны знать, будут ли они зашифрованы при передаче или хранении, кто может их анализировать и обрабатывать и с какой целью. Пусть родители спрашивают, если информации нет или она неясна.

.

Другая рекомендация для компаний — писать свои положения и условия (T&C — terms and conditions) языком, понятным детям.

(Впрочем, на данный момент T&C техноиндустрии бывают слишком сложны для того, чтобы даже взрослые хоть что-то там поняли — не говоря уже о том, чтобы найти достаточно часов в сутках, чтобы их по-настоящему прочитать).

Недавнее исследование в США детских приложений, которое освещали BuzzFeed News, подчеркивает, что мобильные игры для детей могут быть крайне манипулятивны: например, описываются приложения, в которых мультяшные персонажи плачут, если ребенок не кликает на кнопку покупки в приложении.

Ключевая и контрастирующая проблема с обработкой данный — неясность; все происходит в фоновом режиме: наносимый ущерб сразу не виден, поскольку лишь обработчик данных по-настоящему знает, что происходит с пользовательской — и, да, детской — информацией. Тем не менее, обеспокоенность эксплуатацией персональных данных набирает силу во всех сферах. И, по сути, затрагивает теперь все сектора и сегменты общества, хотя риски, связанные с детьми, могут выглядеть наиболее ярко.

Этим летом британская организация защиты приватности призвала к этической паузе на использование в политических кампаниях онлайн-инструментов направленной рекламы, ссылаясь на беспокойство, что практики в области данных намного опережают то, что общественность знает и готова принять.

Она также призвала правительство создать Кодекс практики для цифровых кампаний, цель которого — удостовериться, что давно признанные демократические нормы не будут попраны.

Так что, призыв детского комиссара к коллективному «остановиться и подумать» об использовании данных — лишь один из растущего числа голосов, которые слышат ответственные за политику.

Одна вещь ясна: призывы оценить, что большие данные значат для общества — чтобы мощные технологии извлечения данных применялись таким образом, который был бы этичным и честным для всех — никуда пока не ведут.

.

По материалам TechCrunch

Читайте также:

Цифровая идентификация личности намного опаснее, чем ты думаешь
?
В США могут ввести уголовное наказание для глав IT-компаний за утечки персданных
?
Европа снабжает авторитарные режимы оборудованием для интернет-слежки
?
«Пакет Яровой», Big Data и отмена сетевого нейтралитета: последний рубеж
?
Россиянам сформируют «цифровой профиль»