Как запретить распознавание лиц, если оно уже повсюду?

Ответ — не запретить, но отрегулировать; разбирался Recode (Vox), приводим сокращённый перевод статьи.  

В конце прошлого месяца мы узнали о первом известном неправомерном аресте из-за ошибки распознавания лиц. Ранее несколько крупных технологических компаний (IBM, Amazon и Microsoft) приостановили или ограничили доступ правоохранительных органов к своим собственным программам распознавания лиц.

Но многие компании всё ещё интегрируют эту технологию в потребительские товары широкого спектра. В июне Apple объявила, что включит распознавание лиц в свои аксессуары HomeKit и что технология Face ID станет распространяться на вход на сайты через Safari. В разгар пандемии Covid-19 другие компании поспешили предложить клиентам бесконтактные биометрические технологии, включая распознавание лиц.

«Когда мы думаем обо всех этих на вид безобидных способах получения наших изображений, мы должны помнить, что у нас нет законов, которые защитили бы нас. И поэтому эти изображения могут быть использованы против нас», — сказал Мутале Нконде, сотрудник Центра Беркмана Кляйна Гарвардской юридической школы.

Удобство, которые многие находят в оснащении функцией распознавания лиц потребительских устройств, резко контрастирует с растущим давлением (и даже запретом) на регулирование и использование технологии правительством. Чиновникам придётся это учитывать.

.

Распознавание лиц становится всё более распространенным в потребительских устройствах

.

Один из самых популярных видов использования распознавания лиц — верификация. Её часто применяют для входа в электронные устройства. Вместо того чтобы вводить пароль, фронтальная камера на телефоне делает снимок пользователя, после чего алгоритмы подтверждают личность. Это удобная, хотя и не совсем надёжная, функция, стала востребованной, когда Apple выпустила iPhone X с Face ID в 2017 году. Многие другие компании, в том числе Samsung, LG и Motorola, теперь предоставляют разблокировку телефонов на основе распознавания лиц. Технология также всё чаще используется для облегчения входа в систему на игровых консолях, ноутбуках и приложениях всех видов.

Однако некоторые потребительские приложения с распознаванием лиц пытаются идентифицировать не только своих клиентов, но и других людей. Один из таких примеров — метка на фотографиях в Facebook, который сканирует фотографии пользователей на платформе, чтобы предложить тех, кого можно отметить на изображениях. Аналогичная технология у Google Photos и Apple Photos, которые могут автоматически идентифицировать и помечать объекты на фотографии.

Распознавание лиц появляется в некоторых умных телевизорах, которые определяют, кто из членов семьи сейчас перед ними, и предлагают индивидуальный контент.

Технология активно выходит и за рамки потребительских товаров. Так, компания HireVue сканирует лица с помощью искусственного интеллекта, чтобы оценить кандидатов на вакансию. Некоторые автомобили, такие как Subaru Forester, используют биометрию и камеры, чтобы следить, не теряют ли водители внимания на дороге. Несколько компаний разрабатывают программное обеспечение, которое определяет даже эмоции водителей. Обратная сторона медали заключается в проблеме предвзятости.

«Идея заключается в том, что если водитель устал, машина перейдёт на самоуправление. Проблема в том, что мы не испытываем одинаковые эмоции», — сказал Нконде.

.

Размытая грань между распознаванием лиц для обеспечения домашней безопасности и слежкой полиции

.

Face ID — это пример технологии распознавания лиц, используемой для проверки личности. Алгоритм Apple просто отвечает на вопрос, является ли человек пользователем телефона. Он не предназначен для идентификации большого количества людей, и, что важно, биометрические данные не отправляются в облако, а остаются на устройстве пользователя.

Когда речь идет не об одном человеке, вопрос распознавания становится сложнее. Вот, например, Facebook сканирует фотографии пользователя, чтобы идентифицировать его друзей. Компания говорит, что ни с кем не делится полученной информацией, но потребовались годы, чтобы пользователи обрели контроль над этой функцией. В начале года Facebook согласилась заплатить 550 млн долл., для урегулирования дела о нарушении конфиденциальности.

Вопрос о согласии становится откровенно проблематичным в контексте работы камер видеонаблюдения. Камеры Google Nest и Apple HomeKit позволяют пользователям создавать альбомы лиц знакомых и присылают уведомления, когда алгоритм обнаруживает одного из них. HomeKit также оповещает о людях, которые часто приходят к дверям, например, владельцы собак на прогулке, но не находятся в приложении фотобиблиотеки.

Apple не отправляет эти биометрические данные в облако. Google отправляет, но шифрует и не передаёт за пределы организации. Таким образом, камеры слежения на базе Google и Apple явно ориентированы на потребителей, а базы данных, используемые их алгоритмами распознавания лиц, более или менее ограничены.

Однако граница между технологиями для потребительских продуктов и потенциалом мощных полицейских инструментов наблюдения размывается системами безопасности, созданными Ring. Эта принадлежащая Amazon компания сотрудничает с полицией. Хотя Ring утверждает, что продукты компании в настоящее время не используют технологию распознавания лиц, есть информация, что компания стремилась создать «списки наблюдения» за соседями на основе распознавания лиц.

Похоже, что системы распознавания лиц становятся всё более амбициозными по мере того, как их базы данных становятся больше, а алгоритмы выполняют более сложные задачи. Неудивительно, что чиновники всё сильнее настаивают на ограничении использования технологии распознавания лиц правоохранительными органами. Последние имеют доступ не только к огромному количеству камер, но и к невероятно большим базам данных. Джорджтаунский центр по вопросам конфиденциальности и технологий обнаружил в 2016 году, что более половины американцев находятся в базе данных распознавания лиц.

Спорный стартап Clearview AI утверждает, что нашёл в интернете миллиарды фотографий, размещённых в социальных сетях, и создал массивную базу данных распознавания лиц, которую он предоставил в распоряжение правоохранительных органов. По словам Джейка Лаперрука, старшего юрисконсульта проекта по правительственному надзору, это сулит пугающее будущее для технологии распознавания лиц.

«Это может быть очень серьезно, если система действительно работает хорошо и используется для каталогизации списков людей, которые ходят на протесты или политические митинги», — сказал Джейк Лаперрук, старший юрисконсульт Project on Government Oversight.

.

Регулирование распознавания лиц будет осуществляться постепенно

.

Недавний американский мораторий на распознавание лиц и биометрические технологии на федеральном уровне запретит использование распознавания не только лиц, но ещё голоса и походки, пока Конгресс не примет другой закон, регулирующий эту технологию.

Но регулирование технологии неизбежно потребует постепенного принятия законов и внимания к деталям, чтобы конкретные случаи использования не были упущены из виду. Например, В Сан-Франциско внесли поправки в постановление о распознавании лиц после того, как оно случайно сделало незаконными принадлежащие полицейскому департаменту iPhones. Когда Бостон принял своё недавнее постановление о распознавании лиц, он сделал исключение для распознавания на входе в личные устройства, такие как ноутбуки и телефоны. Одного закона, регулирующего технологию распознавания лиц, может быть недостаточно.

Повсеместное использование технологии распознавания лиц заставит нормализовать наблюдение. Как утверждает профессор Технологического института Рочестера Эван Селинджер, когда люди адаптируются к системе и она отодвинется на второй план, их желания и убеждения могут перестроиться.

Поэтому, несмотря на запрет распознавания для правоохранительных органов, который в определённой степени даже эффективен, технология всё равно становится частью повседневной жизни. Рано или поздно нам придётся иметь дело с последствиями этого.

Оригинал статьи

.

***

Напомним, РосКомСвобода предлагает ввести мораторий на использование систем распознавания лиц на улицах, пока не будет разработано законодательство, регулирующее эту сферу и уменьшающее риски, связанные со злоупотреблениями данной технологией, а также утечками биометрических данных.