Американские IT-компании приостанавливают продажу технологий распознавания лиц правоохранителям

В список таких компаний вошли IBM, Amazon и Microsoft, и вполне возможно, что их примеру могут последовать другие участники высокотехнологичного рынка.  

Компания Microsoft решила присоединиться к IBM и Amazon и занять позицию против использования технологии распознавания лиц правоохранительными органами.

Как заявил президент компании Брэд Смит во время online-интервью на мероприятии Washington Post Live, Microsoft уже заняла «принципиальную позицию» в отношении правильного использования данной технологии:

«В настоящее время мы не продаем технологию распознавания лиц полицейским управлениям в США, пока не будет принят национальный закон, основанный на правах человека, который будет регулировать подобные технологии».

По словам Смита, Microsoft также будет внедрять и другие «факторы обзора», регулирующие использование технологии в «различных сценариях».

Microsoft president @BradSmi says the company does not sell facial recognition software to police depts. in the U.S. today and will not sell the tools to police until there is a national law in place “grounded in human rights.” #postlive pic.twitter.com/lwxBLjrtZL

— Washington Post Live (@postlive) June 11, 2020

Действия технических гигантов обусловлены рисками, связанными с использованием искусственного интеллекта (ИИ), особенно когда речь идёт о предвзятости и возможном вторжении в частную жизнь. Также нельзя не учитывать контекст последних событий в США, связанных с протестами и беспорядками, вспыхнувшими после гибели безоружного темнокожего американца Джорджа Флойда во время его брутального задержания полицией.

«Технология распознавания лиц с использованием ИИ чертовски хороша, но она не очень надежна, — говорит исследователь искусственного интеллекта Кен Боднар. — Это означает, что нейронная сеть хорошо обучаема и способна к удивительным способностям идентификации, но если один маленький параметр отключен, он неправильно идентифицирует вас».

I've been quoted in Forbes, in an article on Face Recognition:https://t.co/ESOC0G3WUE

— Ken Bodnar (@ArtofWarm) June 13, 2020

Напомним, недавно Конгресс США был внесен законопроект об ужесточении контроля за действиями полиции — Justice in Policing Act of 2020, который уже на стадии разработки нашел поддержку со стороны 166 членов Палаты представителей и 35 сенаторов. Документ «должен стать первой подобного рода мерой для контроля над полицией, изменения культуры правоприменения и укрепления доверия между правоохранительными органами и нашим обществом».

В тексте законопроекта помимо прочего содержится требование об ограничении использования технологий по распознаванию лиц в нагрудных полицейских видеорегистраторах. Они смогут применяться только с разрешения судебных органов, только при непосредственной угрозе или при совершении тяжких преступлений. Такие записи будут доступны прокурорам, адвокатам и другим участникам судебных процессов.

Внесенный законопроект стал прямым следствием роста недовольства действиями правоохранительных органов и массовых протестов, начавшихся после смерти Флойда.

Недовольство действиями полиции усилило дискуссию о массовом использовании правоохранительными органами технологий по распознаванию лиц, что неоднократно подвергалось критике со стороны правозащитников. Эта критика уже привела к тому, что в сентябре прошлого года в Калифорнии ввели трехгодичный мораторий на использование подобных технологий полицией и другими госслужбами.

Первым системы распознавания лиц запретил Сан-Франциско. Позже еще несколько американских городов, в том числе Окленд (Калифорния) и Сомервилл (Массачусетс), последовали этому примеру. В сентябре использование технологии запретили правоохранителям всего штата Калифорния.

Одним из последних аргументов стал эксперимент, проведенный Американским союзом гражданских свобод (ACLU). В разработанную Amazon программу Rekognition загрузили 25 тыс. лиц арестованных, а также фотографии членов калифорнийского законодательного собрания. И ПО обнаружило 26 совпадений.

Еще больше критики вызывают случаи расовой дискриминации при работе такого ПО. Американский Национальный институт стандартов технологии установил, что с изображениями белых женщин программа ошибается примерно в каждом десятитысячном случае, а с изображениями чернокожих женщин — в каждом тысячном, то есть в 10 раз чаще. В прошлом году к похожим выводам пришли ученые Массачусетского технологического института.

Эксперты по-разному отреагировали на решения компаний. Директор аналитического департамента «Фридом Финанс» Вадим Меркулов сообщил «Ъ», что «технологические компании сталкиваются с повышенным вниманием к своим контрактам с полицией, а технология распознавания лиц является одним из важных инструментов полиции для поиска подозреваемых. Отказ… позволит улучшить образ прочих продуктов компании в глазах потенциальных пользователей». При этом Меркулов отмечает, что рынок систем распознавания лиц является небольшим, но активно развивающимся.

В свою очередь, специалист по правовым вопросам британской правозащитной организации Privacy International Ксения Бакина в интервью «Ъ» отметила, что «весьма маловероятно, что в течение года объявленного Amazon моратория эта технология полностью избавится от всех ошибок и недостатков, в том числе тех, что связаны с расовой дискриминацией. Если же Amazon продолжит сотрудничать с полицией по ряду других технологий, с ее стороны это будет плохим пиаром и лицемерием.

Эксперт не исключила, что за решениями этих компаний могут последовать аналогичные шаги и других участников рынка, однако задалась вопросом, насколько эффективными и действенными на практике могут быть такие шаги разработчиков. Кроме того, она обратила внимание на скандально известную компанию Clearview AI, которая заявила, что «верит в то, что ответственное использование технологий по распознаванию лиц может защищать от преступлений членов нашего общества, в том числе детей».

В любом случае эксперты считают, что события минувшей недели не только приведут к изменению законодательной базы в отношении распознавания лиц властями, но и повлияют на других игроков этого рынка, по крайней мере повышенным вниманием общественности. Некоторые компании уже поспешили обозначить свою позицию. Представители компании NEC заявили изданию Recode, что «выступают против любого применения технологий по распознаванию лиц или любых других технологий, если это нарушает первую поправку о свободе вероисповедания, слова, собраний, прессы к Конституции США». Дебора Раджи, партнер исследовательской организации AI Now Institute, входящей в состав Нью-Йоркского университета и изучающей воздействие технологий искусственного интеллекта на жизнь общества, в интервью американским СМИ отметила, что «внесенный в Конгресс законопроект, скорее всего, повлияет на то, что будет делать не только NEC, но и Clearview AI, поскольку на их действия теперь смотрит весь мир».

Похожую точку зрения высказала и Ксения Бакина. «Мы надеемся, что Amazon, IBM и другие компании используют ближайший год и последующее время, чтобы активнее работать над защитой прав человека. Это должно стать отправной точкой для дальнейшей разработки их продуктов и услуг, без каких-либо исключений. Это единственный путь для исправления допущенных ошибок и борьбы с несправедливостью, которой подвергаются люди на улицах. В противном случае им придется примириться с тем фактом, что они, как и власти, ответственны за совершаемые злоупотребления»,— отметила эксперт.

IT-отрасль в США призывает принять общенациональный закон, который бы регламентировал использование соответствующих технологий. Некоторые компании заявили о намерении помочь с разработкой законодательства, но это вызывает беспокойство со стороны критиков технологической индустрии, которые полагают, что корпорации могут попытаться вложить в закон лоббистскую составляющую, которая сыграет на руку их финансовым интересам.

«Я думаю, что они, несомненно, смогут заработать больше денег с реформированным распознаванием лиц, чем с запретом этой технологии», — сказал Мэтью Гуарилья (Matthew Guariglia), аналитик по вопросам политики «Фонда электронных рубежей» (EFF). Так что активисты и правозащитники в этом вопросе собираются «держать руку на пульсе», отслеживая все движения, связанные с изменением законодательства в вопросе применения ИИ и, в частности, технологии распознавания лиц.

Напомним, в январе нынешнего года Еврокомиссия рассматривала возможность запрета использования технологии распознавания лиц в общественных местах на срок до пяти лет, чтобы за это время можно было разработать способы предотвращения потенциальных злоупотреблений. С таким же предложением выступает и РосКомСвобода,