В США обеспокоены точностью систем распознавания лиц

Разрабатываемая компаниями, в список которых входят Amazon и Microsoft, технология всё чаще берётся на вооружение правоохранительными органами во всём мире, но при этом иногда такие системы неверно идентифицируют женщин, а также «цветных» людей.  

Политики США на недавних слушаниях выразили обеспокоенность по поводу растущего использования и точности в работе софта для распознавания лиц. Технология разрабатывается многими компаниями, в том числе Amazon и Microsoft, и к ней всё чаще обращаются правоохранительные органы во всём мире. Однако некоторые технологии распознавания лиц неверно идентифицируют женщин и «цветных» людей. Группы по защите конфиденциальности, а также прав и свобод выразили обеспокоенность по поводу того, как собираются данные для этих программ. «Это что-то из реальности «Чёрного зеркала», которую мы можем наблюдать воочию», — сказала конгрессмен от Нью-Йорка Александрия Окасио-Кортес (Alexandria Ocasio-Cortez), отсылая к телешоу, посвящённому тёмной стороне технологий.

US lawmakers, Democrat + Republican, have raised serious concerns about facial recognition & are legislating to rein it in.

“This is real life black mirror stuff” @AOC

Catch up @kitmalthouse @patel4witham — stop facial recognition surveillance NOW!pic.twitter.com/GlS8PVMtev

— Big Brother Watch (@bbw1984) January 16, 2020

Американские законодатели работают над предложениями к законопроекту об ограничении использования распознавания лиц. Некоторые технические эксперты выразили обеспокоенность по поводу того, как используются растущие базы данных по распознаванию лиц, контролируемые правительствами и частными компаниями.

«Я думаю, что нам нужно приостановить технологию», — сказала Мередит Уайттэкер (Meredith Whittaker), содиректор исследовательского Нью-Йоркского университета AI Now и свидетель на слушании.

Она утверждает, что необходимо ввести правила, требующие согласия на использование программного обеспечения для распознавания лиц. В настоящее время в США человеку достаточно видеть камеру, чтобы дать согласие. Госпожа Уайттэкер заявила, что корпоративным интересам нельзя позволять «гнать вперед» и внедрять эту технологию в свои системы без гарантий и контроля.

Компании, которые заняты разработкой программ для распознавания лиц, включают Google, Microsoft, Amazon и Facebook. Они собирают данные для создания своего программного обеспечения по распознаванию лиц различными способами, в том числе с помощью видеонаблюдения и с помощью веб-сайтов, включая сайты обмена фотографиями, такие как Flickr и Facebook. Фотофильтры, подобные тем, которые используются в Instagram и Snapchat, также можно использовать для оттачивания [считывания] деталей лиц.

Amid growing use of #facialrecognition technology in the US, politicians have expressed concerns about its accuracy, especially in the case of women and people of colour. https://t.co/CI283BPElH

— Edward Herbert (@ed_herbert) January 16, 2020

Полицейские структуры в США говорят об успешном использовании технологии распознавания лиц для выявления пропавших детей и преступников. Но сбои в алгоритмах привели к ошибочной идентификации. Обвиняемым в преступлениях, найденных с помощью ПО для распознавания лиц часто не говорят, что технология была использована. Существуют также опасения, что авторитарные режимы могут использовать эту технологию для мониторинга граждан. В таких странах, как Китай, уже созданы обширные системы наблюдения.

Хотя технология небезупречна, некоторые законодатели задаются вопросом о последствиях её применения, поскольку технология становится более точной. «Дело не только в том, что такие технологии не всегда правильно идентифицируют, проблема гораздо шире», — говорит республиканец Марк Медоуз (Mark Meadows) из Северной Каролины. «Независимо от ее точности, есть существенные проблемы с этой технологией и ее использованием», — заявил член Палаты представителей Джерри Коннолли (Gerry Connolly) из Вирджинии.

Это было третье слушание, которое Комитет по надзору за палатой представителей США менее чем за год провел по проблеме использования технологии распознавания лиц.