Из-за ошибки технологии распознавания лиц арестовали невиновного

Полицейские отпустили человека, сказав, что «компьютер», должно быть, ошибся.  

Афроамериканец Роберт Уильямс провел более суток в полицейском участке Детройта в январе. Случилось это после того, как программа распознавания лиц Rank One подключила фотографию его водительских прав к видео, зафиксировавшему магазинную кражу, сообщает Американский союз гражданских свобод Мичигана (ACLU). Охранник магазина, просмотрев размытое изображение наблюдения за инцидентом, подтвердил, что Роберт действительно был тем вором.

По словам Уильямса, позже полицейские отпустили его, сказав, что «компьютер», должно быть, ошибся. Уильямс также рассказал, что он бы и не узнал о роли алгоритмов в своём аресте, но об этом проговорился один из офицеров. Это первый известный в стране случай, когда распознавание лиц привело к ошибочному задержанию.

В Rank One пообещали добавить в свою политику правила по отзыву ПО, нарушающего кодекс этики компании, и провести технический обзор дополнительных гарантий для предотвращения злоупотреблений.

Ранее IBM, Amazon и Microsoft приостановили продажу технологии распознавания лиц правоохранительным органам. Действия технических гигантов обусловлены рисками, связанными с использованием искусственного интеллекта (ИИ), особенно когда речь идёт о предвзятости и возможном вторжении в частную жизнь. Также нельзя не учитывать контекст последних событий в США, связанных с протестами и беспорядками, вспыхнувшими после гибели безоружного темнокожего американца Джорджа Флойда во время его задержания полицией.

Не одно исследование подтвердило, что технология распознавания лиц несовершенна и предвзята, особенно в вопросе людей с другим цветом кожи и отдельно женщин. Учитывая недостатки технологии и широту её использования правоохранительными органами, ACLU предполагает, что Роберт не первый человек, который был незаконно арестован таким образом. Он просто первый, о ком узнали.

ACLU также обращает внимание на то, что технология наблюдения часто используется тайно, без какого-либо надзора и служит порой единственным основанием для ареста, хоть полиция обычно и утверждает, что это не так. Но даже исправление недостатков технологии не сделает её менее безопасной, убеждены в ACLU: сегодня полицейские пришли по ошибке, а завтра потому, что совершенно точный алгоритм идентифицировал человека на акции протеста, которая не понравилась правительству.

ACLU штата Мичиган подаёт жалобу на полицию Детройта, но ущерб уже нанесён. Образец ДНК Роберта, фотография и отпечатки пальцев были взяты, когда он прибыл в следственный изолятор, и теперь хранятся в архиве.