21.12.2019

Исследование: системы распознавания лиц склонны к расовой предвзятости

Официальное исследование правительства США подтвердило ранее установленные факты, что системы распознавания лиц чаще некорректно идентифицируют темнокожих и азиатов, чем белых — это усилило скептицизм к внедрению технологии, которую хотят повсеместно использовать правоохранительные органы

 

К такому выводу пришёл Национальный институт стандартов и технологии, сообщает Reuters. В ходе проверки выяснилось, что системы распознавания лиц некорректно идентифицируют темнокожих и азиатов от десяти до ста раз чаще, чем белых. Это значит, что при применении технологии в аэропортах, на таможнях и улицах темнокожих людей и азиатов могут несправедливо задерживать полицейские.

Также исследователи заметили уклон в сторону темнокожих женщин, которые больше рискуют быть несправедливо задержанными, чем белые женщины только потому, что система не умеет точно распознавать их лица.
.
Кого проверяли?
.
Исследователи протестировали 189 систем распознавания лиц от 99 различных разработчиков со всего мира, правда, в исследовании не приняла участия компания Amazon, которая не предоставила свой алгоритм. Китайский стартап SenseTime, оцененный в $7,5 млрд, показал «высокий уровень ложных совпадений для всех сравнений», немножко качественнее показала себя китайская система Yitu, однако и там ученые заметили расовый уклон.

Проанализировав распознавание лиц от Microsoft, исследователи выяснили, что алгоритм в десять раз чаще некорректно срабатывает в отношении темнокожих женщин, чем темнокожих мужчин. Microsoft заявила, что рассматривает отчет и даст комментарии позже.
.
Реакция
.
Конгрессмен Бенни Томпсон, председатель комитета по безопасности США в Палате представителей, заявил, что результаты исследования оказались хуже, чем он опасался, в то время как таможенники продолжают устанавливать распознавание лиц на контрольно-пропускных пунктах. «Администрация должна пересмотреть свои планы по технологии распознавания лиц в свете таких шокирующих результатов» — сказал он.

Здесь можно подписать нашу петицию о наложении моратория на систему распознавания лиц в России. Ваша поддержка нужна нам, чтобы наша юридическая кампания была громче.

.
don but rks

.

bancam.ru hor

.