IBM свернул продажи продуктов, связанных с распознаванием лиц

Компания считает, что данная технология недоработана, несёт в себе риски предвзятого использования, а также должна пройти тестирование с обязательным освещением результатов.  

Генеральный директор IBM Арвинд Кришна (Arvind Krishna) анонсировал отказ компании от продажи услуг по распознаванию лиц, призвав к диалогу о целесообразности использования данной технологии. Он также высказался в поддержку нового законопроекта [в США], направленного на уменьшение насилия со стороны полиции и повышение ответственности правоохранителей.

Кришна напомнил о недостаточной доработанности данной системы, поэтому в данный момент вряд ли пригоден для использования. Кроме этого, производители и пользователи систем, основанных на использовании искусственного интеллекта (ИИ), должны нести общую ответственность за данный продукт. ИИ необходимо проверять на предвзятость, особенно в эксплуатации правоохранительными органами, и такое тесииррование следует постоянно проверять и озвучивать его результаты.

В своём письме глава компании часто ссылается на Amazon, зарабатывающей на таких технологиях, показавших низкое качество работы, но почему-то не снятых с продаж. Также он не уверен, что IBM будет дальше продолжать исследования в данном направлении.

Недавно Демократическая партия США в ответ на убийство афроамериканца Джорджа Флойда внесла в Конгресс законопроект, направленный на масштабное реформирование в полиции. Законопроект направлен на «прекращение жестокости полиции, привлечение полиции к ответственности, повышение прозрачности в работе полиции», — говорится в заявлении.

В частности, демократы требуют, чтобы сотрудники правоохранительных органов не имели права применять удушающие приемы. Инициатива предполагает создание специальной базы данных, где будет храниться информация о неправомерных действиях полиции. Полицейские по всей стране также будут обязаны носить камеру на своей одежде, но при этом он ограничивает использование технологии распознавания лиц.

О своем решении компания IBM сообщила на фоне массовых акций протеста в США, которые были спровоцированы кончиной Флойда. По данным же телеканала CNBC, бизнес IBM по распознаванию лиц и так не приносил компании существенного дохода. Источники агентства Reuters, знакомые с вопросом, сообщили что решение об отказе от развития продукта были приняты задолго до истории с Флойдом – еще несколько месяцев назад.

С законопроектом в целом согласен Американский союз защиты гражданских свобод (ACLU). «Мы должны инвестировать в технологии, которые могут помочь ликвидировать цифровой разрыв (между расами и слоями общества), а не в технологии, которые создают инфраструктуру наблюдения и усугубляет злоупотребления полиции и структурный расизм», — говорится в официальном сообщении ACLU. Организация теперь ждёт шага от Amazon и Microsoft в данном направлении.

Your turn, @Amazon and @Microsoft. https://t.co/ZaUCXkL5LW

— ACLU (@ACLU) June 9, 2020

Власти некоторых американских городов США уже ввели запрет на машинное распознавание лиц. Так, в 2019 г. Сан-Франциско, Окленд и Сан-Диего были в числе тех городов, которые одними из первых запретили технологию распознавания лиц, сославшись на то, что эта она имеет ряд серьезных ограничений, способствует предвзятости в отношении национальных меньшинств. Кроме того, технологии вменялось отсутствие стандартов в отношении ее использования.

Европейский Союз, по сообщению Reuters, рассматривает вопрос о введении пятилетнего моратория на применение технологий распознавание лиц в общественных местах, в том числе в парках, спортивных площадках, а также в зонах притяжения туристов. Подобная мера могла обеспечить властям ЕС достаточное время на тщательную проработку законодательства, которое могло бы гарантировать отсутствие злоупотреблений технологией со стороны ее операторов.

.