Access Now: при использовании ИИ Евросоюз должен ставить права человека во главу угла

Представляем выжимку из доклада авторитетной организации по защите цифровых прав: этический подход к регулированию искусственного интеллекта себя исчерпывает; прозрачность — минимальное требование при обеспечении надзора и мониторинга за технологиями; страны ЕС ещё не договорились, как именно следует контролировать ИИ.  

Некоммерческая организация по защите цифровых прав Access Now выпустила доклад «Европейский подход к искусственному интеллекту: как развивается стратегия ИИ». В нём она исследует, как страны Европейского союза продвигают искусственный интеллект, который ЕС называет заслуживающим доверия. Доклад является продолжением отчёта 2018 года. Он содержит итоги четырёх круглых столов и ряда индивидуальных интервью, организованных Access Now и британским оператором мобильной связи Vodafone за два последних года.

«Хотя ИИ обладает потенциалом приносить пользу обществу, он также влияет на права человека и наносит непоправимый вред миллионам людей по всему миру. Выбор политики и стратегии ЕС должен показать, что Евросоюз ставит людей и их права выше инноваций, внедряемых любой ценой», — сказала Фанни Хидвеги, менеджер по европейской политике Access Now.

Для того чтобы считаться заслуживающими доверия, ИИ должен удовлетворять следующим критериям:

– управление и надзор со стороны человека;
– технические надёжность и безопасность;
– конфиденциальность;
– прозрачность;
– разнообразие, недискриминация и справедливость;
– социальное и экологическое благосостояние;
– подотчётность.

В докладе делаются следующие выводы.

Часто государства по всему миру следуют этическому подходу Евросоюза, предполагающему мягкое регулирование ИИ. Но во многих случаях теория ещё не превратилась в практику.

В дискуссиях усиливаются призывы запретить распознавание лиц жёсткими правилами. Одного этического подхода уже недостаточно: он оставляет миллионы людей беззащитными перед потенциальными нарушениями прав человека и практически без каких-либо средств правовой защиты. Комитет министров Совета Европы признал, что в связи с растущей зависимостью от алгоритмических систем в повседневной жизни в обществе появились проблемы относительно таких прав, как право на справедливое судебное разбирательство, право на неприкосновенность частной жизни и защиту данных, право на свободу слова.

Access Now присоединяется к призыву Европейской сети цифровых прав (European Digital Rights) запретить в ЕС массовое наблюдение, использующее биометрические данные. К слову, в России  «Роскомсвобода» активно ведёт кампанию против распознавания лиц. Вы можете помочь нам, присоединившись к кампании и подписав петицию на сайте Change.org.

🧐 “While AI can deliver benefits to society, it also causes irreparable harm & impacts #HumanRights. EU policy must show that the government will put people and their rights ahead of innovation at any and all cost” ⚖️

Read @accessnow report in #EDRigram: https://t.co/Nz6EmrRI8r pic.twitter.com/SoV5JIVZJW

— EDRi (@edri) December 14, 2020

Вместе с тем руководящие принципы ЕС важны для организаций и лиц, разрабатывающих, развёртывающих или использующих ИИ, указали в международной юридической компании DLA Piper. Это важная отправная точка для политиков и законодателей в разработке будущей нормативной базы для ИИ, считают юристы.

Страны ЕС не достигли консенсуса по поводу того, как регулировать ИИ. Однако большинство из них поддерживают и выступают за определённое вмешательство ЕС в контролирование технологий.

Прозрачность — минимальное требование как в частном, так и в государственном секторе при обеспечении надзора и мониторинга за ИИ. И хотя одной её недостаточно для защиты прав человека, публичный реестр по использованию автоматизированных решений государством должен быть обязательным.

К слову, в феврале этого года Еврокомиссия опубликовала «Белую книгу» правил использования искусственного интеллекта. Документ представляет собой план по созданию регуляторных норм и требований и основан на разработанной в 2018 году стратегии ИИ.  При внедрении в сферах с высокой степенью риска, таких как здравоохранение и транспорт, системы искусственного интеллекта должны быть прозрачны, чтобы их можно было бы подчинить контролю со стороны человека, пояснили тогда в ЕС, презентуя правила.

 Кризис, вызванный пандемией коронавируса, с одной стороны, положительно повлиял на усиление прозрачности, поскольку граждане и НКО стали требовать от правительств открывать код приложений отслеживания COVID-19. С другой стороны, он ещё больше снизил доверие граждан к новым технологиям и
государству.

Цифровое образование является ключевым фактором, позволяющим гражданам совершать осознанный выбор и восстановить доверие к системам искусственного интеллекта и государственному
управлению, делают вывод авторы исследования.