14 November 2019

Совет Европы опубликовал рекомендации по защите прав человека от негативного влияния ИИ

В тексте документа СЕ рекомендует государствам и частному сектору применять более открытые и инклюзивные практики во время регулирования работы искусственного интеллекта.  

Рекомендации подготовил Комитет экспертов по правозащитным аспектам автоматизированной обработки данных и различных форм искусственного интеллекта (MSI-AUT). Список рекомендаций готовился в консультации с гражданским обществом, в частности с фондом Викимедиа и международной правозащитной группой Access Now.

Необходимость документа назрела на фоне общественной дискуссии о том, что алгоритмические системы могут оказывать негативное влияние на демократию и самовыражение. Целью документа была выработка рекомендаций для государства и частного сектора по уменьшению негативного влияния алгоритмов на права человека.

Документ с рекомендациями поделен на 2 части: для государства и для частного сектора. Представленные в документе принципы охватывают аспекты проектирования, разработки и развертывания алгоритмических систем: управление данными, моделирование, анализ, прозрачность, подотчетность, меры предосторожности, исследования и информирование общественности.
.
В отчете есть, например, такие положения, как:
.

«Субъекты частного сектора должны осознавать риски, связанные с качеством, природой и происхождением данных, которые они используют для обучения своих алгоритмов, чтобы гарантировать, что ошибки, предвзятость и потенциальная дискриминация адекватно учтены в рамках конкретных контекстов».

.
Одна из рекомендаций для государств:
.

“Государствам следует обеспечить, чтобы весь персонал, участвующий в закупках, разработке, внедрении и оценке алгоритмических систем, которые могут оказать значительное влияние на права человека, был компетентен в правах человека и недискриминации и осознавал свою обязанность обеспечивать не только тщательную техническую оценку, но и соблюдение прав человека”.

В данный момент документ изучают правозащитники. Прочитать рекомендации на английском языке можно здесь.

Contacts

For general questions

[email protected]

For legal questions

[email protected]

Contacts for media:

Telegram: moi_fee
Signal: moi_fee.13

18+

On December 23, 2022, the Ministry of Justice included Roskomsvoboda in the register of unregistered public associations performing the functions of a foreign agent. We disagree with this decision and are appealing it in court.