Совет Европы опубликовал рекомендации по защите прав человека от негативного влияния ИИ

В тексте документа СЕ рекомендует государствам и частному сектору применять более открытые и инклюзивные практики во время регулирования работы искусственного интеллекта.  

Рекомендации подготовил Комитет экспертов по правозащитным аспектам автоматизированной обработки данных и различных форм искусственного интеллекта (MSI-AUT). Список рекомендаций готовился в консультации с гражданским обществом, в частности с фондом Викимедиа и международной правозащитной группой Access Now.

Необходимость документа назрела на фоне общественной дискуссии о том, что алгоритмические системы могут оказывать негативное влияние на демократию и самовыражение. Целью документа была выработка рекомендаций для государства и частного сектора по уменьшению негативного влияния алгоритмов на права человека.

Документ с рекомендациями поделен на 2 части: для государства и для частного сектора. Представленные в документе принципы охватывают аспекты проектирования, разработки и развертывания алгоритмических систем: управление данными, моделирование, анализ, прозрачность, подотчетность, меры предосторожности, исследования и информирование общественности.
.
В отчете есть, например, такие положения, как:
.

«Субъекты частного сектора должны осознавать риски, связанные с качеством, природой и происхождением данных, которые они используют для обучения своих алгоритмов, чтобы гарантировать, что ошибки, предвзятость и потенциальная дискриминация адекватно учтены в рамках конкретных контекстов».

.
Одна из рекомендаций для государств:
.

“Государствам следует обеспечить, чтобы весь персонал, участвующий в закупках, разработке, внедрении и оценке алгоритмических систем, которые могут оказать значительное влияние на права человека, был компетентен в правах человека и недискриминации и осознавал свою обязанность обеспечивать не только тщательную техническую оценку, но и соблюдение прав человека”.

В данный момент документ изучают правозащитники. Прочитать рекомендации на английском языке можно здесь.