Профильные комитеты Европарламента одобрили проект правил для систем ИИ

Комитет по рынку и Комитет по гражданским свободам Европарламента приняли проект первых в истории правил для искусственного интеллекта (ИИ). Правила основаны на риск-ориентированном подходе, то есть обязательства для разработчиков и пользователей будут зависеть от уровня риска, который может нести искусственный интеллект. Системы с неприемлемым уровнем риска для безопасности людей будут строго запрещены. Это системы, которые используют уязвимости людей, применяют методы подсознательного или целенаправленного манипулирования или предназначены для классификации людей на основе их социального поведения, экономического статуса и личных характеристик.

Кроме этого, депутаты Европарламента расширили перечень повышенных для людей рисков, включив в него вред здоровью, безопасности, основным правам, а также окружающей среде. Ещё они внесли под запрет системы ИИ, влияющие на избирателей в политических кампаниях, и рекомендательные системы, используемые соцсетями (с более чем 45 млн пользователей).

«Депутаты Европарламента стремятся к тому, чтобы системы искусственного интеллекта контролировались людьми, были безопасными, прозрачными, отслеживаемыми, недискриминационными и безвредными для окружающей среды. Они также хотят дать единообразное определение ИИ, которое было бы технологически нейтральным, чтобы его можно было применять к системам сегодняшнего и завтрашнего дня», — говорится на сайте Европарламента.

В списке запрещённого также значатся навязчивое и дискриминационное использование систем искусственного интеллекта, такое как:

- удалённая биометрическая идентификация в режиме реального времени в общедоступных местах;

- удалённая биометрическая идентификация, используемая постфактум, за исключением судебных разбирательств тяжких преступлений (и только с разрешения суда);

- категоризация людей с использованием чувствительных характеристик (например, пола, расы, этнической принадлежности, гражданского статуса, религии, политической ориентации);

-  полицейское прогнозирование (основанное на профилировании, местоположении или преступном людей поведении в прошлом);

- распознавание эмоций, применяемое работодателями, а также в работе правоохранительных органов, пограничном управлении и в образовательных учреждениях; 

- наконец, неизбирательный сбор биометрических данных из соцсетей или записей с камер видеонаблюдения для создания баз данных по распознаванию лиц (с нарушением прав человека и права на неприкосновенность частной жизни).

Модели генерирующего ИИ (Generative foundation models), такие как GPT, должны соответствовать следующим требованиям прозрачности: раскрытие информации о том, что контент был сгенерирован искусственным интеллектом, недопустимость генерации незаконного контента и соблюдение авторских прав.

Для стимуляции разработок Европарламент подумал об исключениях для исследовательской деятельности в правилах — для проектов ИИ, предоставляемых по лицензиям с открытым исходным кодом. В частности, проект продвигает государственные нормативные песочницы в целях тестирования ИИ перед его внедрением.

Депутаты также предлагают расширить право граждан на жалобы на ИИ.

Сейчас проект правил должен быть одобрен всем Европарламентом, голосование ожидается на сессии 12-15 июня. Пункт о запрете полицейского прогнозирования также поддерживают Amnesty Tech, Human Rights Watch, Совет коллегий и адвокатских палат Европы, Европейская адвокатская ассоциация и ещё более 50 подобных групп по всей Европе.