США, Великобритания, Япония и еще 15 стран подписали соглашение «о безопасном ИИ»

18 государств подписали соглашение о безопасности в области искусственного интеллекта (ИИ).

Соглашение подписали представители США, Великобритании, Австралии, Канады, Новой Зеландии, Чили, Чехии, Эстонии, Франции, Германии, Израиля, Италии, Японии, Нигерии, Норвегии, Польши, Южной Кореи и Сингапура.

Высокопоставленный американский чиновник назвал это первым подробным международным соглашением, которое призывает компании создавать системы ИИ с «защищённым дизайном», что позволило бы затруднить его использование мошенниками.

В 20-страничном документе 18 стран отметили, что компании, занимающиеся ИИ, должны разрабатывать и внедрять его таким образом, чтобы защитить клиентов и широкую общественность от неправомерного использования.

Соглашение не является обязательным и содержит в основном общие рекомендации, такие как мониторинг систем искусственного интеллекта на предмет злоупотреблений, защита данных от фальсификации и проверка поставщиков программного обеспечения. Соглашение является последним в серии инициатив (некоторые из которых весьма действенны) правительств по всему миру, направленных на формирование развития искусственного интеллекта, чье влияние все больше ощущается в промышленности и обществе в целом.

По словам директора Агентства США по кибербезопасности и безопасности инфраструктуры Джен Истерли, это важный факт, что так много стран поддержали идею о необходимости создания безопасного искусственного интеллекта.

При этом соглашение не затрагивает такие острые вопросы, как надлежащее применение ИИ-технологий или методы сбора данных для обучения ИИ-моделей.