Microsoft, OpenAI, Google и ещё 13 компаний заключили соглашение о безопасности ИИ

Крупнейшие технологические компании объединились, чтобы официально взять на себя обязательства по безопасному развитию искусственного интеллекта (ИИ). На онлайн-встрече, организованной лидерами Великобритании и Южной Кореи, они заключили соглашение по этому вопросу.

На встрече присутствовали представители 16 мировых технологических компаний, которые признали, что нейросети дают большие преимущества и значительно ускоряют работу во многих областях, но и приносят с собой риски. Поэтому было заключено соглашение, которое направлено на безопасность пользователей.

Были согласованы практические шаги, включая публикацию рамок безопасности, отказ от моделей с неуправляемыми рисками и координацию действий с регулирующими органами на международном уровне. Цель состоит в том, чтобы обеспечить этичное поведение систем искусственного интеллекта и избежать любого непреднамеренного вреда по мере развития технологии.

К западным технологическим гигантам присоединились компании из Китая и Ближнего Востока, такие как Tencent, Meituan, Xiaomi и Samsung. Исследователи и инженеры будут оценивать системы на предмет предвзятости или других проблем, которые могут поставить группы в невыгодное положение. Все они намерены тщательно отслеживать свои модели ИИ и учитывать различные точки зрения на риски перед их развёртыванием.

Политические лидеры из Евросоюза, США и Австралии в ответ на эту инициативу пообещали проводить регулярные встречи представителей IT-компаний. На них можно будет делиться опытом и обсуждать новые проекты. Политики отметили добровольные начала компаний, но считают, что в будущем потребуется более активное регулирование со стороны властей.