Исследование: ИИ может постепенно лишить человечество власти

Исследование, проведённое учёными Карлова университета и Telic Research, описывает риск «постепенного лишения власти». Согласно их выводам, ИИ может постепенно подорвать контроль человека над экономикой, культурой и государственными институтами. Со временем это может привести к тому, что общественные системы станут менее зависимыми от людей, ослабляя механизмы демократии и влияния граждан.

Искусственный интеллект может начать оптимизировать процессы таким образом, что они перестанут учитывать человеческие предпочтения. Например, экономическая власть ИИ может формировать культурные нарративы, а затем эти нарративы начнут влиять на политические решения. В результате влияние человека на общество будет снижаться в различных сферах одновременно.

Учёные предлагают несколько стратегий снижения риска. В их числе — разработка систем измерения потери человеческого влияния, регулирование искусственного интеллекта через законы и налоги, усиление демократических процессов и создание «ИИ-делегатов», представляющих интересы человека.

Также исследователи подчёркивают важность междисциплинарного подхода и международной координации. По их мнению, предотвращение рисков ИИ должно учитывать не только угрозы злоупотреблений, но и то, насколько человечество сохраняет контроль над своими основными социальными системами.

Всё это требует более глубокого понимания того, что значит быть человеком в мире, где решения принимаются не людьми, а алгоритмами. По мнению авторов исследования, своевременные меры позволят избежать сценария, при котором люди утратят влияние на общественные процессы.