В Китае активно разворачивается новая волна цифровой цензуры, и на этот раз её инструментом становится искусственный интеллект. Утечка базы данных, с которой ознакомился TechCrunch, показывает: власти создают систему на базе больших языковых моделей (LLM), способную автоматически выявлять и блокировать материалы, считающиеся политически чувствительными.
Среди «нежелательных» тем — коррупция, бедность в сельской местности и жалобы на действия чиновников.
Система цензуры, созданная на базе продвинутой языковой модели, способна анализировать тысячи сообщений в реальном времени. Согласно утекшим данным, алгоритм обучен распознавать более 133 000 примеров контента, включая критику партии, жалобы на социальную несправедливость и даже обсуждения протестов. Каждый фрагмент информации автоматически маркируется и может быть заблокирован до его распространения.
Особое внимание уделяется социальным сетям и форумам: искусственный интеллект не только отслеживает публикации, но и анализирует комментарии пользователей. Это позволяет не просто удалять нежелательный контент, но и прогнозировать потенциальные вспышки общественного недовольства.
По мнению экспертов, разработка таких технологий свидетельствует о стремлении Китая усилить контроль над цифровым пространством. Использование ИИ для цензуры позволяет автоматизировать процесс фильтрации информации и оперативно реагировать на возникающие угрозы. Однако это также усиливает ограничения свободы слова и делает борьбу с цензурой всё сложнее.
Пока китайские власти официально не комментируют утечку данных, но этот случай в очередной раз демонстрирует, как технологии ИИ могут использоваться не только для развития, но и для усиления контроля над обществом.
The main news of the week in the field of law.
On December 23, 2022, the Ministry of Justice included Roskomsvoboda in the register of unregistered public associations performing the functions of a foreign agent. We disagree with this decision and are appealing it in court.