Хакеры из России, Ирана, Китая и КНДР использовали OpenAI для атак

Компания Microsoft обнародовала доклад о том, как поддерживаемые государственными структурами хакеры из России, Китая, Ирана и КНДР пользовались инструментами принадлежащего ей OpenAI.

В ходе отслеживания деятельности хакерских групп, включая российскую военную разведку, Корпус стражей иранской революции, а также правительств КНР и Северной Кореи, компания обнаружила, что те стремились совершенствовать программы искусственного интеллекта (ИИ), чтобы повысить эффективность своих хакерских атак.

Группы Charcoal Typhoon, Salmon Typhoon, Crimson Sandstorm, Emerald Sleet и Forest Blizzard были выявлены и деактивированы как результат совместных усилий OpenAI и Microsoft.

Forest Blizzard, хакерская группа, предположительно связанная с российской военной разведкой, использовала языковые модели для исследования «различных спутниковых и радиолокационных технологий», которые «могут относиться к обычным военным операциям в Украине», утверждает Microsoft.

Иранские хакеры из Crimson Sandstorm использовали ИИ для написания фишинговых электронных писем.

Charcoal Typhoon и Salmon Typhoon, поддерживаемые Китаем, использовали языковые модели OpenAI для улучшения своих «технических операций», включая исследование инструментов кибербезопасности и создание фишингового контента.

Хакеры из Северной Кореи, связанные с группой Emerald Sleet, генерировали контент, который «вероятно, использовался в кампаниях по спир-фишингу» против региональных экспертов.

Компания представила доклад в связи с введением полного запрета на использование её ИИ-продуктов хакерскими группами, которые поддерживаются государственными структурами.

Вице-президент Microsoft по безопасности Том Берт пояснил в интервью агентству Reuters, что компания не хочет, чтобы хакеры имели доступ к её технологиям.

Представитель посольства Китая в США Лю Пэнью заявил Reuters, что Китай отрицает «необоснованные клеветы и обвинения» и поддерживает «безопасное, надёжное и контролируемое» использование технологий искусственного интеллекта.

Утверждение о том, что поддерживаемые государством хакеры были уличены в использовании инструментов искусственного интеллекта для расширения своих возможностей скрытого наблюдения, скорее всего, усилит опасения по поводу быстрого распространения этой технологии и возможностей для злоупотреблений ею.