Microsoft помогает жертвам дипфейков удалить интимные фото из Bing

Развитие технологий генеративного ИИ привело к новой проблеме в интернете — массовому распространению искусственно созданных откровенных изображений, имитирующих реальных людей. Поэтому Microsoft сделала важный шаг в защите жертв порно-дипфейков созданных ради троллинга и мести. Компания запустила инструмент, который поможет удалить такие изображения из результатов поиска Bing.

Microsoft объявила о партнерстве с организацией StopNCII, которая позволяет жертвам подобных атак создать цифровой отпечаток (хэш) на своём устройстве для блокировки изображений. Этот хэш используется платформами, такими как Bing, для автоматического удаления незаконных материалов.

Среди других партнеров StopNCII — Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub и OnlyFans. Все они применяют эту технологию, чтобы остановить распространение порнографического контента, созданного с использованием дипфейков.

В своём блоге Microsoft заявила, что уже предприняла действия по блокировке 268 000 изображений с порнографическим содержанием, найденных через поисковик Bing, при поддержке базы данных StopNCII. Ранее компания предлагала инструмент для прямого сообщения о таких изображениях, но этого оказалось недостаточно. Представители компании подчеркнули, что жалобы пользователей не всегда масштабируются должным образом и не могут эффективно решать проблему в долгосрочной перспективе. Такие меры кажутся особенно важными на фоне того, как другие крупные поисковые системы, такие как Google, продолжают сталкиваться с критикой за недостаточную борьбу с проблемой.

Google предлагает инструменты для удаления интимных изображений из своих результатов поиска, однако, по данным расследования Wired, компания не сотрудничает с StopNCII, что вызывает обеспокоенность как экспертов, так и пострадавших людей. Например, с 2020 года в Южной Корее пользователи Google сообщили о более чем 170 000 ссылках на порнографический контент.

Проблема дипфейков уже стала широко распространённой. Инструменты StopNCII могут помочь только пользователям старше 18 лет, однако сайты для создания дипфейков нередко создают сложности для школьников и молодёжи. В США на данный момент отсутствует закон, регулирующий использование порнографии, созданной с помощью дипфейков, что делает проблему ещё сложнее. Для борьбы с этой угрозой страна полагается на набор разрозненных местных и государственных законов.

Инструменты, разработанные Microsoft и StopNCII, призваны предложить жертвам защиту и возможность удалить компрометирующий контент из интернета. Однако, по мнению экспертов, проблема требует более комплексного подхода и ужесточения законодательства для предотвращения дальнейшего злоупотребления ИИ-технологиями.