«Генеративная дезинформация реальна — просто вы пока не её цель»

Профильное издание TechCrunch опубликовало статью о «возможном скрытом» влиянии технологий генеративного искусственного интеллекта на общество, в частности — на избирательный процесс.

2024-й называют «Годом Супервыборов», поскольку электоральные процессы охватили почти 70 стран мира.

Разумеется, проходящим в США было притянуто основное внимание мировых СМИ, а также общественности. Многие опасались, что выборы 2024 года будут затронуты и, возможно, предрешены дезинформацией, сгенерированной ИИ. В итоге оказалось, что обнаруженных фактов её применения не так уж много. «Но не позволяйте этому обмануть вас: угроза дезинформации реальна — вы просто не цель», — так говорит Орен Этциони, исследователь ИИ, чья некоммерческая организация TrueMedia держит руку на пульсе сгенерированной дезинформации.

«Для этого явления, если можно так выразиться, характерно разнообразие дипфейков, — рассказал Этциони в недавнем интервью TechCrunch. — Каждый из них служит своей цели, и о некоторых мы знаем больше, чем о других. Объясню так: на каждый фейк, о котором вы слышите, приходится сотня, не нацеленных на вас. А может, и тысяча. В прессу попадает только самая верхушка айсберга».

Огромный пласт генеративной дезинформации проходит мимо основного информационного поля, оставаясь незаметным для большинства, считает он.

Дезинформация на основе ИИ активно используется для создания труднопрослеживаемых фейков, таких как поддельные военные сцены или политические заявления. Например, существуют фальшивые изображения и видео «иранских самолётов над Израилем», которые невозможно сразу опровергнуть.

Эти материалы распространяются в закрытых сообществах — на каналах Telegram и в группах WhatsApp, где миллионы пользователей могут принимать их за правду, даже не подозревая, что это дезинформация.

TrueMedia предлагает бесплатный сервис (через веб и API) для определения поддельных или настоящих изображений, видео, аудио и других элементов. Полностью автоматизировать процесс сложно, поэтому команда также выполняет проверку вручную. Это помогает TrueMedia более точно оценить масштаб распространения дезинформации и её воздействие на аудиторию.

Основная миссия заключается в количественной оценке проблемы с дизинформацией тремя ключевыми способами, которые обрисовал Этциони:

1. Сколько её там? «Мы не знаем, для этого нет Google. Вы видите различные признаки того, что это распространено, но это чрезвычайно сложно, может быть, даже невозможно точно измерить».
2. Сколько людей это видят? «Это проще, потому что, когда Илон Маск делится чем-то, вы видите, «10 миллионов человек увидели это». Так что количество просмотров легко составляет сотни миллионов. Я вижу каждую неделю материалы, которые были просмотрены миллионы раз».
3. Какое влияние это оказало? «Это, возможно, самое важное. Сколько избирателей не пошли на выборы из-за фальшивых звонков Байдена? Мы просто не готовы это измерить. Словацкая [дезинформационная кампания, нацеленная на кандидата в президенты в феврале] была задействована практически в последнюю минуту, и он проиграл. Это вполне могло повлиять на выборы».

Все эти работы в процессе, а некоторые только начинаются, подчеркнул он. Многие технологические компании предлагают решение проблемы с помощью водяных знаков на изображениях и текстах, но Эциони считает, что такие меры слабо защищают от умышленной дезинформации, поскольку злоумышленники легко обходят их.

Всё это звучит несколько пугающе, но самые значимые выборы в недавней истории только что прошли без особого вмешательства ИИ. Это не потому, что генеративная дезинформация не является обычным явлением, а потому, что ее распространители не сочли нужным принять участие, считает эксперт.