Подан первый иск против сайтов с дипфейк-порно

В Сан-Франциско впервые подан иск против крупных веб-сайтов, занимающихся созданием и распространением дипфейк-порнографии. Городской прокурор Дэвид Чиу объявил о подаче иска против владельцев 16 наиболее популярных сайтов, которые позволяют пользователям создавать порнографические изображения женщин и девочек без их согласия. Данные сайты предоставляют интерфейсы, которые позволяют загружать фотографии одетых женщин и девочек, а затем превращать их в реалистичные порнографические изображения. За первые шесть месяцев 2024 года эти сайты посетили более 200 миллионов раз.

Городской прокурор отметил, что генеративный ИИ имеет огромный потенциал, но его использование в данной сфере – это не инновация, а сексуальное насилие. Власти стремятся привлечь внимание к опасностям, которые представляет использование ИИ для создания и распространения таких изображений, и намерены бороться с этой проблемой на всех уровнях.

Доступность бесплатных, сложных, открытых ИИ-моделей позволила преступникам тренировать и развивать эти модели в своих целях, используя порнографические изображения и материалы, связанные с сексуальным насилием над детьми. Это позволило им создавать образы реальных женщин и девочек, которые невозможно отличить от настоящих фотографий. Такие изображения используются для вымогательства, запугивания и унижения, создавая условия для новых видов преступлений.

Истец требует удаления сайтов и судебного запрета на их дальнейшую деятельность. Иск подан от имени жителей Калифорнии и обвиняет владельцев сайтов в нарушении как государственных, так и федеральных законов о дипфейк-порнографии, порнографии из мести и материалах с насилием над детьми. Также запрашивается наложение штрафов и возмещение расходов на ведение дела.

Иск нацелен на защиту права людей контролировать собственный образ и репутацию, а также на предотвращение использования технологий ИИ в криминальных целях. Это важный шаг в борьбе с новыми угрозами, возникающими в эпоху цифровых технологий, говорится в пресс-релизе прокурора. Городские власти призывают всех, кто столкнулся с проблемой дипфейк-порнографии или обладает информацией, связанной с этим явлением, обратиться в офис городского прокурора.