Распознавание через Clearview: компанию создали ультраправые

В январе The New York Times опубликовала расследование о Clearview, революционном приложении для распознавания лиц и слежки, а в апреле HuffPost написала о связи компании с ультраправыми; приводим переводы обеих статей в сокращении.   

.

Hoan Ton-That и Clearview AI

В 2017 году мистер Hoan Ton-That — австралийский технарь и бывшая модель — сделал нечто судьбоносное: он изобрел инструмент, который может лишить вас возможности ходить по улице анонимно, и предоставил его сотням правоохранительных органов, начиная от местных полицейских во Флориде и заканчивая ФБР и Министерством внутренней безопасности.

Его крошечная компания Clearview AI разработала революционное приложение для распознавания лиц. Вы берете чье-то изображение, загружаете его и получаете доступ к публичным фотографиям этого человека вместе со ссылками на то, где эти фотографии были выложены изначально. Система, основанная на базе данных из более чем трех миллиардов изображений, которые, как Clearview утверждает, она собрала на Facebook, YouTube, Venmo и миллионе других сайтов, выходит далеко за рамки всего, что когда-либо создавалось правительством Соединенных Штатов или гигантами Кремниевой долины.

Федеральные и государственные правоохранительные органы заявили, что, хотя они и плохо понимали, как работает Clearview и кто стоит за ним, они использовали приложение, чтобы расследовать дела о кражах в магазинах, похищению персональных данных, мошенничестве с кредитными картами, убийствах и сексуальной эксплуатации детей.

До настоящего момента технология, которая легко идентифицирует каждого человека по его или ее лицу, была под запретом из-за своей возможности кардинально вмешиваться в частную жизнь. Технологические компании воздерживались от выпуска подобного инструмента, если даже и были способны его создать. В 2011 году председатель правления Google сказал, что это была единственная технология, которую корпорация сдерживала, потому что ее можно было использовать «крайне неправильно». Некоторые крупные города, такие как Сан-Франциско, запретили полиции применять технологию распознавания лиц.

Но без общественного контроля более 600 правоохранительных органов начали использовать Clearview в прошлом году, по данным компании, которая отказалась предоставить их список.

Компьютерный код, лежащий в основе анализируемого The New York Times приложения, включает в себя язык программирования, связывающий его с очками дополненной реальности. Потенциально пользователи смогут идентифицировать каждого человека, которого они видели, от активиста протеста до привлекательного незнакомца в метро, раскрывая не только их имена, но и то, где они живут, чем занимаются и кого знают.

Clearview предоставила приложение не только правоохранительным органам, она также дала лицензию по крайней мере нескольким компаниям для целей безопасности.

«Возможности этого приложения безграничны, — сказал Эрик Голдман, содиректор юридического института высоких технологий в Университете Санта-Клары. — Представьте себе мерзавца из правоохранительных органов, который преследует потенциальных романтических партнеров, или иностранное правительство, использующее приложение, чтобы откапывать секреты о людях, шантажировать их или бросать в тюрьму».

Clearview была окутана тайной и избегала разговоров о границах своих возможностей. Когда журналист The New York Times начал изучать компанию в ноябре, ее сайт представлял собой пустую страницу, показывающую несуществующий Манхэттенский адрес в качестве месторасположения офиса. Один из сотрудников компании, найденный в LinkedIn, менеджер по продажам по имени Джон Гуд, оказался мистером Hoan Ton-That, использующим фальшивое имя. В течение месяца люди, связанные с компанией, не отвечали на электронные письма или телефонные звонки журналиста.
Вместе с тем, игнорируя его, она также следила за ним. По просьбе журналиста несколько полицейских загрузили его фотографию в приложение Clear view. Вскоре им позвонили представители компании и спросили, общаются ли они со СМИ, что означает, что Clearview имеет возможность и желание следить за тем, кого ищут правоохранительные органы.

Приложение Clearview несет в себе дополнительные риски, поскольку правоохранительные органы загружают конфиденциальные фотографии на серверы компании, чья способность защитить эти данные не проверена.

В феврале 2017 года полиция штата Индиана начала экспериментировать с Clearview. При помощи приложения полицейские решили одно дело в течение 20 минут. Двое мужчин подрались в парке, и все закончилось тем, что один из них выстрелил другому в живот. Случайный прохожий записал преступление на телефон, так что у полиции был снимок лица стрелка, который они запустили в Clearview.

Полиция сразу же получила результат: мужчина появился на видео, которое кто-то разместил в социальных сетях, и его имя было включено в подпись к видео. «У него не было водительских прав, и он не был арестован, поэтому его не нашли в правительственных базах данных», — сказал Чак Коэн, капитан полиции штата Индиана в то время.

Этот человек был арестован и обвинен. Коэн сказал, что его, вероятно, не опознали бы без возможности поиска лица в социальных сетях. По данным компании, полиция штата Индиана стала первым платежеспособным клиентом Clearview. Полиция отказалась от комментариев, сказав, что тестировала приложение Clearview.
Hoan Ton-That говорит о том, что инструмент работает не всегда. Большинство фотографий в базе данных Clearview сделаны на уровне глаз. Большая часть материалов, которые загружает полиция, поступает с камер наблюдения, установленных на потолках или высоко на стенах.

Несмотря на это, как рассказали в компании, возможность инструмента находить совпадения достигает 75%. Но неясно, как часто он выдает ложные совпадения, потому что он не был протестирован независимой стороной.

«У нас нет никаких данных, чтобы сделать вывод, насколько точен этот инструмент, — сказала Клэр Гарви, исследователь из Центра конфиденциальности и технологий Джорджтаунского университета, который изучал использование правительством распознавания лиц. — Чем больше база данных, тем выше риск ошибочной идентификации из-за эффекта доппельгангера. Они говорят о массивной базе данных случайных людей, которых нашли в интернете».

Но нынешние и бывшие сотрудники правоохранительных органов говорят, что приложение является эффективным. «Для нас важно было проверить, сработало ли это или нет», — сказал Коэн, бывший капитан полиции штата Индиана.

Одна из причин, по которой Clearview становится популярным, заключается в его уникальности: Facebook и другие соцсети запрещают собирать изображения пользователей. Clearview же нарушает условия предоставления услуг сайтами.

Поскольку полиция загружает фотографии людей, которых они пытаются идентифицировать, Clearview обладает растущей базой данных лиц. Компания также может управлять результатами, которые видит полиция. После того как организация поняла, что журналист попросил офицеров запустить его фотографию через приложение, его лицо было специальным образом помечено системами Clearview и некоторое время не показывало никаких совпадений.

«То, что они делают, жутко, но таких компаний будет гораздо больше. Здесь нет никакой монополии, — сказал Аль Гидари, профессор в Стэнфордской юридической школе. — Если не будет очень сильного федерального закона о неприкосновенности частной жизни, мы все проиграем».

Hoan Ton-That сказал, что Clearview использует только общедоступные изображения. По его словам, если Facebook изменит настройки конфиденциальности таким образом, что поисковые системы не будут их находить, ваши фотографии на Facebook не будут включены в базу данных.

В то же время приложение сохраняет все изображения, которые оно нашло ранее, даже если потом их удалили, хотя Hoan Ton-That утверждает, что компания работает над инструментом, который позволит людям запрашивать удаление изображений.

«Я не вижу, как мы можем использовать преимущества технологии распознавания лиц без серьезной слежки, которая идет вместе с ней. Единственный способ остановить это — запретить ее», — заключил один из собеседников издания.

.

Связь Clearview AI с ультраправыми

Эксклюзивные документы  HuffPost показывают, что Hoan Ton-That  и несколько человек, которые работали на компанию, имеют глубокие, давние связи с ультраправыми экстремистами.

Видео и личные сообщения, полученные HuffPost, подтверждают, что бывший писатель Breitbart Чарльз «Чак» Джонсон и Hoan Ton-That сотрудничали по ультраправому экстремизму  в 2016 году.  Самое позднее к началу 2017 года они стали работать над технологией распознавания лиц. По крайней мере два человека, которые работали на Джонсона, были и в Clearview.

Джонсон  был центральным узлом в паутине экстремистов. И он имел много врагов:  соцсети, которые отнимали у него страницы, новостные каналы, которые разоблачали его, либеральное общество, которое, как он был убежден, позволило меньшинствам попасть в Гарвард за его счет.  Всего в этой паутине было около 400 человек, по словам Макхью, одного из его членов, который предоставил HuffPost несколько десятков сообщений группировки.  Ее члены были кем-то вроде расистских политических саботажников и терраформеров с деньгами, а также небольшим  количеством ультраправых знаменитостей, таких как Джордж Циммерман. Последний присоединился к каналу в июне 2016 года. Он продавал оружие, которым убил Трейвона Мартина.

В январе 2017 года Джонсон написал в Facebook, что он «строит для отрядов депортации алгоритмы для идентификации всех нелегальных иммигрантов».  Позже он похвастался друзьям и знакомым, что работает над мощным инструментом распознавания лиц.

Неясно, говорил ли Джонсон когда-нибудь с Миллером, «архитектором» жестокой иммиграционной политики Трампа. Но примерно в то время, по информации Forbes, Джонсон работал за кулисами с Тилем, членом Исполнительного комитета переходного периода, и рекомендовал ультраправых кандидатов на научно-технические должности в новой администрации. Источник  Politico подтвердил, что Джонсон участвовал в совещаниях по переходному периоду.

К этому моменту у Джонсона был хорошо задокументированный «послужной список» фанатизма и грязных трюков. В 2015 году его страница в Twitter была навсегда удалена, после того как запросил средства, чтобы «убрать» чернокожего борца за гражданские права. В 2016 году он выпустил ультраправый подкаст под названием «Fash the Nation», в котором подробно рассказал об эволюционных чертах евреев и «черных». «Они еще глупее», — сказал Джонсон об афроамериканцах.

Еще одним из ребят Hoan Ton-That был Басс. В юности он заинтересовался хакерской культурой, и в 2013 году его даже арестовывали по обвинению в компьютерном преследовании в Вирджинии. Дело, впрочем, закрыли.

Позже Басс стал убежденным расистом. Он искал работу в American Renaissance, тяжеловесной белой националистической организации, и принадлежал к белой националистической группировке под названием «Вертолетчики DC». Она  была вашингтонским отделением «Правого дела», влиятельной протрамповской организацией, привлекающей неонацистов. Члены вертолетчиков округа Колумбия встречались регулярно. Одним из лидеров отделения был чиновник Госдепартамента, назначенный в Бюро энергетических ресурсов, который выступал за вооружение ядерным оружием белого этноса.

Другим одним ранним наемным сотрудником  был Дуглас Макки, ничем не примечательный выпускник Миддлбери, который ушел из сферы финансов и стал ультраправой «суперзвездой» в 2016 году под псевдонимом Ricky Vaughn . Адвокат идеи глобального  превосходства белых был столь успешен в распространении протрамповской, антисемитской пропаганды и кремлевской дезинформации, что MIT Media Lab поместил  его аккаунт в Twitter в список лучших повлиявших на выборы, где он опередил NBC News и отчет Drudge.     

Одним из ранних инвесторов был Хэл Ламберт, техасский финансовый менеджер и крупный фандрайзер Республиканской партии, близкий к  Теду Крузу и утверждавший, что входит в инаугурационный комитет Трампа. Ламберт также инвестировал в начале  года в «Андурил», оборонный подрядчик, который строит автономные системы наблюдения для охраны южной границы. Ламберт выступал против политических левых.  По телефону  Ламберт выразил удивление, услышав об экстремистах, связанных с Clearview. Но он признался, что знает Джонсона и знал Hoan Ton-That  до Clearview.

Для развития бизнеса Clearview наняла Джессику Медейрос Гаррисон, бывшего исполнительного директора Республиканской ассоциации генеральных прокуроров. Компания также удержала Пола Клемента, бывшего генерального прокурора США и постоянного адвоката правого крыла в Верховном суде.

Клемент обеспечил легальное прикрытие для полиции, использующей приложение, чтобы обойти проблемы соблюдения гражданских прав. Он написал, что  Clearview не нарушает Четвертую поправку Конституции США, потому что размещение чего-либо в социальных сетях устраняет любые ожидания конфиденциальности. Клемент также ответил  на ожидаемый аргумент о том, что распознавание лиц привело к возникновению проблем расовой предвзятости. Большинство алгоритмов, протестированных в 2019 году Национальным институтом стандартов и технологий, чаще ложно идентифицируют женские и темнокожие лица, чем белые мужские лица. Клемент писал, что Clearview более точен, чем существующие технологии, и использует «алгоритмы, не основанные на расе». Правда никаких доказательств в поддержку своих утверждений он не привел.

По мере того как Clearview   выдавала полицейским департаментам лицензии, ультраправые экстремисты в компании все больше взаимодействовали с правоохранительными органами. В электронном письме от декабря 2019 года, полученном BuzzFeed, сотрудник Clearview Марко Джукич представил бесплатную пробную версию этой технологии на общенациональном полицейском конгрессе.

Clearview  позволяла инвесторам и связанным с Трампом элитам использовать приложение с нерегулируемой базой данных. Clearview открыла счет для компании бывшего пресс-секретаря предвыборной кампании Трампа Джейсона Миллера. По данным BuzzFeed, организация провела около 20 поисков.

.

Скандал

После публикации The New York Times, генеральный прокурор Нью-Джерси приказал всем полицейским в штате прекратить использование этого инструмента. Два сенатора-демократа внесли законопроект о введении моратория на использование распознавания лиц государственными чиновниками и подрядчиками до тех пор, пока Конгресс не сможет регулировать эту технологию.

Соцсети потребовали от  Clearview прекратить собирать фотографии и данные.

Множество пользователей подало иски на Clearview  в суд.

.

Оригинал статьи в The New York Times

Оригинал статьи в HuffPost 

.