Flock создала ИИ-инструмент, который отслеживает водителей по паттернам движения

Flock Safety годами утверждала публично, что её камеры не умеют опознавать или отслеживать людей. WIRED восстановил код с собственных страниц входа компании и обнаружил ИИ-инструмент, который делает и то, и другое. Система под названием OS Investigate, ранее известная как Nightshift, опирается на сеть камер, фиксирующую движение автомобилей более чем в 6000 сообществ. Она умеет находить потенциальных свидетелей, подсчитывая, как часто машина проезжает через район, вытаскивать частых попутчиков водителя по камерам, где их фиксировали вместе, и превращать номерной знак в имя, домашний адрес и список родственников, обращаясь к базам арестов, журналам диспетчеризации и коммерческим базам данных личности.

Инструмент поставляется с 69 заранее написанными запросами, которые офицеры могут выбирать, редактировать и отправлять ИИ, опираясь на 45 инструментов доступа к сканам номеров, метаданным камер, материалам дел, результатам баллистической экспертизы и коммерческим записям с номерами социального страхования и датами рождения. Один из готовых запросов просит систему найти свидетелей на основе того, какие машины чаще всего появлялись в выбранном районе за последние 14 дней. Другой поручает составить список всех, кто был арестован более двух раз за два года, отметить на карте их адреса и подготовить досье-«воркап» на троих из них, выбранных самой программой. Четырнадцать запросов вообще не требуют ни номера, ни имени, ни описания: офицер указывает только место, временное окно и поведение, например посещение трёх торговых точек за три дня или заправок посреди ночи.

“Думаю, большинство людей представляют, что считыватели номеров просто проверяют номера и смотрят, не в розыске ли машина. И если не в розыске, полиция едет дальше. Но мы всё чаще видим агрессивное внедрение ИИ в Flock. И в некотором смысле, как в Китае, разрыв между тем, что технически возможно, и тем, что реально делается, очень мал.”

— Джей Стэнли, старший аналитик ACLU по вопросам свободы слова, приватности и технологий

Flock не опровергла возможности, описанные WIRED. Представитель компании Пэрис Льюбел назвал OS Investigate отдельным продуктом от технологии считывания номеров и сказал, что его функции могут измениться до более широкого релиза. Инструмент появляется на фоне уже задокументированной практики злоупотреблений. Офицер из Техаса обыскал более 83 000 камер по всей стране в поисках женщины, сделавшей аборт самостоятельно, согласно журналам, полученным изданием 404 Media. Анализ Washington Post нашёл 50 офицеров, обвинённых или подозреваемых в злоупотреблении системами считывания номеров, 26 из них следили за бывшими партнёршами, жёнами или женщинами, с которыми хотели познакомиться. Регуляторы Иллинойса установили, что Flock нарушила закон штата, запустив приостановленный пилот, который предоставил таможенно-пограничной службе доступ к камерам в штате. Electronic Frontier Foundation изучил более 12 млн зафиксированных запросов и обнаружил, что около 20% указывали лишь расплывчатую причину вроде «расследование» или «подозреваемый».

• Сообществ, охваченных сетью камер Flock: более 6000
• Готовых ИИ-запросов в OS Investigate: 69, на основе 45 инструментов доступа к данным
• Объём сканов номеров Flock в месяц: 20 млрд
• Ежемесячно активных пользователей платформы Flock: около 140 000
• Последняя оценка стоимости Flock: $7,5 млрд

Гендиректор Flock Гаррет Лэнгли сравнил ИИ-систему с аналитиком по преступности, который, по его словам, всегда бодрствует. На демонстрации для начальников полиции в Денвере он описал, как за минуту можно просмотреть все камеры города в поиске машин, преследующих инкассаторский броневик, и поднять записи об арестах их владельцев. По его словам, следователи, попробовавшие инструмент, «подсаживаются» на него. Компания, которую Лэнгли начал с телефона в водонепроницаемом боксе, теперь управляет сетью настолько крупной, что адвокат ACLU Чед Марлоу, возглавляющий кампанию «Get The Flock Out», беспокоится не столько о готовых запросах, сколько о произвольных, которые офицеры могут вводить сами. Он говорит, что офицер, спрашивающий ИИ, кого тот считает вероятным преступником, рискует получить «не юридический стандарт подозрения, а какой-то свой стандарт ИИ».

Суть этой истории направлена в обратную сторону от того, куда движется крипто-инфраструктура. Система Flock существует для того, чтобы сопоставлять личность по камерам, записям и времени. Собственная дорожная карта Ethereum, наоборот, ставит приватность почти выше всех остальных приоритетов базового уровня, согласно последнему сравнению путей апгрейда от Виталика Бутерина. Спрос на такой подход проявился и в рыночных ценах: приватные монеты поднимались в рейтинге токенов ранее в этом месяце. Инструмент слежки, построенный для того, чтобы раскрывать водителей по их привычкам вождения, и блокчейн-дорожная карта, построенная так, чтобы личность было сложнее установить, отвечают на один и тот же вопрос о том, кто вправе знать, где вы были, просто с разных сторон.

Это не финансовый совет — только информация к размышлению.