Водительницу остановили за долгое нахождение на левой полосе, потому что её номер был отмечен

Остановки по тому, где побывал твой номер

Gizmodo сообщает, что автоматические считыватели номеров сканируют таблички, записывают время и место и позволяют полиции помечать машины, чьи маршруты кажутся подозрительными, без подозрения в конкретном преступлении. WIRED сообщал, что Flock создала ИИ-инструмент, который может отслеживать машины только по схемам движения.

Примеры: Грейс Ноулз остановили за якобы слишком долгое нахождение на левой полосе, и полицейский сказал, что её номер был отмечен. Калифорнийскую бабушку допрашивали сотрудники Таможенной и пограничной службы США о том, как часто она ездит в казино. Водителя, который регулярно ездил между Висконсином и Мичиганом, остановили, а полицейские назвали один из штатов «известным штатом-источником марихуаны». Федеральные присяжные в Техасе встали на сторону мужчины, которого отметили после круговой поездки из Хьюстона в Каррисо-Спрингс с ночёвкой.

Августовский опрос YouGov показал, что 46% выступают против использования полицией этой технологии в их районах, а 38% её поддерживают. Некоторые ведомства, включая LAPD, приостановили или прекратили контракты с Flock. Flock не ответила Gizmodo.

Это противоположность сплошной проверке

Один комментатор написал, что «раньше такие вещи называли сплошными проверками, которые незаконны по Четвёртой поправке». Скептик оспорил термин:

«Сплошная проверка — это неизбирательная остановка и обыск подозреваемых, которые захватывают много людей.»

По этому определению, считал он, считыватели номеров — ровно противоположность: полиция и так могла наблюдать за номерным знаком. Другой комментатор сказал, что их стоит запретить на федеральном уровне.

Можно ли аудировать мотивы модели?

Один комментатор спросил, узаконивает ли ИИ расовое профилирование:

«Никто не знает, почему ИИ пометил поведение как подозрительное. Обычно он даже не может объяснить это, если задать уточняющие вопросы.»

Ответ не согласился, что это непрозрачно: можно изменить человека на изображении на белого и подать его обратно, чтобы увидеть, меняется ли мнение модели. Разработчик клинического ПО в компании здравоохранения сказал, что у них специалисты по данным проводят проверки на предвзятость перед публикацией моделей, а другой комментатор предупредил, что модель, обученная на предвзятых человеческих решениях, сохраняет эту предвзятость и при этом её «гораздо сложнее доказать или засудить».

Проверка контрфактом работает, только когда её может провести кто-то вне поставщика, а остановка Ноулз показывает, что объяснение полицейского было просто картой.