Британского полицейского проверяют за «создание улик» с помощью ИИ
Полиция Дербишира проверяет своего сотрудника: его подозревают, что он применял ИИ для создания улик сразу в нескольких делах. Что это были за материалы, ведомство не уточняет — а самая правдоподобная версия в треде вовсе не про дипфейки.
Фраза рисует сфабрикованное видео с подозреваемым. Но вероятнее другой сценарий, считает один из комментаторов: офицер «улучшил» размытое фото, дал ИИ дорисовать недостающую деталь и убедил себя, что ничего страшного.
Тревога идёт дальше одного полицейского. Когда любой может сгенерировать картинку или видео по запросу, читатели спрашивают: не становятся ли целые категории полицейских улик ненадёжными — и сколько приговоров уже на них держится.
Что именно вменяют, а что нет
Sky News сообщает, что полиция Дербишира проверяет офицера: его подозревают в использовании ИИ для «создания улик» сразу в нескольких делах, а само ведомство отказалось пояснить, в чём заключались доказательственные материалы. Именно на этой расплывчатости и сыграл тред. Читатель, нашедший более подробный разбор, отметил, насколько размыт ключевой термин:
«[Полиция Дербишира] отказалась уточнить, в чём заключались доказательственные материалы. Термин [доказательственные материалы] может описывать и свидетельские показания». — читатель со ссылкой на более полную версию FT
Скучный сценарий и есть самый опасный
«Создать улики» звучит как поддельное видео преступления. Но самая проработанная версия в треде куда обыденнее — и потому тревожнее, ведь в такое человек способен сам себя уговорить:
«гораздо вероятнее, что офицер применил ИИ для улучшения изображения, считая это безобидным… фото было размытым, и он его „улучшил“. А раз „улучшение“ — это когда ИИ заполняет пробелы, выходит, что ИИ использовали для „создания улик“». — комментатор, разбирающий безобидную на вид версию
В суде это различие решает всё. Поддельное видео — отдельное преступление. А «улучшенное» фото, где модель галлюцинирует деталь, на которой держится опознание, сойдёт за рутинную обработку, нанося тот же вред.
Системный вопрос, который открывает дело
Несколько читателей перешли от одного офицера ко всей системе доказательств в эпоху генеративных медиа:
«мне правда интересно: в эпоху, когда генерация изображений и видео вырвалась наружу, не приведёт ли это к тому, что целые классы улик станут полностью ненадёжными». — читатель о категориях улик, уходящих в тень
«Интересно, сколько людей оказались за решёткой несправедливо — из-за подброшенных улик, выдуманных доказательств и незаконной параллельной реконструкции…» — читатель, связывающий это с давними провалами в проверке улик
Цепочка хранения встречается с инструментом дорисовки
Главная проблема тут не один следователь. Дело в том, что инструменты «улучшения» теперь генерируют правдоподобные детали, которых никогда не было в кадре, и граница между чисткой снимка и его выдумыванием стёрлась в ноль. Суды столетие выстраивали правила цепочки хранения для вещественных улик. Это дело — ранний сигнал, что у тех правил пока нет ответа на материал, который выглядит как фотография, но частично синтезирован. И что самое разрушительное злоупотребление не объявит себя дипфейком: оно придёт с ярлыком «улучшено», под видом обычной работы.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Гид «как кодить с ИИ и не разориться» разнесли те, кто тратит копейки
Пост предлагает три способа программировать с ИИ дома и уверяет, что планы на $400 в месяц дают доступ к API на $2800. Комментаторы, делающие это ежедневно, говорят, что тратят центы, и сводят весь совет к «плати за максимальный тариф».