Судья признала правоту Apple по CSAM и сама назвала это тревожным

Судья Уайз отклонила иск Amy v. Apple по CSAM-ответственности — и сама назвала итог тревожным

Истцы по делу Amy v. Apple, включая жертв CSAM, утверждали перед судьёй Уайз в Северном округе Калифорнии, что у iCloud есть дефект дизайна: Apple так и не внедрила инструменты обнаружения CSAM вроде PhotoDNA, хотя другие облачные провайдеры это делают. Согласно разбору решения от Эрика Голдмана, суд полностью отклонил иск на основании раздела 230 Закона о благопристойности в коммуникациях — того же закона, что защищает Facebook или Reddit от ответственности за контент пользователей. Заставить Apple сканировать, постановил суд, означало бы обязать её «действовать как издатель» стороннего контента, а раздел 230 блокирует такой иск независимо от того, что Apple знала о содержимом собственных серверов. Истцы пробовали обычные обходные пути, которые суды вырезали из иммунитета по 230-й статье, ссылаясь на Doe v. Twitter, Lemmon v. Snap и Roommates.com — ни один не сработал.

Собственная история Apple — в центре дела. Компания создала инструмент сканирования CSAM под названием NeuralHash, работавший на устройстве ещё до того, как фото попадало в iCloud. Анонс 2021 года вызвал устойчивую волну критики из-за опасений слежки, Apple отложила инструмент и вместо этого развернула полное сквозное шифрование iCloud, закрыв заодно и дверь для серверного сканирования. Судья Уайз вынесла решение в пользу Apple, но явно была этим недовольна, написав, что если законодатели хотят, чтобы компании боролись с CSAM на своих платформах, «они должны обязать это законом». Собственная оценка Голдмана идёт дальше сожаления судьи: он утверждает, что взлом сквозного шифрования ради сканирования создаст новый класс жертв, указывая на взлом Sony 2014 года как напоминание о том, что бывает, когда внутренние данные компании оказываются раскрыты в масштабе, и что преследование преступников, а не сканирование фотобиблиотек, — вот куда должны идти ресурсы.

Тред нашёл другую хронологию гибели NeuralHash

Обсуждение на 352 балла не приняло на веру рамку «Apple развернулась на 180 градусов». Один ответ разобрал реальную архитектуру NeuralHash и прочитал последовательность событий наоборот:

«Система была спроектирована довольно элегантно и даёт куда лучшую защиту приватности — включая ограничители — чем то, что делают Microsoft и Google, но коммуникация Apple об этом была абсолютно ужасной и вызвала колоссальный откат». — комментатор, детально проследивший исходную архитектуру NeuralHash

Его аргумент: NeuralHash не был добросовестным сканером, который провалился и был заменён шифрованием. Его создали именно для работы на устройстве, чтобы Apple могла развернуть полное шифрование, не оставляя CSAM необнаруженным, — то есть Advanced Data Protection, возможно, была планом с самого начала, а не отступлением.

Эта переоценка вскрыла ещё одну путаницу, проходившую через весь тред, где несколько ответов приравнивали «сканирование CSAM» к проверке возраста. Aurornis, комментатор с более чем 56 000 кармы, поправил напрямую: сканирование, предложенное Apple, использовало перцептивное хеширование для сопоставления с уже известными правоохранителям фото, а не для угадывания возраста человека по частному изображению — что комментатор назвал «невыполнимой задачей».

NeuralHash — доказательство культуры приватности Apple или доказательство работоспособности инструмента слежки?

Тред разделился в оценке того, что на самом деле показывает история с NeuralHash.

«Я работал инженером и в MS, и в Apple. В Apple приватность закладывалась в каждую новую функцию с самого начала. В MS компонент приватности приклеивали в самом конце, если вообще приклеивали». — комментатор, утверждающий, что работал инженером и в Microsoft, и в Apple

Не все прочитали эту историю так же. Один ответ возразил прямо:

«Apple на стороне приватности, только если это служит маркетингу. Именно поэтому они предпочли бы построить и нормализовать СКАНИРОВАНИЕ КОНТЕНТА НА УСТРОЙСТВЕ, чтобы продолжать продавать iCloud как «безопасный и приватный»». — скептический голос в том же треде

Основатель конкурирующего облака: ни один способ сканирования на самом деле не решает проблему

Самый конкретный ответ в треде дал человек, которому приходится принимать именно такое решение в собственном продукте.

«Как создатель mediaden.ca, я об этом думал. Клиентское сканирование, возможно, чуть лучше серверного, но оба пути ведут к эрозии приватности. Правительствам нужно ловить преступников, но не за счёт всех остальных». — ryanisnan, создатель облачного сервиса mediaden.ca

Решение суда ничего не решает технически — оно просто переносит выбор от продуктовой команды Apple к Конгрессу, ровно как и сказала судья Уайз. Пока законодатели не пропишут мандат на сканирование, которого, по её словам, не хватает, дело Amy v. Apple говорит любому облачному провайдеру, не только Apple, что шифровать всё и не смотреть внутрь теперь юридически самый безопасный выбор дизайна, а не просто самый приватный.