Он построил продукт на идее «транскрипты — новая нефть». Теперь признаёт: пользы ноль
Амол Капур когда-то верил, что сохранённые логи сессий агента ценнее кода, который они производят. Команда проверила это на сотнях сессий и не нашла ничего — поэтому он написал пост, хоронящий собственную идею, а затем ему пришлось защищать её вживую перед практиком, у которого работает ровно обратное.
Суть заявления: доступ агентов к собственным прошлым транскриптам не дал измеримого выигрыша в задачах разработки, если документация, PR и коммиты уже были под рукой. Хуже того, агенты жгли токены на перечитывание уже известного контекста и не могли вычищать устаревшие данные — начинался «дрейф намерения».
В комментариях разработчик с работающей системой логирования резко не согласен и перечисляет реальные плюсы — это заставляет автора вернуться и спросить, какой workflow вообще упирается в лимит контекста, который модели с окном на миллион токенов почти никогда не достигают.
Убеждение, от которого он отказывается, и цифра, которая его убила
Амол Капур построил продукт на убеждении: транскрипты сессий агента — «новая нефть», ценнее самого кода. Его новый пост, *Запоминать транскрипты сессий бесполезно*, и есть это отречение. Команда не нашла никакого выигрыша в производительности на SWE-задачах, когда агенты могли искать по прошлым сессиям, если остальной контекст — документация, PR, код — уже был под рукой. За месяцы наблюдений выигрыша не появилось, а иногда становилось только хуже.
Интереснее механизм. Агенты тратят токены на перечитывание того, что уже есть в коммитах; не могут надёжно вычищать контекст, который устарел или оказался неверным; а поскольку модель считает каждый токен в окне намеренным, противоречивые старые данные вызывают дрейф намерения. Замена, которую нашла команда, скучно человеческая: ревьюеры вручную одобряют обновления навыков и принимают меньше 20% изменений, которые агент предлагает автоматически.
Практик, который не купился, и автор, отвечающий лично
Отречение не осталось без вызова в треде.
«Категорически не согласен. У меня Claude/Codex ведут логи… Это невероятно ценно.» — разработчик с работающей системой логирования агентов
Другой комментатор надавил сильнее, и на этот раз Капур ответил лично:
«Отказываюсь верить, что это правда. Способность агента находить информацию из периода до сжатия контекста невероятно полезна.» — комментатор, полагающийся на память до сжатия контекста
«С моделями с окном на миллион токенов мы ни разу не упирались в сжатие контекста — проверено на сотнях сессий. Что вы делаете такого, что регулярно в него упираетесь?» — Амол Капур, автор поста, отвечает в треде
Этот обмен репликами — весь спор в миниатюре: ценность памяти транскриптов может целиком зависеть от того, достаточно ли велико ваше окно, чтобы в ней вообще не нуждаться. Третий голос поставил диагноз, который жалит больнее всего: копить транскрипты — это не инженерный результат, а особенность характера.
«Что-то в этой идее находит отклик у определённого типа людей. Я сравниваю это с фазой хайпа вокруг Zettelkasten… Люди искренне уверовали, что процесс важнее содержания.» — инженер-программист и автор книг издательства Manning
Читателю, который выпускает агентов в продакшн, из этого спора достаётся практичное правило: прежде чем строить конвейер памяти, замерьте, упираетесь ли вы вообще в границы окна. Если нет — вы индексируете издержки, а не актив.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
25-гигабитный интернет в Швейцарии — не победа свободного рынка, а четыре кабеля по приказу регулятора
В 2020 году швейцарский оператор тихо попытался урезать программу прокладки оптоволокна. Небольшой провайдер Init7 пожаловался в антимонопольное ведомство. Четыре года спустя Swisscom заплатил штраф в 18 миллионов франков и обязан по-прежнему тянуть четыре отдельных волокна в каждую квартиру.