Claude Code спросил про храм в Minecraft, о котором никто не говорил
Посреди задачи в закрытом Enterprise ZDR-воркспейсе Claude Code вдруг спросил, какой тип кирпича использовать для храма в Minecraft. Пользователь ни разу не произносил слово Minecraft и завёл баг, боясь, что в его сессию просочилась чужая.
Работая в закрытом Enterprise ZDR-воркспейсе, пользователь Claude Code смотрел, как агент начал спрашивать про типы кирпича для храма в Minecraft, который он якобы строил. Про Minecraft никто не упоминал.
Он завёл issue #74066, спрашивая, не отказала ли изоляция кэша между воркспейсами и не утекло ли что-то из потребительского аккаунта. Команда Anthropic ответила: они уверены, что это галлюцинация, но разбираются.
Инженеры в треде разделились натрое: безобидная конфабуляция, путаница с локальными файлами или пугающий баг маршрутизации в инфраструктуре.
Агент, который настаивал, что строит храм в Minecraft
Пользователь Claude Code, авторизованный в Enterprise ZDR-воркспейсе, сообщил в issue #74066, что агент уплыл туда, где никогда не был. Он начал спрашивать, какой тип кирпича взять для храма в Minecraft, а затем в своей сводке заявил, что задача — построить этот храм. Пользователь давал ему совсем другую работу. Опасаясь худшего для аккаунта с нулевым хранением данных, он спросил: не сломалась ли изоляция кэша между воркспейсами и не просочилась ли сессия коллеги или аккаунт с потребительского тарифа.
Одна деталь бьёт против теории утечки. Автор отметил: вызов инструмента перечислил виртуальное окружение Python, среди файлов которого был minecraft.py — настоящий лексер из пакета Pygments. Странное поведение всплыло ещё и на первом ответе после 5-минутной паузы простоя — промаха кэша.
Галлюцинация, путаница в батче или что-то похуже
Самый авторитетный голос в треде остановился на скучном ответе, а потом поднял пугающий.
«Мне это кажется галлюцинацией… Альтернативное объяснение: движок инференса, который батчит несколько несвязанных запросов для параллельной обработки, напортачил с распаковкой и вернул запрос чужого пользователя.» — Маттиас Плапперт, бывший OpenAI (Codex) и бывший GitHub Copilot
Инженер по ИИ-окружениям указал на тайминг как на улику. У настоящей утечки кэша своя сигнатура.
«Утечка кэша проявилась бы на попаданиях (чужой закэшированный префикс), а не на промахах, где всё пересчитывается из твоих собственных токенов.» — Райан Цудзи, CTO airCloset
Затем одноразовый аккаунт поднял ставки, приложив пруф.
«Один прислал нам нормальный постмортем, где их API-шлюз неправильно обрабатывал статус-коды HTTP 100… ты получал ответ на запрос, пришедший перед твоим» — инженер, гоняющий LLM от нескольких провайдеров
Команда Claude Code замкнула цикл, не закрыв вопрос.
«Мы уверены, что это галлюцинация, но, разумеется, относимся к таким сообщениям серьёзно, и команда разбирается.» — Тарик, команда Claude Code
Тревожит не вердикт, а то, что снаружи галлюцинацию, локальную утечку контекста и баг маршрутизации инфраструктуры трудно отличить друг от друга. Автор угадал имя коллеги, но так и не спросил его.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Дэн Лу выкатывает ИИ-код без ревью, доверяя фаззингу больше, чем юнит-тестам
Дэн Лу мёржит написанные ИИ пулл-реквесты без человеческого ревью, полагаясь на режим фаззинга и property-тестов, который он позаимствовал у чипмейкера: тот выпускал меньше одного серьёзного бага в год вообще без юнит-тестов.