Вендор наблюдаемости предупреждает: ИИ-реагирование лишит SRE навыков чинить новые аварии

Парадокс Бейнбридж 1983 года применительно к дежурству

Эссе в рассылке SigNoz утверждает, что ИИ в надёжности сервисов (SRE) может незаметно разрушать навыки, которые он должен был дополнять. Главная тревога — редкий новый инцидент, который автор называет «теми 5%, что действительно важны». Основа — «Иронии автоматизации» Лизанн Бейнбридж (1983): чем больше процесс автоматизирован, тем меньше практики у операторов, хотя нужны они как раз тогда, когда автоматика отказывает.

Модель уровней PagerDuty делает проблему конкретной. Известные проблемы автоматизированы на уровне 1, ИИ предлагает исправления для частично понятных проблем на уровне 2 с проверкой людьми, а новые сбои остаются за людьми на уровне 3. Инженер, который видит только уровень 3, никогда не нарабатывает интуицию, которую тот требует. Эссе различает деквалификацию (потерю навыков, которые были) и «неосвоение» (джуниоры, которые их так и не получили). Оно также добавляет, что ИИ делает работу легче, поэтому люди переоценивают свою компетентность и сильнее на него опираются.

Доказательства заимствованы: в исследовании Lancet доля полипов, которые эндоскописты находили без помощи, упала с 28% до 22% после периода работы с ИИ, а авиационные исследования связывают частое использование автопилота с ослаблением навыков ручного пилотирования, поэтому FAA теперь требует время ручного полёта. Решение — «намеренная неэффективность»: помечать некоторые инциденты, даже те, которые ИИ мог бы закрыть, как практику для людей. SigNoz продаёт инструменты наблюдаемости и говорит, что их ассистент оставляет контроль за людьми, так что рамка здесь не нейтральна.

«Первопричина за пару минут» против «атрофия навыков реальна»

Самый сильный ответ пришёл от тех, кто пользуется инструментами в продакшене. Инженер, который дал LLM токен для обращения к API Jenkins, описал, как было и как стало:

«Раньше я перелопачивал логи сервера, логи сборок, отчёты о тестах и так далее, чтобы понять, почему падают тесты в CI. Это была изматывающая работа, которая могла занимать дни расследования. Теперь я получаю точную первопричину за пару минут.»

Инженер стартапа, который закрывает весь стек, согласился насчёт скорости, а потом признал правоту эссе применительно к себе:

«Атрофия навыков реальна. Мысль о том, чтобы снова пойти по собеседованиям, меня страшит именно из-за этого.»

Аналогия с калькулятором и вопрос, переносится ли авиация

Один комментатор, cadamsdotcom, утверждал, что никто не скучает по столбику деления. debo_ ответил, что ставки разные:

«Не думаю, что неумение делить в столбик нанесёт такой же ущерб, как неумение поднять сайт в аварийной ситуации.»

Сравнение с FAA тоже получило отпор. nrmitchi указал, что практика предписана и единообразна для всех провайдеров, тогда как «у современных компаний обычно нет такого же стимула поддерживать квалификацию SRE (или инженеров вообще)». Основатель стартапа, который продавал обучение на симулированных авариях, высказался о спросе жёстче:

«Пока FAA не потребует чего-то подобного для SRE, никто этим заниматься не будет.»

Его заключительная фраза «Может, мы были слишком рано» — самый показательный факт в треде. Подобные тренировки уже есть внутри некоторых команд: один комментатор описал постоянное «Колесо невезения», где ведущий ломает непродовое окружение, крутит колесо, выбирает жертву, а команда решает задачу вручную. Открытый вопрос в том, какие работодатели станут платить за это время.