Он дообучил модель на 7B на 37 миллионах слов из мануалов Microsoft 1990-х за $50

Как научить модель писать в стиле SDK-справочника Windows 2000

Технический писатель Фабрицио Ферри Бенедетти дообучил небольшие открытые модели, чтобы воспроизвести фирменный стиль технической документации 1990-х — эпохи плотных, перекрёстно увязанных, аннотированных по платформам SDK-справочников. Пост набрал 181 голос и 64 комментария, а тред быстро переформулировал эксперимент: что стоит вернуть — стиль или суть, которую он когда-то нёс?

Что он собрал и за $50

Обучающим корпусом стала коллекция Microsoft на Bitsavers — отсканированный архив снятых с печати мануалов, более 37 миллионов слов за период 1977–2005, который он очистил после OCR с помощью Python-скриптов и классификатора. Методом стал QLoRA (квантованная низкоранговая адаптация), дающий небольшие файлы-адаптеры вместо переписывания полных весов модели, запущенный на GPU Runpod примерно за $50 в сумме. Он дообучил Llama 3.1 8B (instruct и base) и Qwen 2.5 7B Instruct — все достаточно маленькие, чтобы работать на MacBook Air.

Результат выдержал проверку: когда сильнейшую дообученную модель попросили задокументировать вымышленную функцию ConnectWifi(), она выдала полные перекрёстные ссылки, требования к платформе и раздел про рабочий процесс в аутентичном формате эпохи — тогда как немодифицированные модели сваливались в современный Markdown. Его вывод намеренно скромен: это инструменты-помощники для писателей-людей, а не замена им, и они наследуют пределы суждения базовой модели.

Стиль — самая лёгкая часть; глубина — это вся игра

Самое сильное возражение треда в том, что эксперимент оптимизирует не ту переменную.

«Фокус документации — в глубине, а не в прозе. Чтобы писать доки „как в старые времена“, нужны контекст и понимание. Никакие LLM-трюки от этого не избавят. А уж когда у тебя есть исходный материал, переформатировать его под формат доков 80-х/90-х/00-х легко». — комментатор о том, почему старые доки хорошо читаются

Более развёрнутый ответ нашёл, почему старые доки были хороши, — и причина была организационной, а не стилистической.

«Темп релизов примерно совпадал с темпом документации. Если ты выпускаешь раз в год, у доков есть время отполироваться… Я сидел в двух кабинках от своего технического писателя, и мы разделяли общую культурную картину мира… так что многое можно было не проговаривать». — писатель, вспоминающий, как сидел в двух кабинках от автора доков

Тред доказывает правоту самого писателя

Самое яркое подтверждение пришло от читателей, осознавших, что стиль 1990-х уже впечатан в них самих.

«Что я вынес из прочитанного — это насколько мой собственный стиль письма сформирован MSDN конца 1990-х». — инженер, работающий над надёжностью распределённых систем

А дообучение может и не понадобиться. Разработчик показал, что стоковая модель, получив одну страницу про DirectDraw как пример, точно воспроизвела формат — вплоть до разделов Requirements и See Also — для собственного формата документации, существующего только на его ПК:

«LLM в целом хорошо следуют конкретному стилю, когда им дают примеры… Прелесть в том, что она справляется даже со странными форматами вроде моего собственного формата документации (который существует только на моём ПК, потому что я нигде его не публиковал)». — разработчик, воспроизведший стиль few-shot-подсказкой

Один читатель воспринял это как творческое задание, а не критику, и в тот же день пересобрал ежедневное издание про ИИ-дизайн как работающую справочную систему в стиле Windows 98, вместе с меню «Пуск».

Сноска скептика

Не все увидели смысл. «Кто вообще читает доки в наши дни?» — спросил один комментатор, готовый поручить чтение LLM, — а голос порезче недоумевал, зачем настраивать стиль письма, когда ИИ вроде бы должен был лечить рак. Но настоящий урок треда режет в обратную сторону: если стоковая модель на 7B уже умеет имитировать вид 1995 года по единственному примеру, то ценность эксперимента — не в ностальгии. Это тихая демонстрация того, что дефицитным ингредиентом документации никогда не была проза — им был писатель, понимавший систему и имевший время её объяснить, и никакой корпус старых мануалов этого обратно не дообучит.