Инцидент, который не выглядит инцидентом
Аварии не было. Сервер не сгорел, данные не утекли, модель отвечает. И тем не менее через год финансовый директор задаёт вопрос, на который у ИТ нет заготовленного ответа: почему проект, закрытый одной строкой в бюджете капитальных затрат, продолжает требовать денег каждый месяц.
Хроника ниже — не история конкретного заказчика, а сборка типовых развилок в том порядке, в котором они всплывают. Мы разложили её по месяцам специально: стоимость обслуживания локальной нейросети не появляется сразу — она проступает частями, каждая по отдельности выглядит мелочью, и потому ни одна не становится поводом пересчитать бюджет заново.
День закупки. Смета закрыта одной строкой
Решение принимается на простом сравнении: цена сервера против годовой подписки на облачный сервис. Разница в пользу своего железа, подпись поставлена. В сравнение не попало ничего из того, что начнётся после ввода в эксплуатацию, — потому что в момент подписи этих строк в смете физически нет.
Первый месяц. Машина работает круглосуточно
Первое, что отличает AI-сервер от рабочей станции, — он включён не восемь часов в сутки, а всегда, и из этого вытекает всё остальное. Появляется счёт за электричество, вопрос охлаждения и шума, место в помещении. Величина этих строк зависит от исполнения: настольная машина работает от обычной розетки и стоит прямо в кабинете, а стоечная предполагает серверную с её питанием и охлаждением. Ни одной из этих строк не было в закупке: их не забыли — их не считали расходами на нейросеть.
Второй месяц. Модель оказалась не той
Конфигурацию подбирали по обзорам, а работать ей приходится на ваших документах, и разрыв между тем и другим вылезает на первых же реальных запросах. Ужмёшь модель сильнее — ответы начинают плыть на терминологии, ужмёшь слабее — она перестаёт помещаться в видеопамять. Границу приходится нащупывать прогонами на собственном корпусе, а это инженерные часы, которых нет в накладной на железо. Тем же порядком всплывает и поиск по базе знаний: пока документы нарезаны как попало, модель отвечает уверенно и мимо.
Третий месяц. Запросов стало больше
Пилот прошли вдвоём, потом доступ открыли отделу — и время ответа поплыло. Считать надо не людей в списке доступа, а обращения, которые накладываются друг на друга: пока сотрудники спрашивают по очереди, памяти хватает с запасом, но как только они жмут «отправить» в одну минуту, каждая параллельная сессия занимает свой кусок видеопамяти, и машина упирается в потолок. Отсюда очереди, батчинг и запас, заложенный сверх пилотного замера. Ориентиры по видеопамяти, включая наши, даются на одного-двух одновременных пользователей — прикладывать их к штатной численности отдела напрямую нельзя. Разбор классов моделей и требований к памяти — на странице локальная нейросеть на вашем сервере.
Полгода. Обновились модели и библиотеки
Модели выходят новые, библиотеки обновляются, задачи компании смещаются — и контур, который на старте отвечал хорошо, отвечает хуже, хотя его никто не трогал. Обновление стоит времени: после него ответы надо перепроверить на тех же документах, иначе выигрыш в одной задаче тихо ломает другую. Полгода без обслуживания — и решение отстало. Замечают это не по журналу, а по жалобе сотрудника, который перестал им пользоваться.
Год. Считаем стоимость обслуживания
Теперь строки видно все сразу. Полезно развести их по двум признакам: разовое или регулярное, и от чего зависит величина.
| Статья | Разовая / регулярная | От чего зависит |
|---|---|---|
| Железо: карты, память, диски, питание | разовая | класс модели и число пользователей |
| Сборка, тест под нагрузкой, настройка моделей | разовая | сложность контура и интеграций |
| Электричество, охлаждение, место | регулярная | мощность конфигурации и режим работы |
| Обновление моделей и библиотек | регулярная | как быстро меняются задачи |
| Запас памяти под рост нагрузки | по мере роста | сколько обращений идёт одновременно |
| Замена отказавшего железа | по событию | условия гарантии и доступность комплектующих |
| Обслуживание: сопровождение и обучение сотрудников | регулярная | критичность процесса |
Отдельной строкой стоит стоимость простоя. В смету она не выписывается, но чувствуется сразу: если чинить некому, контур стоит ровно столько, сколько стоит остановка процессов, которые на него завели.
Где именно была допущена ошибка
Не в закупке железа и не в выборе модели. Ошибку сделали в день согласования бюджета — когда про обслуживание не спросили вслух. Правильный вопрос звучит так: во сколько обойдётся год работы контура — железо, электричество, обновления, сопровождение? Подрядчик, который не может назвать вторую и третью части, продал вам поставку, а не работающий контур.
Мы называем стоимость обслуживания до старта, вместе с ценой внедрения, — это часть того, как устроено направление AI-серверов. Смежная экономика — в разборе сколько стоит AI-сотрудник и когда он окупается.
Что выписать до покупки
- •Горизонт расчёта — год, а не дата поставки,
- •Разовые и регулярные статьи — двумя отдельными списками,
- •Запас видеопамяти под рост числа одновременных обращений, а не под сегодняшний пилот,
- •Кто обновляет модели и проверяет, что качество ответов не упало,
- •Кто чинит железо, за какие деньги и что происходит с процессом на это время,
- •При каких условиях контур признаётся ненужным и выключается.
Последний пункт кажется лишним, пока он не понадобился. Критерии, по которым затея признаётся неудавшейся, лучше записать заранее — об этом разбор когда AI-пилот считать неудачным. Типичные грабли на этом же пути собраны в статье ошибки внедрения нейросети.
Подобрать конфигурацию и увидеть обе части сметы — разовую и годовую — можно на странице AI-серверы Stitex.
Частые вопросы
Что входит в стоимость обслуживания локальной нейросети?
Электричество и место, где машина стоит; запас видеопамяти под рост числа одновременных обращений; обновление моделей и библиотек; замена вышедшего из строя железа; сопровождение и обучение сотрудников. Отдельной строкой — стоимость простоя, если чинить некому.
Локальный сервер дешевле облака?
Это зависит от объёма работы. Облако тарифицируется за запросы и растёт вместе с использованием, свой сервер — разовая покупка плюс регулярное владение. Сравнивать надо два годовых бюджета целиком, а не цену покупки с ценой месячной подписки.
Можно ли обойтись без обслуживания?
Можно, если внутри есть человек, который отвечает за модели, обновления и железо, и у него на это выделено время. Если такого человека нет, роль всё равно кто-то исполняет — по остаточному принципу и в момент аварии.
Как посчитать TCO до покупки?
Взять горизонт в год, выписать разовые и регулярные статьи отдельными списками, заложить запас памяти под рост числа одновременных обращений и назвать того, кто обслуживает и кто чинит. Конкретные суммы зависят от конфигурации и считаются под задачу.
Что делать, если сервер уже куплен и стоит?
Если он подходит под задачу, мы разворачиваем модель на нём — тогда из сметы уходит железо и остаётся только стоимость внедрения. Проверка начинается с видеопамяти и питания: они и решают, встанет ли на эту машину нужная модель.