Ошибка, с которой начинается почти каждый заводской проект
Ход выглядит так. Завод покупает сервер, ставит модель внутри периметра и сгружает в базу знаний всю техническую документацию одним массивом: охрану труда, паспорта агрегатов, ремонтные мануалы, протоколы испытаний, технологические карты и плавильные карты с рецептурами. Чат открывают всем сменам — пусть пользуются. Обоснование звучит убедительно: контур закрыт, наружу не уходит ничего, значит вопрос конфиденциальности снят.
Ошибка здесь ровно одна и очень конкретная: граница «внутри или снаружи» принята за единственную, которая существует. Дальше она разворачивается в три разных последствия, и ни одно из них не видно в первый месяц эксплуатации.
Почему этот ход выглядит правильным
Вся публичная аргументация в пользу локального AI построена на одной линии: данные либо остаются в периметре, либо уезжают в чужое облако. Аргумент верный, и для металлургии он весомее, чем для многих отраслей. Но отвечает он ровно на один вопрос — про утечку вовне. Внутри периметра остаются два вопроса, которых эта линия не касается вообще: кому внутри всё это видно и чем является ответ модели. Именно они и стреляют.
Последствие первое: ноу-хау перестаёт быть ноу-хау
Рецептура сплава, шихтовка и температурно-временной режим плавки — это тот самый секрет производства. По статье 1465 ГК РФ им признаются сведения, имеющие коммерческую ценность в силу неизвестности их третьим лицам, к которым у третьих лиц нет свободного доступа на законном основании и в отношении которых обладатель принимает разумные меры для соблюдения конфиденциальности, в том числе путём введения режима коммерческой тайны. Оговорка важна: закон требует именно разумных мер, а режим коммерческой тайны назван одним из способов, а не единственным условием охраны.
Общий чат на все смены отменяет эти меры изнутри. И отменяет сильнее, чем незапертый шкаф с папками. Чтобы собрать режим по марке из бумаг, нужно знать, в каком документе что лежит, и иметь доступ к нескольким сразу. Модель делает эту сборку сама, по вопросу, заданному обычными словами, и отдаёт готовым абзацем. Локальный сервер закрыл канал в облако — угрозу, что знание вынесет человек, он не закрывает ничем.
Последствие второе: ответ модели подменяет производственную инструкцию
Плавильные агрегаты, расплавы, газовое хозяйство, грузоподъёмные механизмы — те основания, по которым производство попадает в государственный реестр опасных производственных объектов. Попадает не любое и не автоматически: закон о промышленной безопасности ставит по каждому такому основанию свои условия, и проверяются они по конкретной площадке, а не по тому, что на ней в принципе есть плавка. Там, где производство в реестре, надзор ведёт Ростехнадзор, а к работникам добавляются требования подготовки и аттестации в области промышленной безопасности. Но и без реестра порядок работы на конкретном процессе задают документы, которые разрабатывает сама эксплуатирующая организация: технологический регламент, технологическая карта, производственная инструкция. У них есть утверждённая редакция и учёт.
Ответ нейросети ни одним из этих документов не является и стать им не может. И опасно здесь не то, что модель способна ошибиться, — опасно, что она обходит контур управления версиями. На посту висит утверждённая редакция инструкции, модель отвечает по той, что легла в базу знаний в день загрузки, и расхождение между ними не заметит никто, пока не разойдутся показания у агрегата.
Последствие третье: та же ошибка на исходящем канале
Третье место, где эта ошибка даёт эффект, — сторона сбыта. Модель подключают к разбору входящих запросов, и приходит письмо: заявка на поставку, а внутри просьба прислать сертификат качества и полный химический состав по конкретной плавке — якобы для проверки совместимости. Живой менеджер по сбыту знает, что уходит в сертификат, а что не уходит никуда. Модель, у которой протоколы испытаний лежат в базе знаний рядом с коммерческими документами, соберёт ответ из всего, что нашла, и приложит к нему разбор.
Это не отдельная угроза, а то же самое разграничение, только развёрнутое наружу: слой, из которого модель отвечает покупателю, и слой, из которого она отвечает технологу, обязаны быть разными.
Как этот узел разводится
Правка не в модели и не в железе — в том, как разложена база знаний и кто в какой слой допущен:
| Слой | Что в нём лежит | Кому открыт |
|---|---|---|
| Открытый | охрана труда, общие регламенты, паспорта покупного оборудования, ремонтные мануалы | все смены и подрядчики на время работ |
| Производственный | технологические регламенты и карты, производственные инструкции по участкам | аттестованный персонал участка и ИТР |
| Закрытый | рецептуры и шихтовка, режимы плавки, протоколы испытаний, опытные марки | поимённый список, а не должность |
| Клиентский | каталог, типовые условия, форма сертификата качества | сбыт; единственный слой, подключённый к почте и заявкам |
Разграничение обязано быть проверяемым запросом, а не заявленным в проекте. Проверка простая: сесть под учётной записью сменного мастера и спросить у модели режим по закрытой марке. Ответ должен быть отказом, а не абзацем.
Что решается до закупки, а не после
- •По какую сторону границы технологической и офисной сети стоит сервер: в офисном контуре модель работает с документацией, но не видит параметров текущей плавки, в технологическом — видит, но сама попадает под требования к этому контуру,
- •Кто отвечает за то, чтобы редакции документов в базе знаний совпадали с утверждёнными, и что происходит при их пересмотре,
- •Как модель обязана оформлять ответ по документу опасного производственного объекта: реквизит, пункт, цитата — вместо пересказа,
- •Что происходит с временными учётными записями ремонтного подрядчика после закрытия наряда,
- •На какие вопросы модель обязана не отвечать, а переадресовывать человеку.
Последний пункт стоит писать списком тем, а не общей фразой. Формулировка «модель не даёт указаний по режимам» проверяется, формулировка «модель работает аккуратно» — нет.
Как понять, что пилот не взлетел
Отдельная беда заводских внедрений — пилот, который не закончился ни успехом, ни отказом и тянется из квартала в квартал. Критерии провала и признаки, по которым его пора закрывать, разобраны в статье когда AI-пилот считать неудачным, а сама точка останова прописывается заранее и в договоре — как её прописать. Для производства это важнее, чем для офисных сценариев: там пилот занимает время людей, у которых смена расписана.
Во что обходится владение
Сервер с моделью — не разовая покупка: к нему прилагаются электричество, обновления, сопровождение и человек, который держит базу знаний в актуальном состоянии. Из чего складывается эта сумма и что в ней обычно недосчитывают — в разборе стоимость обслуживания локальной нейросети. Подобрать конфигурацию под нагрузку завода и развести слои доступа до закупки железа — локальные AI-серверы Stitex.
Частые вопросы
Локальный сервер закрывает вопрос коммерческой тайны?
Только внешнюю его часть. Секрет производства охраняется разумными мерами обладателя по сохранению конфиденциальности — статья 1465 ГК РФ; введение режима коммерческой тайны там названо одним из способов, а не единственным условием охраны. Общий доступ к рецептурам и режимам плавки изнутри обесценивает эти меры так же надёжно, как выгрузка наружу, поэтому разграничение слоёв базы знаний — часть охраны, а не удобство настройки.
Можно ли давать нейросети отвечать оператору у агрегата?
Отвечать можно, быть источником указания — нет. Порядок работы на конкретном процессе задают технологический регламент, технологическая карта и производственная инструкция, которые разрабатывает сама эксплуатирующая организация. Ответ модели должен приводить реквизит документа и пункт, чтобы работник сверился с действующей редакцией, а решение осталось за аттестованным человеком.
Нужно ли дообучать модель на наших марках и режимах?
В металлургии это как раз тот случай, когда дообучение вредит. Одна дообученная модель на всех по ролям не разграничивается: рецептура уходит в веса и отвечает одинаково всем, кто до модели дотянулся, а отозвать доступ к весам нельзя — только закрыть саму модель. База знаний с разделением на слои сохраняет и проверяемость источника, и возможность закрыть доступ конкретному человеку.
Где ставить сервер — в офисной сети или в технологической?
Это решается до закупки, а не после. В офисном контуре модель работает с документацией, но не видит параметров текущей плавки; в технологическом видит, но сама становится элементом контура, к которому предъявляются отдельные требования. Промежуточный вариант с односторонней передачей исторических данных обсуждается отдельно: каждая такая связь потом проверяется как связь, а не как удобство.
Что делать с подрядчиками на остановочном ремонте?
Временные учётки заводятся только в открытый слой — охрана труда, паспорта покупного оборудования, ремонтные мануалы — и закрываются вместе с нарядом. Остановочный ремонт сводит на площадке подрядчиков и обращения к документации одновременно, поэтому разграничение проверяют до ремонта, а не в его разгар.