Локальная нейросеть на своём сервере или облачный сервис: что выбрать компании и во что это обойдётся

Короткий ответ: нейросеть на своём сервере нужна, когда тексты с данными нельзя отдавать третьим лицам — по закону, по договору с вашим заказчиком или по решению собственника. В остальных случаях облачный сервис с обезличиванием обычно дешевле, быстрее в запуске и сильнее на сложных задачах. Своя модель — это не разовая покупка, а сервер с видеокартой, администрирование и регулярная проверка качества.

Юридическую сторону — когда отправка персональных данных в облачный ИИ-сервис требует поручения и уведомления Роскомнадзора — мы разобрали в статье о том, можно ли отправлять данные клиентов в ИИ по 152-ФЗ. Здесь — инженерная и денежная сторона: что вы получаете, что теряете и за что платите, если модель работает внутри компании.

Чем локальная нейросеть отличается от облачной?

Местом, где работает модель. В облачном сервисе ваш текст уходит поставщику, там обрабатывается и возвращается ответом. Локальная модель скачана целиком и запущена на сервере, который контролируете вы: запрос не покидает вашу сеть, а за мощность и исправность отвечаете вы сами.

Для руководителя за этим стоят три практических различия:

• Контроль над данными. В облаке вы доверяете поставщику: где хранятся журналы запросов, сколько, кто имеет к ним доступ. На своём сервере это решает ваш администратор.
• Модель оплаты. Облако берёт деньги за объём: больше запросов — больше счёт. Свой сервер стоит одинаково и при десяти запросах в день, и при десяти тысячах, пока хватает мощности.
• Ответственность за работу. Облачный поставщик сам обновляет модель и держит серверы. Локальную модель обновляет, проверяет и поднимает после сбоя ваша сторона.

Есть и промежуточный вариант — российский облачный сервис: данные не уходят за рубеж, но всё равно передаются стороннему поставщику. Сравнение всех трёх — в таблице ниже.

	Зарубежный облачный сервис	Российский облачный сервис	Модель на своём сервере
Куда уходят тексты	К поставщику за рубеж	К поставщику в России	Никуда: остаются в вашей инфраструктуре
Качество на сложных задачах	Обычно самое высокое	Зависит от сервиса, проверять на примерах	Ниже на длинных рассуждениях, сопоставимо на узких задачах
Как платите	За объём запросов	За объём запросов	За сервер, электричество и обслуживание — независимо от объёма
Кто обновляет и чинит	Поставщик	Поставщик	Вы или ваш подрядчик
Работает без интернета	Нет	Нет	Да, если всё стоит в закрытом контуре
Сколько времени до запуска	Дни	Дни	Плюс время на сервер, настройку и проверку качества

Когда локальный запуск действительно нужен?

Когда передать тексты стороннему сервису нельзя или это обходится дороже, чем свой сервер. Обычно это одна из пяти ситуаций ниже. Если ни одна к вам не относится, начните с облака и обезличивания: так вы быстрее увидите, решает ли ИИ задачу вообще.

1. Много чувствительных персональных данных. Медицинские сведения, финансовое положение клиентов, полная переписка — и модели нужно видеть именно их, а не обезличенную суть.
2. Коммерческая тайна. Если в компании введён режим коммерческой тайны, закон требует учитывать лиц, которым такая информация предоставлена или передана, и регулировать её использование контрагентами договорами (пп. 3–4 ч. 1 ст. 10 Федерального закона № 98-ФЗ «О коммерческой тайне»). Облачный сервис с типовой офертой в такую схему вписывается трудно.
3. Требование вашего заказчика. Крупный заказчик может прямо запретить в договоре передавать его документы внешним сервисам — проверьте договоры и соглашения о конфиденциальности. Нарушение грозит не штрафом регулятора, а потерей контракта.
4. Закрытый контур. На производстве или на объекте, где сеть физически отделена от интернета, облачный сервис просто недоступен.
5. Большой и ровный поток однотипных задач. Если каждый день идут тысячи одинаковых операций — разбор входящих документов, сортировка обращений, — фиксированная стоимость сервера может оказаться ниже платы за объём. Это считают на ваших цифрах, а не на глаз.

Обратная ситуация тоже частая. Свой сервер не нужен, если ИИ отвечает клиентам по публичному прайсу и страницам сайта, пишет черновики писем без персональных данных или помогает сотрудникам искать по регламентам без секретных сведений. Там достаточно облака и правил для сотрудников — о них в статье про политику использования ИИ в компании.

Что потеряете в качестве и удобстве?

Прежде всего — качество на сложных задачах. Модели, которые помещаются на один сервер компании, как правило, меньше и слабее крупных облачных. На длинных документах, многошаговых рассуждениях и свободной переписке разница заметна. Вторая потеря — удобство: всё, что поставщик облака делает за вас, теперь делает ваша сторона.

Что конкретно меняется:

• Длинные документы. Сколько текста модель может учесть за раз, на своём сервере ограничено памятью видеокарты. Договор на сотню страниц придётся резать на части, а связи между разделами модель может потерять.
• Скорость при нагрузке. Один пользователь получает ответ быстро. Двадцать одновременно — ждут в очереди, если сервер подбирали под среднюю нагрузку, а не под пиковую.
• Готовые функции. Распознавание речи, чтение сканов и поиск по документам в облаке часто идут «в комплекте». Локально каждую функцию нужно поднять и проверить отдельно.
• Обновления. Новые версии моделей выходят регулярно. В облаке переход занимает минуты, локально — скачивание, тест на ваших примерах и решение, переходить ли.
• Доступность. Видеокарта может выйти из строя. Если резервного сервера нет, процесс стоит до ремонта.

Отсюда главный совет: не покупайте сервер, пока не проверили, справляется ли локальная модель именно с вашей задачей. Как устроить такую проверку — ниже, в разделе о пилоте.

Какие задачи хорошо работают на своём сервере?

Узкие, с понятным форматом ответа и лёгкой проверкой результата. Там, где модель выбирает из списка, достаёт поля или находит нужный фрагмент, небольшая локальная модель часто справляется почти так же, как облачная. Хуже — там, где нужен связный длинный текст или вывод из многих источников.

• Подходит: определить тему и срочность обращения; достать из счёта реквизиты, суммы и даты; найти ответ в базе знаний и показать ссылку на документ; убрать из текста имена, телефоны и адреса перед дальнейшей обработкой.
• Проверять особенно тщательно: сводки длинных совещаний, ответы клиентам свободным текстом, анализ договоров на риски, вопросы, где нужно сопоставить несколько документов.

Поиск по документам компании на своём сервере устроен так же, как в облаке: модель сначала находит фрагменты, потом отвечает по ним. Этот подход называют RAG; чем он отличается от дообучения, мы разобрали в статье о том, как обучить нейросеть на своих данных. Качество ответа здесь больше зависит от порядка в документах, чем от размера модели.

Из чего складывается стоимость своего сервера?

Из оборудования, обслуживания и разработки самого решения. Цены на серверы с видеокартами сильно зависят от поставщика и курса, поэтому конкретных сумм мы не называем: их считают под размер модели и нагрузку. Важнее понимать состав расходов, чтобы смета не выросла после запуска.

Главная ошибка в расчётах — сравнить цену сервера с месячным счётом облачного сервиса и на этом остановиться. Свой сервер требует человека, который его обслуживает, и времени на обновления. Если в компании нет администратора, его работа становится отдельной ежемесячной статьёй.

Как сравнить честно:

1. Посчитайте объём: сколько документов или обращений в месяц пойдёт через модель и какой они длины.
2. Запустите пилот в облаке на обезличенных данных и посмотрите фактический счёт за этот объём.
3. Сложите для своего сервера оборудование, размещение, администрирование и резерв, разделите разовые расходы на срок службы оборудования.
4. Добавьте к облачному варианту стоимость обезличивания и юридического оформления, к локальному — время на обновления и повторные проверки.

Если после этого цифры близки, решают не деньги, а требования к данным из предыдущего раздела.

Свой сервер в офисе или аренда у провайдера?

Для большинства компаний удобнее арендовать сервер с видеокартой у российского провайдера: не нужно покупать оборудование, охлаждать его и менять детали. Сервер в собственном помещении оправдан, когда этого прямо требует заказчик или сеть должна быть полностью закрытой.

При аренде помните, что провайдер физически обслуживает оборудование. Это не то же самое, что передать тексты облачному ИИ-сервису, но договор с провайдером, место размещения и порядок доступа к машине стоит проверить вместе с юристом. Для режима коммерческой тайны провайдер тоже контрагент, с которым отношения регулирует договор.

Статья расходов	Разово или регулярно	От чего зависит
Сервер с видеокартой: покупка или аренда	Разово или ежемесячно	Размер модели, число одновременных пользователей, длина документов
Размещение: стойка, электричество, охлаждение	Ежемесячно	Свой серверный шкаф или дата-центр, нагрузка
Установка и настройка среды запуска модели	Разово	Требования безопасности, закрытый контур или нет
Разработка самого решения и интеграций	Разово	Число сценариев и систем, с которыми нужна связка
Администрирование, мониторинг, резервные копии	Ежемесячно	Требования к доступности, есть ли свой администратор
Обновление модели и повторная проверка качества	Несколько раз в год	Как часто выходят новые версии и меняются задачи
Резервный сервер	Разово и ежемесячно	Можно ли процессу простаивать при поломке

Гибрид: обезличивание и разделение задач

Часто выгоднее не выбирать одно, а разделить работу. Небольшая локальная модель делает то, где нужны настоящие данные: убирает их из текста, достаёт поля, сортирует. Облачная получает уже обезличенный текст и делает то, где нужна сила: пишет ответ, делает выжимку, рассуждает.

Три рабочие схемы:

• Обезличивание на входе. Локальная модель и обычные правила находят в письме имена, телефоны, номера договоров и заменяют их метками. В облако уходит текст с метками, ответ возвращается, и метки подставляются обратно уже внутри вашей системы.
• Маршрут по типу данных. Обращения без персональных данных идут в облако, с медицинскими или финансовыми сведениями — только на свой сервер. Правило маршрута простое и проверяемое: категория обращения, отдел, отметка в CRM.
• Извлечение локально, текст в облаке. Свой сервер достаёт из документа суммы, сроки и предмет, а облачная модель получает только эти поля без названий сторон и пишет по ним черновик.

Ограничение у гибрида одно: автоматическое обезличивание пропускает часть косвенных признаков, особенно в свободном тексте и сканах. Поэтому схему проверяют на реальной переписке до запуска, а не на выдуманных примерах. Подходит ли обезличенный вариант вашим данным с юридической точки зрения, решает ваш юрист.

Пример промежуточного решения из нашей практики — сервис для юристов «Довод»: материалы дел там обрабатывает российская модель в российском облаке, за рубеж они не уходят. Свой сервер в этом проекте не понадобился — хватило выбора поставщика по месту обработки данных.

Как проверить, хватит ли локальной модели?

Пилотом на ваших реальных примерах, до покупки оборудования. Берут 50–100 типичных документов или обращений, прогоняют их через локальную модель на арендованной машине и через облачную на обезличенных копиях, затем сравнивают ответы с тем, что сделал бы сотрудник.

Что смотреть в пилоте:

• долю ответов, которые сотрудник принял без правок;
• ошибки, которые прошли бы незамеченными, — они опаснее тех, что видны сразу;
• время ответа при той нагрузке, которая будет в работе, а не при одном запросе;
• поведение на «неудобных» примерах: длинных, плохо отсканированных, с опечатками.

Как отличить уверенную выдумку от правильного ответа и какие примеры включать в проверку, мы разбирали в статье о галлюцинациях нейросети. Общий порядок пилота — в материале о том, как внедрить ИИ в компании.

Какие ошибки встречаются чаще всего?

Чаще всего сервер покупают раньше, чем доказали пользу. Дальше идут ошибки в расчёте нагрузки и в ожиданиях от качества. Все они дешевле на этапе пилота, чем после закупки.

• Сначала железо, потом задача. Купили сервер «под ИИ», а какой процесс на нём будет работать, решают потом. Мощность подобрана наугад.
• Расчёт на одного пользователя. На демонстрации всё быстро, в понедельник утром двадцать сотрудников ждут ответа по минуте.
• Ожидание облачного качества. Локальную модель сравнивают с крупным облачным сервисом на сложной задаче и разочаровываются, хотя для узкой задачи её хватило бы.
• Нет хозяина. Модель запустили и забыли: версия устаревает, журналы не смотрят, после сбоя никто не знает, как перезапустить.
• Нет резерва. Процесс полностью зависит от одной видеокарты, а запасного пути — хотя бы ручной обработки — не предусмотрели.
• Контур закрыт, а доступы — нет. Модель на своём сервере, но любой сотрудник видит в ней ответы по чужим документам. Права доступа к базе знаний нужно настраивать так же строго, как в учётной системе.

Сколько стоит сделать решение у нас?

Разработку считаем по прайсу, сервер и его обслуживание — отдельно. ИИ-решение — ассистент на ваших данных или автоматическая обработка заявок — от 72 000 ₽, от 3 дней. Связка до двух ваших систем, например CRM и 1С, — от 32 000 ₽, от 2 дней.

Для локального запуска к этому добавляются подбор и настройка сервера и проверка качества модели на ваших примерах — их объём зависит от требований к контуру, поэтому считаем после брифа и фиксируем цену и срок в договоре до старта. После запуска 7 дней мелких правок бесплатно, гарантия по договору — 30 дней, дальше сопровождение от 7 900 ₽ в месяц или разовые задачи. Порядок работ и что входит в тариф — на странице внедрения ИИ под ключ.

Чек-лист решения

Пройдите по пунктам. Если на первые три вопроса ответ «нет», начните с облачного сервиса и обезличивания. Если хотя бы на один — «да», рассматривайте свой сервер или гибрид и закладывайте пилот до покупки оборудования.

1. Нужны ли модели для работы именно персональные данные или коммерческая тайна, а не обезличенная суть?
2. Запрещает ли ваш заказчик или договор передавать документы внешним сервисам?
3. Есть ли у вас сеть или площадка без доступа в интернет, где должен работать ИИ?
4. Сколько запросов в месяц пойдёт через модель и какой они длины — посчитано ли это?
5. Проверена ли локальная модель на 50–100 ваших реальных примерах?
6. Кто будет администрировать сервер, обновлять модель и смотреть журналы?
7. Что будет с процессом, если сервер выйдет из строя на день?
8. Настроены ли права доступа: кто какие документы может спрашивать у модели?
9. Можно ли часть задач отдать облаку после обезличивания и сэкономить на мощности сервера?
10. Согласовал ли схему ваш юрист — особенно если используется аренда у провайдера?

Если ответы на половину вопросов пока неясны, это нормальная стартовая точка. С ними удобно прийти на бриф: по ним видно, что нужно в первую очередь — пилот, расчёт нагрузки или разговор с юристом.

Короткие ответы на частые вопросы

Можно ли запустить нейросеть на обычном офисном сервере без видеокарты?

Небольшую модель — технически да, но ответы будут идти медленно, особенно если запросов несколько одновременно. Для рабочего сценария с людьми, которые ждут ответа, обычно нужен сервер с видеокартой, параметры подбирают под задачу и нагрузку.

Локальная нейросеть хуже облачной?

На сложных задачах с длинными рассуждениями — как правило, да. На узких задачах с понятным форматом ответа — классификация, извлечение полей, поиск по базе знаний — разница бывает небольшой. Это нужно проверять на ваших реальных примерах до покупки сервера.

Можно ли поставить модель на сервер, у которого нет доступа в интернет?

Да. Модель и программы для её запуска переносят в закрытый контур, после этого внешняя сеть для работы не нужна. Обновления тогда тоже ставят вручную, по согласованному порядку.

Если арендовать сервер с видеокартой у хостинг-провайдера, это всё ещё «свой сервер»?

Технически модель работает только на вашей арендованной машине и запросы во внешний ИИ-сервис не уходят. Но провайдер имеет физический доступ к оборудованию, поэтому условия договора с ним, место размещения и порядок доступа стоит проверить так же, как условия облачного сервиса.

Сколько стоит сделать решение на своём сервере у вас?

Решение на ИИ считаем по тарифу «AI-решения / AI-ассистенты» — от 72 000 ₽, от 3 дней, связку с вашими системами — от 32 000 ₽ за связку до двух систем. Сервер и его обслуживание оплачиваются отдельно; точную смету называем после брифа и фиксируем в договоре.

Услуги и кейсы по теме: внедрение ИИ под ключ · кейс «Довод» · цены и сроки