Своя модель в контуре юрфирмы: 0 запросов наружу

Архив рос годами: тысячи дел, в которых уже были найдены нужные формулировки и выигрышные конструкции. Найти их повторно мог только тот, кто помнил дело лично, и это знание уходило из фирмы вместе с людьми.

Внешние модели закрыты политикой: материалы клиентов не должны покидать периметр даже обезличенными. Обычный путь «подключим облачный сервис» не обсуждался вовсе, и это сузило выбор до одного честного варианта. Как устроена своя модель в закрытом контуре и во что она обходится, показано в разборе своя нейросеть.

Свой контур нужен там, где облако запрещено политикой или законом: юристы, медицина, оборонка, банки. Это не вопрос экономии, а вопрос допустимости.

Считать окупаемость надо честно: своё оборудование дороже на старте и выходит в ноль примерно за год при постоянной нагрузке. Если запросов мало, облако дешевле навсегда. И качество ответов будет ниже облачного, эту разницу закрывают подготовкой данных, а не мощностью сервера.

Своя модель в контуре дороже облака на старте: сервер, установка, обслуживание. Мы посчитали обе сметы на три года: разовые затраты на оборудование против ежемесячной оплаты обращений при том же объёме запросов. Точка равенства пришлась на одиннадцатый месяц.

Ноль запросов во внешние сервисы это не обещание, а свойство схемы: у сервера нет доступа в интернет на уровне сети. Проверяется не нашим словом, а настройками сети заказчика, и мы отдельно передали инструкцию, как это проверить самостоятельно.

Секунды на поиск по архиву это медиана по запросам юристов за месяц работы. В выборку вошли и тяжёлые запросы по всему архиву, и короткие по одному делу.