ИИ-агенты
агенты, которые отвечают и действуют вместо человека
смотреть узел→Под «своей нейросетью» чаще всего имеют в виду три разные вещи: подключить готовую модель и дать ей ваши документы, дообучить открытую модель под вашу задачу, поставить модель на своё железо. Стоят они по-разному в десятки раз, и выбирают между ними не по красоте идеи, а по требованиям к данным. Ниже про каждую честно, включая ту, которую мы чаще всего отговариваем делать.
Задача обычно звучит как «чтобы отвечала по нашим регламентам и нашему каталогу». Это решается поиском по вашей базе поверх готовой модели, без обучения. Дешевле на порядок, правится за час, а не за неделю.
Оно нужно, когда важно, КАК отвечать: тон, разметка, строгая структура, узкая терминология. Заучивать факты дообучением бессмысленно: они меняются, а модель после обучения остаётся с прежними.
Свой контур берут тогда, когда данные нельзя выпускать наружу совсем. Он почти никогда не дешевле облака по деньгам, и решение принимают требования безопасности, а не калькулятор.
Порядок не произвольный: каждый следующий шаг имеет смысл только тогда, когда предыдущий уже сделан и не помог.
Самый недооценённый шаг. Точная постановка задачи и примеры закрывают заметную часть претензий к качеству, стоят ноль и правятся мгновенно.
Модель отвечает, опираясь на ваши документы, и показывает, из какого именно. Это то, что почти всегда имеют в виду под «обучить на наших данных».
Набор реальных вопросов с правильными ответами и замер до и после. Без него «стало лучше» это ощущение, а не факт, и спорить о нём можно бесконечно.
Когда собран корпус хороших ответов, обычно от нескольких сотен. Меняет манеру и структуру ответа, не меняет знания о мире.
Модель на вашем железе или в вашем облаке. Нужны видеокарты, инженер и регламент обновлений. Это уже эксплуатация, а не проект.
Модели обновляются, данные меняются, ответы уплывают. Без регулярного замера качество тихо падает, и это замечают клиенты, а не вы.
Точные тарифы меняются каждый квартал, поэтому здесь важнее не цифры, а что вы получаете и что обязаны содержать.
| что это | что решает | что придётся содержать | данные наружу |
|---|---|---|---|
| Готовая модель плюс ваши документы | ответы по вашим регламентам и каталогу | базу документов и правила поиска | уходят к провайдеру модели |
| Дообучение открытой модели | стиль, формат и узкую терминологию | корпус примеров и повторное обучение при изменениях | зависит от того, где обучаете |
| Модель в вашем контуре | требование не выпускать данные наружу | видеокарты, инженера, обновления, дежурство | не уходят |
| Обучение модели с нуля | почти ничего из того, зачем его хотят | команду и бюджет уровня научной лаборатории | не уходят |
Последняя строка в списке не для выбора, а чтобы закрыть вопрос: обучение с нуля стоит сотни миллионов и годы, и ни одной прикладной задачи бизнеса оно не решает лучше первых трёх строк.
Стоимость своей модели редко упирается в саму модель. Четыре статьи расходов, которые всплывают уже в работе.
Собрать, вычистить, разметить, договориться, что считается правильным ответом. Это самая долгая часть, и её нельзя купить готовой.
Видеокарты стоят денег постоянно, а нужны пиками. В облаке платят за часы, у себя за то, что стоит в стойке, независимо от загрузки.
Обновления, замеры, разбор жалоб, дежурство. Модель без присмотра деградирует не потому, что ломается, а потому, что меняется всё вокруг неё.
Поменялся прайс, регламент или ассортимент, и корпус примеров устарел. Дообучение это не разовая покупка, а цикл.
Честная граница. Если ни один пункт не про вас, подключите готовую модель к своим документам и не тратьте деньги на контур.
Не «не хотелось бы», а требование безопасности, отраслевое правило или условие контракта. Это единственная причина, которая сама по себе решает вопрос.
Один тип документов, один формат ответа, тысячи раз в месяц. На таком объёме дообученная модель поменьше обходится дешевле большой универсальной.
Строгая структура, свои термины, одна и та же форма каждый раз. Это как раз то, что даёт дообучение и не всегда дают правила.
Свой контур без человека внутри компании превращается в чёрный ящик, который однажды перестаёт отвечать, и никто не знает почему.
Расчёт на две минуты, который стоит сделать до первого разговора с любым подрядчиком, включая нас.
Мы считаем то же самое на диагностике и показываем расчёт до договора. Если своя модель вам не нужна, мы это говорим прямо: подключение к готовой стоит у нас в разы дешевле контура.
Поиск по базе показывает модели нужный документ в момент вопроса, поэтому ответ всегда по актуальной версии, а источник можно открыть и проверить. Дообучение вплавляет примеры в саму модель: она начинает отвечать в нужной манере, но не узнаёт новых фактов и не может сослаться на документ. Почти всегда просят второе, а нужно первое.
Речь идёт о сотнях хороших примеров, а не о терабайтах всего подряд. Пример это пара «запрос и правильный ответ» в том виде, в каком вы хотите его получать. Собрать триста таких пар обычно тяжелее, чем провести само обучение.
Небольшие модели работают и на процессоре, но медленно, и годятся для фоновых задач, где ответ ждут минутами. Для живого диалога нужна видеокарта. Требования к ней зависят от размера модели, и это первое, что считают до покупки, а не после.
У российских провайдеров это условие договора: запросы не используются для обучения, есть закрывающие документы и понятное место хранения. У зарубежных сервисов на бесплатных и личных тарифах обычно наоборот. Если данные чувствительные, вопрос решается не обещанием, а договором либо контуром.
Разбор задачи с расчётом от 60 000 ₽, единая точка доступа к моделям от 15 000 ₽ в месяц, обслуживание с надзором и дообучением от 60 000 ₽ в месяц, свой контур от 1 500 000 ₽. Порядок в списке не случайный: снизу вверх идут по мере того, как предыдущее перестаёт хватать.
Опишите задачу и скажите, можно ли выпускать данные наружу. Вернём разбор: хватит ли поиска по базе, где начинается дообучение и во сколько обойдётся свой контур. Бесплатно, до начала работ.
Пять направлений и всё, что внутри каждого. Любой узел открывается своей страницей с ценами, сроками и составом работ.
агенты, которые отвечают и действуют вместо человека
смотреть узел→
процессы компании без ручного труда
ИИ внутри вашей разработки и разработка на ИИ
смотреть узел→
изображения, текст, видео, музыка и дизайн потоком
смотреть узел→
доступ к моделям, надзор, дообучение, свой контур
Одна задача обычно идёт через несколько узлов: бот принял обращение, агент разобрал, документ ушёл в 1С. На карте видно, где чей участок и что передаётся дальше.
открыть карту→