Какие модели используешь?

Под задачу: Claude, GPT, Whisper и другие — через слой, который не привязывает продукт к одному провайдеру, чтобы модель можно было сменить настройкой, а не переписыванием. Ключи живут на сервере и не попадают в браузер. Выбор модели на каждом шаге отдельный: там, где нужна классификация по правилам, самая дорогая модель не нужна.

Не разорит ли AI на токенах?

Это вопрос архитектуры, а не тарифа. Расход снижают кэширование неизменного контекста, ограничение его объёма, выбор модели под шаг и лимиты на пользователя и период. Но главное — расход должен быть виден в разрезе операций: сколько стоит один разобранный документ, один ответ, один набор контента. С этой цифрой видно, окупается функция или нет; без неё спор бессмысленный.

А если модель ответит неправильно?

Ответит, и проектировать надо исходя из этого. Формат и обязательные поля проверяются кодом, факты сверяются с вашей системой, а спорное отправляется человеку — не «модель ошиблась», а «здесь нужно решение». В процессах, где цена ошибки высокая, AI не завершает действие сам: он готовит результат, а подтверждает человек. Какая доля уходит на проверку — измеряется на пилоте, а не обещается заранее.

Чем это отличается от ИИ-агента?

Объёмом самостоятельности. Функция делает один понятный шаг внутри вашей системы и встроена в интерфейс: разобрать документ, ответить по базе знаний, подготовить текст. Агент сам решает последовательность действий и ходит в системы через инструменты — у него другая архитектура, другие риски и отдельный раздел на сайте. Дороже и полезнее он далеко не всегда, поэтому выбор делается по задаче.

Можно начать с одного процесса?

Так и надо начинать. Платный пилот на реальных данных даёт три числа: точность на ваших примерах, цену одной операции и сэкономленное время. После этого решение о продолжении принимается по цифрам, а не по впечатлению от демо. Отдельный рабочий AI-модуль стоит от 65 000 ₽ — разбор того, что двигает эту цену, на странице стоимости.

ai внутри процесса

AI-функции внутри вашей системы и продукта

AI как рабочая часть системы, а не отдельный чат рядом: получает контекст из ваших данных, делает свой участок работы и отдаёт человеку исключения.

Демо на модели собирается за вечер и почти всегда впечатляет. Дальше начинается то, ради чего зовут инженера. Модели надо дать ровно те данные, которые нужны для ответа, и не дать остальные. Её действия надо ограничить правами того человека, от чьего имени она работает. Результат надо проверить до того, как он уйдёт клиенту или в документ. Ошибку и отказ провайдера надо обработать так, чтобы процесс не встал. И всё это должно стоить меньше, чем экономит. Разница между демо и работающей функцией целиком лежит в этих пяти пунктах.

Как это выглядит в реальных продуктах. В партнёрской платформе копайлот превращает разговор с менеджером в проверяемый оффер: не «сгенерируй текст», а собранные из системы условия, которые видно и можно поправить до отправки. Там же второй сценарий ранжирует целевые компании по базе примерно на 200 000 организаций — задача, где точность важнее красоты ответа. В Castolly выпуск подкаста проходит через устойчивый конвейер: расшифровка с таймкодами, десяток типов контента параллельно, нарезка вертикальных клипов рендером, и всё это на очередях с повторами, потому что часть шагов длится минуты и иногда падает.

Стоимость — инженерная задача, а не строчка в счёте от провайдера. Она собирается из выбора модели под конкретный шаг (мелкие шаги не требуют самой дорогой), кэширования того, что не меняется, ограничения объёма контекста и лимитов на пользователя и на период. Расход при этом надо видеть: сколько стоит один разобранный документ, один ответ, один сгенерированный набор. Без этой цифры невозможно ответить на главный вопрос — экономит функция деньги или просто выглядит современно. Я закладываю учёт с первого дня, потому что задним числом его не восстановить.

Отдельно про границу, за которой начинается другая услуга. Здесь речь про функцию внутри вашей системы: она встроена в интерфейс, работает с вашими данными и делает один понятный шаг. Если же нужен исполнитель, который сам решает последовательность действий и ходит в системы через инструменты, — это ИИ-агент, у него другая архитектура, другие риски и отдельный раздел на сайте. Начинать в обоих случаях лучше с платного пилота на реальных данных: он даёт точность, цену результата и экономию времени в цифрах до того, как AI начнёт влиять на остальные процессы.

Что здесь ломается

Демо работало на трёх примерах, а на реальных данных ошибается — и непонятно, насколько часто.
Модель отвечает уверенно и неправильно, а проверить ответ может только человек, который знает предмет.
Счёт от провайдера пришёл больше, чем сэкономленное время, и разложить его по функциям нечем.
Ответ ждут двадцать секунд, потому что каждый запрос собирает контекст заново.
В подсказку модели попали данные, которые этот пользователь видеть не должен.
Провайдер недоступен, и вместе с ним лежит весь процесс, а не одна функция.

Что отделяет демо от функции, которая живёт в проде

Вопрос	Как в демо	Как в рабочей системе
Данные	Всё, что нашлось, отправляется в подсказку	Выборка под вопрос и под права того, кто спрашивает
Проверка результата	Глазами автора демо	Формат и правила проверяются кодом, спорное уходит человеку
Ошибка провайдера	Экран с ошибкой	Повтор, запасная модель, очередь — процесс не встаёт
Стоимость	Неизвестна	Считается на операцию: сколько стоит один документ или ответ
Скорость	Как получится	Кэш, параллельные шаги, фоновая обработка с прогрессом
Смена модели	Переписать половину кода	Слой поверх провайдера: модель меняется настройкой
Ключи и доступы	В коде фронтенда	Только на сервере, с лимитами и учётом расхода

Что входит

RAG — ответы по вашим документам и данным, со ссылкой на источник
обработка документов: извлечение полей, классификация, сверка с системой
обработка аудио и видео: расшифровка, суммаризация, нарезка
генерация контента под ваш тон и глоссарий, а не «как нейросеть»
подбор и ранжирование по вашим данным: клиенты, партнёры, заявки
ассистенты внутри CRM, ERP и кабинетов, работающие в правах пользователя
устойчивые фоновые конвейеры: очереди, повторы, прогресс, разбор сбоев
провайдеро-нейтральный слой: смена модели без переписывания продукта
учёт расхода и лимиты: цена одной операции видна с первого дня

Для кого

компаниям, у которых повторяемая ручная работа уже описана данными: разбор документов и заявок, ответы по накопленной базе знаний, подготовка контента, первичная обработка обращений. То есть там, где есть что дать модели на вход и с чем сравнить её результат.

Когда не ко мне: если процесс нигде не описан и данных по нему нет, начинать надо не с AI: модели нечего дать на вход и не с чем сравнить результат. Не берусь я и за обучение собственной модели с нуля — это другая профессия и другие бюджеты; моя работа начинается там, где готовую модель надо встроить в систему и заставить работать надёжно.

Цена и сроки: от 65 000 ₽ ИИ-агенты: что это и где окупается

Частые вопросы

Какие модели используешь?: Под задачу: Claude, GPT, Whisper и другие — через слой, который не привязывает продукт к одному провайдеру, чтобы модель можно было сменить настройкой, а не переписыванием. Ключи живут на сервере и не попадают в браузер. Выбор модели на каждом шаге отдельный: там, где нужна классификация по правилам, самая дорогая модель не нужна.
Не разорит ли AI на токенах?: Это вопрос архитектуры, а не тарифа. Расход снижают кэширование неизменного контекста, ограничение его объёма, выбор модели под шаг и лимиты на пользователя и период. Но главное — расход должен быть виден в разрезе операций: сколько стоит один разобранный документ, один ответ, один набор контента. С этой цифрой видно, окупается функция или нет; без неё спор бессмысленный.
А если модель ответит неправильно?: Ответит, и проектировать надо исходя из этого. Формат и обязательные поля проверяются кодом, факты сверяются с вашей системой, а спорное отправляется человеку — не «модель ошиблась», а «здесь нужно решение». В процессах, где цена ошибки высокая, AI не завершает действие сам: он готовит результат, а подтверждает человек. Какая доля уходит на проверку — измеряется на пилоте, а не обещается заранее.
Чем это отличается от ИИ-агента?: Объёмом самостоятельности. Функция делает один понятный шаг внутри вашей системы и встроена в интерфейс: разобрать документ, ответить по базе знаний, подготовить текст. Агент сам решает последовательность действий и ходит в системы через инструменты — у него другая архитектура, другие риски и отдельный раздел на сайте. Дороже и полезнее он далеко не всегда, поэтому выбор делается по задаче.
Можно начать с одного процесса?: Так и надо начинать. Платный пилот на реальных данных даёт три числа: точность на ваших примерах, цену одной операции и сэкономленное время. После этого решение о продолжении принимается по цифрам, а не по впечатлению от демо. Отдельный рабочий AI-модуль стоит от 65 000 ₽ — разбор того, что двигает эту цену, на странице стоимости.

Строишь что-то такое?

Расскажи, что строишь — отвечу в течение дня.

Обсудить проект

Разбор по теме

Все разборы