ai внутри продукта
AI-функции и агенты
AI как рабочая часть продукта, а не демо: ассистенты и агенты, генерация и обработка контента, RAG по твоим данным, устойчивые пайплайны.
AI-демку собрать легко, а вот AI-функцию, которая надёжно работает в проде и не разоряет на токенах — нет. Я встраиваю AI как полноценную часть продукта: с контролем затрат, обработкой ошибок и понятным поведением.
Castolly — целиком про это: пайплайн «аудио → транскрипт → десяток типов контента», который должен быть устойчивым и недорогим. Длинные задачи в очереди, прогресс виден в реальном времени, расход считается по тарифу.
Что входит
- чат-ассистенты и агенты с tool use
- генерация контента под brand voice
- обработка аудио, видео и текста (транскрипция, нарезка, суммаризация)
- RAG — ответы по вашим документам и данным
- устойчивые фоновые пайплайны и очереди
- контроль затрат и качества генерации
Для кого
продуктам, которым нужен работающий AI в проде, а не разовая демонстрация.
Кейс по теме: Castolly — AI-репурпосер контента для подкастовЧастые вопросы
- Какие модели используешь?
- Под задачу: Claude, GPT, Whisper и другие через провайдеро-нейтральный слой, чтобы можно было сменить модель без переписывания продукта. Ключи живут на бэке и не попадают в браузер.
- Не разорит ли AI на токенах?
- Контроль затрат закладывается в архитектуру: кэширование, лимиты, выбор модели под задачу и учёт расхода — чтобы фича была не только умной, но и окупаемой.