RAG
AI, который отвечает из ваших документов, а не из интернета
Не «спросите у нейросети», а «спросите у нашей базы знаний, и она покажет, откуда взяла ответ».
Обычная языковая модель знает всё вообще и ничего про вас. Она не читала ваш регламент, не видела договор с этим клиентом и не в курсе, что с прошлого месяца скидка считается иначе. Если задать ей вопрос о вашей компании, она ответит уверенно и неверно — и это худший из возможных исходов, потому что уверенность неотличима от знания.
Retrieval-augmented generation решает это, разворачивая задачу: сначала система находит в ваших документах фрагменты, относящиеся к вопросу, и только потом просит модель ответить, опираясь строго на них. Ответ приходит со ссылкой на источник, а когда подходящих фрагментов не нашлось — с честным «в базе этого нет». В Partnetix я собрал похожий механизм: подбор партнёров из базы компаний и копайлот, который отвечает и действует, опираясь на данные платформы, а не на общие сведения о мире.
Что ломается, пока это делают руками
- Модель без ваших данных выдумывает — и делает это убедительно.
- Поиск по точному совпадению не находит ответ, если вопрос сформулирован иначе.
- Документы живут в разных местах: вики, диск, почта, головы сотрудников.
- Ответ без ссылки на источник нельзя проверить, а значит нельзя ему доверять.
Из чего собирается ответ
| Этап | Что происходит | Что ломается, если пропустить |
|---|---|---|
| Разбор документов | Файлы режутся на фрагменты со смыслом, а не по числу символов | Ответ обрывается на середине мысли |
| Индексация | Фрагменты превращаются в векторы и попадают в поиск по смыслу | Находится только то, где совпали слова |
| Поиск под вопрос | Достаются несколько релевантных фрагментов, а не весь документ | Модель тонет в контексте и отвечает мимо |
| Генерация с опорой | Модель отвечает строго по найденному, с цитатой | Начинаются выдумки — уверенные и неверные |
| Отказ | Нет подходящих фрагментов — система так и говорит | Пользователь получает ответ там, где ответа нет |
Что входит
- сбор документов из вики, дисков, почты и баз
- разбиение и векторная индексация с обновлением
- поиск по смыслу плюс фильтры по правам доступа
- ответы с цитатой и ссылкой на исходный документ
- явный отказ при недостатке данных
- контроль расходов: кэш, выбор модели под задачу
Для кого
компаниям, у которых знания есть, но найти их может только тот, кто их писал.
Услуга: AI-функции и агенты Часто идёт вместе с: Портал самообслуживания Кейс по теме: Partnetix — PRM-платформа для партнёрских программ
Частые вопросы
- Наши документы уедут в чужую модель?
- Фрагменты уходят в модель в момент ответа — это неизбежно, если вы пользуетесь внешним провайдером. Что можно контролировать: какие документы вообще попадают в индекс, какие фрагменты уходят, и логируется ли это. Если данные не должны покидать контур, ставим модель у вас.
- Как понять, что система не врёт?
- По ссылке на источник. Ответ без цитаты в такой системе — дефект, а не особенность. Плюс дизайн на отказ: не нашлось оснований — говорим об этом, а не сочиняем.
- У нас документы в разных форматах и местами устарели.
- Это норма, и первая ценность обычно как раз в том, что при индексации становится видно, где регламенты противоречат друг другу.
Есть процесс, который держится на людях?
Опишите его — скажу, что здесь автоматизируется, а что не стоит трогать.
Обсудить проект