Какие задачи закрывает
- поиск по документам и базе знаний
- ответы поддержки и sales enablement
- чат-бот в Telegram или на сайте
- эскалация сложных вопросов человеку
Собираем RAG-ассистентов, которые отвечают на основе документов, FAQ, регламентов, каталога товаров и внутренней базы знаний, а не только по общим знаниям модели.
Смотрим, какие документы есть, как они обновляются, где дубли и устаревший контент. Чистим базу - без этого RAG будет отвечать мусором.
Парсинг (PDF, DOCX, HTML, Notion API), чанкинг, embeddings, индекс в векторной БД. Расписание переиндексации.
Поиск по векторам и ключевым словам, ранжирование, сбор контекста, промпт с правилами отказа и формата ответа.
Веб-виджет, Telegram или встроенный чат в CRM. Эскалация сложных вопросов оператору, лог всех диалогов.
За 30 минут смотрим источники и говорим, стоит ли вашему кейсу RAG или достаточно более простой схемы. Без обязательств.
Типовые вопросы клиентов закрывает агент со ссылками на документы. Операторы занимаются только сложными случаями и эскалациями.
Новый сотрудник задаёт вопросы агенту вместо чтения 200 страниц регламентов. Ответы со ссылкой на пункт документа.
Каждый ответ - с источником: документ, раздел, дата. Можно проверить, нет необходимости «верить на слово» модели.
Отчёт «вопросы без ответа» показывает, какие регламенты пора дописать. База знаний становится живой.
FAQ, инструкции, регламенты, таблицы, PDF, страницы базы знаний и карточки товаров.
Да. Лучше возвращать краткий ответ плюс ссылки или названия документов-источников.
Сценарий должен честно отказывать, уточнять или передавать вопрос человеку.
OpenAI GPT-4o/4o-mini, Anthropic Claude, локальные модели через Ollama или vLLM - выбор зависит от чувствительности данных и бюджета. Для embedding обычно text-embedding-3 или открытые модели. Если данные нельзя выпускать наружу - собираем весь контур на on-prem с локальной моделью.
Автоматически по расписанию или по событию из источника (Notion, Confluence, Google Drive, S3, ваша CRM). Изменённые документы переиндексируются, удалённые - выбрасываются. Раз в неделю отправляется отчёт: сколько документов добавлено, какие вопросы не нашли ответ - это сигнал, какие регламенты пора дописать.
Прототип на 200–500 документах с типовым чатом - 2–3 недели. Продакшен с интеграциями, мониторингом и handoff в CRM - 4–6 недель. Локальный on-prem контур с собственной моделью - дольше.
Промпт и pipeline настроены так, чтобы агент отвечал только из контекста и честно говорил «не знаю», если нужного документа нет. На выходе - ответ + ссылка на источник, можно проверить.
RAG-система и ИИ-агент по документам, FAQ, товарам и инструкциям: поиск, ответы с контекстом, Telegram или веб-чат, handoff человеку.