Чат-бот по документам
Находит ответы в правовых документах и показывает источники.
Развил обработку документов и переработал гибридный поиск.
После двух недель практики мне доверили самостоятельно развивать и поддерживать систему.
Что я доработал
Что ещё сделал
- Добавил оценку ответов и диагностические отчёты.
- Настроил переиндексацию Qdrant со сменой alias, контейнеры, логи и запуск модели через vLLM.
Как устроен поиск
Dense-поиск и два BM25-канала объединяются через weighted RRF. Затем CrossEncoder отбирает фрагменты для ответа. Для оценки подключены RAGAS и DeepEval.
- 01ВопросЗапрос пользователя
- 02Гибридный поискDense + BM25 · weighted RRF
- 03ПереранжированиеCrossEncoder отбирает фрагменты
- 04Ответ с источникамиLLM получает найденный контекст
- 01ДокументыPDF · DOCX · ODT · таблицы
- 02Подготовка текстаDocling · структурные фрагменты
- 03Индексы для поискаEmbeddings · Qdrant · BM25
- 04Обновлённый индексПереиндексация со сменой alias
Схема процесса в рабочем пилоте.
Развёртывание
Python, Docker Compose, MongoDB, health-checks и логи. Модель запущена через vLLM на двух RTX 4090.
Что есть в открытом доступе
На GitHub — ранняя версия, опубликованная с разрешения компании. Она отличается от рабочего пилота, в том числе поисковыми каналами. Публичных замеров качества и бизнес-эффекта для пилота нет.