Ответы по PDF из Qdrant и Ollama — шаблон n8n
Вопросы по PDF обрабатывает локальный чат-бот: workflow n8n связывает Ollama, Qdrant и Embeddings Ollama для поиска по документам.
Оригинал на n8n.io: Local chatbot with retrieval augmented generation (RAG) — Thomas Janssen
Открыть шаблон на n8n.io бесплатно- Сложность
- средний10 видов узлов
- Просмотров на n8n.io
- 141 565
- Опубликован
- Обновлён
- Автор
- Thomas Janssenпроверен n8n.io
- Сверено
Что делает шаблон
Qdrant хранит фрагменты загруженных PDF-файлов и связанные с ними embeddings. Чат-бот извлекает подходящие части документов и формирует ответ через Ollama, поэтому содержание ответа основано на добавленных материалах. Всё работает локально. В базовой конфигурации используются Llama 3.2 для чата и mxbai-embed-large для embeddings. В базу можно загрузить любое количество PDF-файлов, после чего задавать вопросы через чат.
Как работает workflow по шагам
- n8n Form Trigger запускает загрузку PDF-файлов для добавления в базу.
- Default Data Loader читает содержимое загруженных PDF-файлов.
- Recursive Character Text Splitter делит документы на фрагменты.
- Embeddings Ollama создаёт embeddings для полученных фрагментов.
- Qdrant Vector Store сохраняет фрагменты и embeddings.
- Chat Trigger запускает диалог с чат-ботом.
- AI Agent обращается к Qdrant, Ollama Chat Model и Simple Memory для формирования ответа.
Что нужно для запуска
- n8n, Ollama и Qdrant, установленные через Self-hosted AI starter kit
- Модель Llama 3.2 для Ollama Chat Model
- Модель mxbai-embed-large для Embeddings Ollama
- Доступ к сервисам Ollama, Qdrant и Embeddings Ollama
- PDF-файлы для загрузки в базу
Сервисы 3
- Ollama
- Qdrant34
- Embeddings Ollama
Категории у источника: База знаний , RAG: ответы по своим документам
Узлы workflow 10
- Sticky Note
- AI Agent
- Ollama Chat Model
- Simple Memory
- Recursive Character Text Splitter
- n8n Form Trigger
- Default Data Loader
- Chat Trigger
- Qdrant Vector Store
- Embeddings Ollama
Виды узлов, из которых собран сценарий, — как их перечисляет страница шаблона. Серым — служебные узлы n8n.
Автор и первоисточник
Сценарий «Local chatbot with retrieval augmented generation (RAG)» опубликовал на n8n.io Thomas Janssen. Файл шаблона и авторское описание — на странице шаблона.
Русское описание написано языковой моделью по странице шаблона и прошло автоматическую проверку: в нём нет сервисов и чисел, которых нет у автора. Сценарий принадлежит автору; каталог его не хранит.