К основному содержанию
NeFlows · шаблон n8n · Разработка

Семантический кэш ответов в Redis и OpenAI — шаблон n8n

Вопросы в n8n проходят семантическую проверку в Redis: похожие запросы получают сохранённый ответ, а новые передаются OpenAI; для сравнения используются эмбеддинги Hugging Face.

Оригинал на n8n.io: Reduce LLM Costs with Semantic Caching using Redis Vector Store and HuggingFace — Tihomir Mateev

Открыть шаблон на n8n.io бесплатно
Сложность
сложный13 видов узлов
Просмотров на n8n.io
1 852
Опубликован
Обновлён
Автор
Tihomir Mateev
Сверено

Что делает шаблон

Чат возвращает ответ из Redis, если там находится семантически похожий вопрос; при промахе ответ формирует языковая модель OpenAI, после чего он сохраняется для следующих обращений. Порог distanceThreshold в узле Analyze results from store задаёт строгость совпадения: 0.2 даёт меньше ложных совпадений, 0.5 — больше попаданий в кэш, а значение по умолчанию равно 0.3. Шаблон рассчитан на повторяющиеся вопросы. Запросы о текущих данных, персонализированные ответы и вопросы, которым каждый раз нужен свежий контекст, для кэширования не подходят. Эмбеддинги поддерживают работу с разными языками.

Как работает workflow по шагам

  1. Chat Trigger запускает workflow, когда пользователь отправляет вопрос через чат.
  2. Redis Vector Store ищет в кэше семантически похожие вопросы.
  3. If проверяет результат поиска и направляет workflow по ветке совпадения или промаха.
  4. При промахе AI Agent получает ответ от OpenAI Chat Model и сохраняет его в Redis Vector Store.
  5. Redis Chat Memory хранит контекст разговора, а Respond To Chat отправляет ответ в чат.

Что нужно для запуска

  • Ключ API OpenAI для языковой модели.
  • Ключ API Hugging Face для эмбеддингов.
  • Redis 8.x для векторного хранилища.

Что изменить под себя

  • Порог distanceThreshold меняется в узле Analyze results from store.
  • Для кэша можно настроить срок хранения ответов с помощью TTL.
  • Можно разделить кэш по темам с помощью категорий.

Кому подойдёт

Подходит для поддержки клиентов, чат-ботов по документации и систем FAQ с повторяющимися вопросами.

Сервисы 5

  • Embeddings Hugging Face Inference
  • OpenAI811
  • Redis
  • Respond To Chat
  • Redis Vector Store

Категории у источника: Разработка , ИИ-чат-боты

Узлы workflow 13

  • If
  • Sticky Note
  • Code
  • Manual Trigger
  • AI Agent
  • Embeddings Hugging Face Inference
  • OpenAI Chat Model
  • Redis Chat Memory
  • Recursive Character Text Splitter
  • Default Data Loader
  • Chat Trigger
  • Respond To Chat
  • Redis Vector Store

Виды узлов, из которых собран сценарий, — как их перечисляет страница шаблона. Серым — служебные узлы n8n.

Автор и первоисточник

Сценарий «Reduce LLM Costs with Semantic Caching using Redis Vector Store and HuggingFace» опубликовал на n8n.io Tihomir Mateev. Файл шаблона и авторское описание — на странице шаблона.

Русское описание написано языковой моделью по странице шаблона и прошло автоматическую проверку: в нём нет сервисов и чисел, которых нет у автора. Сценарий принадлежит автору; каталог его не хранит.

Похожие шаблоны n8n

MCP-сервер для workflow n8n и Redis Workflow n8n связывает Redis с OpenAI и MCP-клиентом: агент находит доступные workflow, управляет списком и запускает выбранные для выполнения задач. Redis · OpenAI 97 672просмотра Карьерный коучинг с OpenAI, Google Sheets и Gmail Карьерные запросы проходят через n8n Google Sheets и OpenAI: чат запоминает профиль и историю диалогов, а Gmail отправляет персональные еженедельные письма с заданием и поддержкой. Google Sheets · Gmail · OpenAI · Respond To Chat 22 231просмотр Передача диалога из Telegram человеку и обратно Сообщения пользователей проходят через n8n Telegram-бот: он собирает данные для обращения по продажам, передаёт диалог человеку и возобновляет ответы после получения сводки. Для состояния сессии используется Redis. Redis · Telegram · OpenAI 17 915просмотров Задачи проекта в Google Sheets через OpenAI Задачи проекта можно создавать в чате с AI Agent: workflow n8n связывает OpenAI и Google Sheets, собирает название, описание и статус, затем добавляет запись в таблицу. Google Sheets · OpenAI · Respond To Chat 14 849просмотров Ответ AI Agent на сообщения через Twilio и Redis Сообщения клиента накапливаются в Redis, а AI Agent отвечает на них одним сообщением через Twilio. В n8n Twilio связан с Redis и OpenAI, чтобы объединять короткие реплики, отправленные подряд. Redis · Twilio · OpenAI 10 882просмотра Сравнение ответов OpenAI, Anthropic и Google Gemini Ответы OpenAI, Anthropic и Google Gemini проходят автоматическую оценку качества в workflow n8n; Chat Trigger принимает запрос, а результаты возвращаются в чат. OpenAI · Google Gemini · Anthropic · Respond To Chat 9 635просмотров

Спонсоры проекта

Компании, которые помогают держать аналитику открытой