К основному содержанию
NeFlows · шаблон n8n · Разработка

Чат с открытой языковой моделью Hugging Face — шаблон n8n

Текстовое сообщение запускает обработку в n8n, где Hugging Face Inference Model подключена к цепочке языковой модели и формирует ответ по заданному запросу.

Оригинал на n8n.io: Use an open-source LLM (via HuggingFace) — n8n Team

Открыть шаблон на n8n.io бесплатно
Сложность
простой4 вида узлов
Просмотров на n8n.io
43 478
Опубликован
Обновлён
Автор
n8n Teamпроверен n8n.io
Сверено

Что делает шаблон

В чате появляется ответ открытой языковой модели на сообщение пользователя. Цепочка обрабатывает текст по заданному запросу; небольшим моделям с малым числом параметров требуется более подробное руководство в запросе. По умолчанию выбрана Mistral-7B-Instruct-v0.1, её можно заменить на другую языковую модель, поддерживаемую Hugging Face. Для работы нужна версия n8n 1.19.4 или выше.

Как работает workflow по шагам

  1. Chat Trigger запускает workflow, когда поступает новое сообщение в ручном чате.
  2. Basic LLM Chain передаёт текст сообщения модели по заданному запросу.
  3. Hugging Face Inference Model обрабатывает текст и возвращает ответ в чат.

Что нужно для запуска

  • Версия n8n 1.19.4 или выше
  • Доступ к Hugging Face и поддерживаемая им языковая модель

Что изменить под себя

  • В Basic LLM Chain меняется запрос, задающий обработку текста и направление ответа модели.
  • В узле Hugging Face Inference Model модель Mistral-7B-Instruct-v0.1 заменяется на другую поддерживаемую Hugging Face.
  • К workflow можно подключить дополнительные узлы, например Ollama.

Сервисы 1

  • Hugging Face Inference Model

Категории у источника: Разработка , ИИ-чат-боты

Узлы workflow 4

  • Sticky Note
  • Basic LLM Chain
  • Hugging Face Inference Model
  • Chat Trigger

Виды узлов, из которых собран сценарий, — как их перечисляет страница шаблона. Серым — служебные узлы n8n.

Автор и первоисточник

Сценарий «Use an open-source LLM (via HuggingFace)» опубликовал на n8n.io n8n Team. Файл шаблона и авторское описание — на странице шаблона.

Русское описание написано языковой моделью по странице шаблона и прошло автоматическую проверку: в нём нет сервисов и чисел, которых нет у автора. Сценарий принадлежит автору; каталог его не хранит.

Похожие шаблоны n8n

Спонсоры проекта

Компании, которые помогают держать аналитику открытой