Чат с открытой языковой моделью Hugging Face — шаблон n8n
Текстовое сообщение запускает обработку в n8n, где Hugging Face Inference Model подключена к цепочке языковой модели и формирует ответ по заданному запросу.
Оригинал на n8n.io: Use an open-source LLM (via HuggingFace) — n8n Team
Открыть шаблон на n8n.io бесплатно- Сложность
- простой4 вида узлов
- Просмотров на n8n.io
- 43 478
- Опубликован
- Обновлён
- Автор
- n8n Teamпроверен n8n.io
- Сверено
Что делает шаблон
В чате появляется ответ открытой языковой модели на сообщение пользователя. Цепочка обрабатывает текст по заданному запросу; небольшим моделям с малым числом параметров требуется более подробное руководство в запросе. По умолчанию выбрана Mistral-7B-Instruct-v0.1, её можно заменить на другую языковую модель, поддерживаемую Hugging Face. Для работы нужна версия n8n 1.19.4 или выше.
Как работает workflow по шагам
- Chat Trigger запускает workflow, когда поступает новое сообщение в ручном чате.
- Basic LLM Chain передаёт текст сообщения модели по заданному запросу.
- Hugging Face Inference Model обрабатывает текст и возвращает ответ в чат.
Что нужно для запуска
- Версия n8n 1.19.4 или выше
- Доступ к Hugging Face и поддерживаемая им языковая модель
Что изменить под себя
- В Basic LLM Chain меняется запрос, задающий обработку текста и направление ответа модели.
- В узле Hugging Face Inference Model модель Mistral-7B-Instruct-v0.1 заменяется на другую поддерживаемую Hugging Face.
- К workflow можно подключить дополнительные узлы, например Ollama.
Сервисы 1
- Hugging Face Inference Model
Категории у источника: Разработка , ИИ-чат-боты
Узлы workflow 4
- Sticky Note
- Basic LLM Chain
- Hugging Face Inference Model
- Chat Trigger
Виды узлов, из которых собран сценарий, — как их перечисляет страница шаблона. Серым — служебные узлы n8n.
Автор и первоисточник
Сценарий «Use an open-source LLM (via HuggingFace)» опубликовал на n8n.io n8n Team. Файл шаблона и авторское описание — на странице шаблона.
Русское описание написано языковой моделью по странице шаблона и прошло автоматическую проверку: в нём нет сервисов и чисел, которых нет у автора. Сценарий принадлежит автору; каталог его не хранит.