Локальная переписка с Ollama в чате n8n
Сообщение из чата отправляется локальной языковой модели, а её ответ возвращается в интерфейс. В n8n Ollama связывается с чатом, чтобы обращаться к моделям на собственном оборудовании.
Оригинал на n8n.io: Chat with local LLMs using n8n and Ollama — Mihai Farcas
Открыть шаблон на n8n.io бесплатно- Сложность
- простой4 вида узлов
- Просмотров на n8n.io
- 233 614
- Опубликован
- Обновлён
- Автор
- Mihai Farcasпроверен n8n.io
- Сверено
Что делает шаблон
Чат n8n показывает ответ локальной языковой модели на сообщение пользователя. Данные передаются серверу Ollama, который работает на собственном оборудовании; такой способ подходит для приватного общения, экспериментов и прототипирования без текущих расходов на облачные API. Для работы Ollama должна быть установлена и запущена. Если адрес сервера отличается от адреса по умолчанию, его нужно изменить в настройках подключения.
Как работает workflow по шагам
- Триггер Chat Trigger запускает workflow при получении сообщения в чате.
- Узел Basic LLM Chain передаёт текст сообщения модели и обрабатывает ответ.
- Узел Ollama Chat Model связывается с сервером Ollama и возвращает сгенерированный ответ в чат.
Что нужно для запуска
- Установленная и запущенная Ollama.
- Доступ к серверу Ollama с моделями на локальном оборудовании.
Что изменить под себя
- Адрес сервера Ollama меняется в настройках узла, если используется адрес, отличный от адреса по умолчанию.
Кому подойдёт
Подходит для приватного общения с локальными моделями, экспериментов с ними и прототипирования приложений с ИИ без облачных API.
Сервисы 1
- Ollama
Категории у источника: Разработка , ИИ-чат-боты
Узлы workflow 4
- Sticky Note
- Basic LLM Chain
- Ollama Chat Model
- Chat Trigger
Виды узлов, из которых собран сценарий, — как их перечисляет страница шаблона. Серым — служебные узлы n8n.
Автор и первоисточник
Сценарий «Chat with local LLMs using n8n and Ollama» опубликовал на n8n.io Mihai Farcas. Файл шаблона и авторское описание — на странице шаблона.
Русское описание написано языковой моделью по странице шаблона и прошло автоматическую проверку: в нём нет сервисов и чисел, которых нет у автора. Сценарий принадлежит автору; каталог его не хранит.