# Onde Inference CLI: Fine-tune & Deploy Local LLMs

Onde Inference CLI — MCP-сервер для Claude Code, который помогает дообучать локальные Qwen через LoRA и экспортировать модели в GGUF. Агент также управляет приложениями и каталогом моделей Onde.

- MCP-сервер · `type=mcp` · Claude Code, Codex, Cursor, GitHub Copilot, Windsurf (Devin Desktop), Cline, Zed, Gemini CLI · ★ 6 у репозитория
- Автор: ondeinference
- Лицензия: Apache-2.0 · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/ondeinference/onde-cli
- Обновлён: 2026-11-17
- Проверка безопасности: автоматическая, 2026-11-17 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/mcp/onde-inference-cli-fine-tune-deploy-local-llms

## Что делает

Onde Inference CLI запускает локальный клиент Onde Inference как MCP-сервер для агентов. Он управляет аккаунтом, приложениями и каталогом моделей, а также запускает дообучение Qwen через LoRA и экспортирует результат в GGUF.

Для работы с терминала доступны режимы `onde --tui` и `onde --mcp`: первый открывает интерфейс для входа и управления, второй поднимает MCP-сервер через stdio. Подключение к Claude Code выполняется через `npx -y @ondeinference/cli`; для входа нужен аккаунт Onde Inference.

## Требования
- Нужно: Node.js (команды через npx)

## Установка

### Claude Code (родная платформа)

**Командой платформы**
```bash
claude mcp add onde-inference-cli-fine-tune-deploy-local-llms -- npx -y @ondeinference/cli
```

### Codex

**Командой платформы**
```bash
codex mcp add onde-inference-cli-fine-tune-deploy-local-llms -- npx -y @ondeinference/cli
```

### Cursor

**Файл настроек**
Файл `.cursor/mcp.json`:
```json
{
    "mcpServers": {
        "onde-inference-cli-fine-tune-deploy-local-llms": {
            "command": "npx",
            "args": [
                "-y",
                "@ondeinference/cli"
            ]
        }
    }
}
```

### GitHub Copilot

**Файл настроек**
Файл `.vscode/mcp.json`:
```json
{
    "servers": {
        "onde-inference-cli-fine-tune-deploy-local-llms": {
            "type": "stdio",
            "command": "npx",
            "args": [
                "-y",
                "@ondeinference/cli"
            ]
        }
    }
}
```

### Gemini CLI

**Командой платформы**
```bash
gemini mcp add onde-inference-cli-fine-tune-deploy-local-llms npx -y @ondeinference/cli
```

## Когда брать
- дообучить локальную модель Qwen через LoRA
- экспортировать дообученную модель в GGUF
- управлять приложениями Onde из агента
- просматривать каталог моделей Onde
- подключить Onde Inference к Claude Code через MCP

## Примеры запросов агенту
- Дообучи локальную модель Qwen через LoRA для этого проекта.
- Экспортируй результат дообучения в формат GGUF.
- Покажи приложения и модели, доступные в Onde Inference.

## Похожие
- [jetson-inference-mem-tune](https://affpapa.org/nevibecode/skills/jetson-inference-mem-tune.md) — скилл · 1200 установок
- [llm-fine-tuning](https://affpapa.org/nevibecode/skills/llm-fine-tuning.md) — скилл · 353 установки
- [serving-llms-on-epyc](https://affpapa.org/nevibecode/skills/serving-llms-on-epyc.md) — скилл · 1300 установок
- [serving-llms-on-instinct](https://affpapa.org/nevibecode/skills/serving-llms-on-instinct.md) — скилл · 1300 установок
- [gke-inference](https://affpapa.org/nevibecode/skills/gke-inference.md) — скилл · 6791 установка
- [tao-run-inference-service](https://affpapa.org/nevibecode/skills/tao-run-inference-service.md) — скилл · 1600 установок

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
