# Nodegrove VRAM: can I run it?

Считает, поместится ли открытая LLM в память вашей видеокарты, какой контекст влезет и что взять вместо неё. Пригодится перед запуском модели локально.

- MCP-сервер · `type=mcp` · Claude Code, Codex, Cursor, GitHub Copilot, Windsurf (Devin Desktop), Cline, Zed, Gemini CLI
- Автор: nodegrove
- Лицензия: MIT · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/nodegrove/vram-mcp
- Обновлён: 2026-10-19
- HTML: https://affpapa.org/nevibecode/mcp/nodegrove-vram-can-i-run-it

## Что делает

Сервер отвечает на вопрос вроде «потянет ли RTX 4090 Llama 3.3 70B с контекстом 32k» и раскладывает ответ по полям: помещается, впритык или нет, сколько уйдёт на веса, KV-кэш и накладные расходы, какой будет потолок скорости и до какой длины контекста хватит. Если не влезает, перечисляет варианты, при которых влезет. Модели принимает как их обычно пишут или как id репозитория на Hugging Face, карты — по имени либо по объёму памяти и пропускной способности.

Внутри шесть инструментов: `can_i_run`, `what_fits`, `estimate_vram`, `estimate_from_hf_repo`, `list_models` и `list_gpus`. Чужой репозиторий читается из его `config.json`, а ответ называет то, что модель не смогла учесть, вместо того чтобы додумать. Все инструменты только читают данные. Считать память сервер умеет по-разному для разных архитектур: у моделей со скользящим окном кэш упирается в окно, у гибридных он растёт лишь на слоях с полным вниманием, поэтому обычная формула для трансформера завысила бы расход в разы.

Удалённый вариант подключается по адресу `https://mcp.nodegrove.io/mcp`, аккаунт и ключ не нужны. Локальный поднимается через `npx -y @nodegrove/vram-mcp`, и ему требуется Node.js 20 или новее. Скорость в ответе — теоретический потолок для одного потока, а не замер: реальный рантайм окажется ниже, причём чем выше цифра, тем больше разрыв.

## Требования
- Нужно: Node.js (команды через npx)
- Удалённый сервер: `https://mcp.nodegrove.io/mcp`

## Установка

### Claude Code (родная платформа)

1. **Командой платформы: удалённый сервер**
```bash
claude mcp add --transport http vram-mcp https://mcp.nodegrove.io/mcp
```

2. **Командой платформы**
```bash
claude mcp add nodegrove-vram-can-i-run-it -- npx -y @nodegrove/vram-mcp
```

### Codex

1. **Командой платформы: удалённый сервер**
```bash
codex mcp add nodegrove-vram-can-i-run-it --url https://mcp.nodegrove.io/mcp
```

2. **Командой платформы**
```bash
codex mcp add nodegrove-vram-can-i-run-it -- npx -y @nodegrove/vram-mcp
```

### Cursor

**Файл настроек**
Файл `.cursor/mcp.json`:
```json
{
    "mcpServers": {
        "nodegrove-vram-can-i-run-it": {
            "url": "https://mcp.nodegrove.io/mcp"
        }
    }
}
```
Файл `.cursor/mcp.json`:
```json
{
    "mcpServers": {
        "nodegrove-vram-can-i-run-it": {
            "command": "npx",
            "args": [
                "-y",
                "@nodegrove/vram-mcp"
            ]
        }
    }
}
```

### GitHub Copilot

**Файл настроек**
Файл `.vscode/mcp.json`:
```json
{
    "servers": {
        "nodegrove-vram-can-i-run-it": {
            "type": "http",
            "url": "https://mcp.nodegrove.io/mcp"
        }
    }
}
```
Файл `.vscode/mcp.json`:
```json
{
    "servers": {
        "nodegrove-vram-can-i-run-it": {
            "type": "stdio",
            "command": "npx",
            "args": [
                "-y",
                "@nodegrove/vram-mcp"
            ]
        }
    }
}
```

### Gemini CLI

1. **Командой платформы: удалённый сервер**
```bash
gemini mcp add -t http nodegrove-vram-can-i-run-it https://mcp.nodegrove.io/mcp
```

2. **Командой платформы**
```bash
gemini mcp add nodegrove-vram-can-i-run-it npx -y @nodegrove/vram-mcp
```

## Когда брать
- Понять, влезет ли модель в память карты до скачивания весов
- Подобрать длину контекста, при которой хватает VRAM
- Найти замену модели, которая не помещается
- Сравнить расход памяти на разных квантизациях
- Оценить карту, которую ещё нет в готовых таблицах

## Примеры запросов агенту
- Поместится ли Qwen3 32B на 24 ГБ при контексте 64k?
- Что взять вместо Llama 3.3 70B, если у меня 16 ГБ?
- Сколько памяти нужно `Qwen/Qwen3-Next-80B-A3B-Instruct` в Q4_K_M?

## Похожие
- [hf-mem](https://affpapa.org/nevibecode/skills/hf-mem.md) — скилл · 858 установок
- [FitLLM](https://affpapa.org/nevibecode/mcp/fitllm.md) — MCP-сервер · ★ 8
- [discovery](https://affpapa.org/nevibecode/skills/discovery.md) — скилл · 2600 установок
- [run-experiment](https://affpapa.org/nevibecode/skills/run-experiment.md) — скилл · 523 установки
- [huggingface-vision-trainer](https://affpapa.org/nevibecode/skills/huggingface-vision-trainer.md) — скилл · 1900 установок
- [tao-run-on-kubernetes](https://affpapa.org/nevibecode/skills/tao-run-on-kubernetes.md) — скилл · 1600 установок

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md