Nodegrove VRAM: can I run it? — MCP-сервер для Claude Code
Считает, поместится ли открытая LLM в память вашей видеокарты, какой контекст влезет и что взять вместо неё. Пригодится перед запуском модели локально.
claude mcp add --transport http vram-mcp https://mcp.nodegrove.io/mcpЧто делает Nodegrove VRAM: can I run it?
Сервер отвечает на вопрос вроде «потянет ли RTX 4090 Llama 3.3 70B с контекстом 32k» и раскладывает ответ по полям: помещается, впритык или нет, сколько уйдёт на веса, KV-кэш и накладные расходы, какой будет потолок скорости и до какой длины контекста хватит. Если не влезает, перечисляет варианты, при которых влезет. Модели принимает как их обычно пишут или как id репозитория на Hugging Face, карты — по имени либо по объёму памяти и пропускной способности.
Внутри шесть инструментов: can_i_run, what_fits, estimate_vram, estimate_from_hf_repo, list_models и list_gpus. Чужой репозиторий читается из его config.json, а ответ называет то, что модель не смогла учесть, вместо того чтобы додумать. Все инструменты только читают данные. Считать память сервер умеет по-разному для разных архитектур: у моделей со скользящим окном кэш упирается в окно, у гибридных он растёт лишь на слоях с полным вниманием, поэтому обычная формула для трансформера завысила бы расход в разы.
Удалённый вариант подключается по адресу https://mcp.nodegrove.io/mcp, аккаунт и ключ не нужны. Локальный поднимается через npx -y @nodegrove/vram-mcp, и ему требуется Node.js 20 или новее. Скорость в ответе — теоретический потолок для одного потока, а не замер: реальный рантайм окажется ниже, причём чем выше цифра, тем больше разрыв.
Какие задачи решает
- Понять, влезет ли модель в память карты до скачивания весов
- Подобрать длину контекста, при которой хватает VRAM
- Найти замену модели, которая не помещается
- Сравнить расход памяти на разных квантизациях
- Оценить карту, которую ещё нет в готовых таблицах
Примеры запросов агенту
- Поместится ли Qwen3 32B на 24 ГБ при контексте 64k?
- Что взять вместо Llama 3.3 70B, если у меня 16 ГБ?
- Сколько памяти нужно
Qwen/Qwen3-Next-80B-A3B-Instructв Q4_K_M?
Как установить Nodegrove VRAM: can I run it?
1Командой платформы: удалённый сервер
claude mcp add --transport http vram-mcp https://mcp.nodegrove.io/mcp2Командой платформы
claude mcp add nodegrove-vram-can-i-run-it -- npx -y @nodegrove/vram-mcp1Командой платформы: удалённый сервер
codex mcp add nodegrove-vram-can-i-run-it --url https://mcp.nodegrove.io/mcp2Командой платформы
codex mcp add nodegrove-vram-can-i-run-it -- npx -y @nodegrove/vram-mcpФайл настроек
{
"mcpServers": {
"nodegrove-vram-can-i-run-it": {
"url": "https://mcp.nodegrove.io/mcp"
}
}
}{
"mcpServers": {
"nodegrove-vram-can-i-run-it": {
"command": "npx",
"args": [
"-y",
"@nodegrove/vram-mcp"
]
}
}
}Файл настроек
{
"servers": {
"nodegrove-vram-can-i-run-it": {
"type": "http",
"url": "https://mcp.nodegrove.io/mcp"
}
}
}{
"servers": {
"nodegrove-vram-can-i-run-it": {
"type": "stdio",
"command": "npx",
"args": [
"-y",
"@nodegrove/vram-mcp"
]
}
}
}1Командой платформы: удалённый сервер
gemini mcp add -t http nodegrove-vram-can-i-run-it https://mcp.nodegrove.io/mcp2Командой платформы
gemini mcp add nodegrove-vram-can-i-run-it npx -y @nodegrove/vram-mcpПо шагам, с командами для каждой платформы: Как подключить MCP-сервер: Claude Code, Codex, Cursor, VS Code, Gemini CLI и другие
Вопросы о Nodegrove VRAM: can I run it?
Как установить Nodegrove VRAM: can I run it? в Claude Code?
Добавьте удалённый сервер командой claude mcp add --transport http nodegrove-vram-can-i-run-it https://mcp.nodegrove.io/mcp. Либо поставьте локальную версию: claude mcp add nodegrove-vram-can-i-run-it -- npx -y @nodegrove/vram-mcp.
Что делает этот сервер?
Считает по формуле, влезет ли открытая модель в память вашей карты, какой контекст она выдержит и с какой скоростью пойдёт. Если не влезает, показывает, что изменить.
Нужен ли ключ API?
Нет. Удалённый вариант работает без аккаунта и авторизации, локальному нужен только Node.js 20 или новее.
