FitLLM — MCP-сервер для Claude Code: что делает и как установить
Один вызов из агента показывает, влезет ли локальная LLM в память GPU, нескольких видеокарт или Mac, и что поменять, если нет.
claude mcp add --transport http fitllm https://fitllm.run/api/mcpЧто делает FitLLM
FitLLM отвечает на вопрос «поместится ли модель». Вы называете модель и железо, сервер считает по архитектуре, сколько памяти уйдёт на веса и KV-кэш, и выдаёт вердикт. Железом может быть одна видеокарта, связка из нескольких GPU или Mac на Apple Silicon.
Подключается как удалённый MCP-сервер по Streamable HTTP, локально ставить ничего не нужно. Внутри три инструмента: check_llm_fit проверяет одну модель и подсказывает правку, если не влезает; what_fits_on_hardware ранжирует модели, которые потянет ваша машина; list_supported отдаёт встроенные названия моделей и железа.
Сервер только читает, состояния не хранит и логина не просит. Поэтому названия модели и железа уходят на внешний fitllm.run. Если агент не находит модель или видеокарту, сначала вызовите list_supported.
Какие задачи решает
- проверить до скачивания, влезет ли модель в вашу видеокарту
- узнать, какие локальные модели потянет Mac
- понять, что поменять, если модель не помещается
- прикинуть память на связке из нескольких GPU
- посмотреть, какие названия моделей и железа понимает проверка
Примеры запросов агенту
- Спроси у fitllm, влезет ли Gemma 4 12b в RTX 4090
- Через fitllm подбери модели, которые поместятся на мой Mac
- Вызови
list_supportedиз fitllm и покажи, какие видеокарты он знает
Как установить FitLLM
Командой платформы: удалённый сервер
claude mcp add --transport http fitllm https://fitllm.run/api/mcpКомандой платформы: удалённый сервер
codex mcp add fitllm --url https://fitllm.run/api/mcpФайл настроек
{
"mcpServers": {
"fitllm": {
"url": "https://fitllm.run/api/mcp"
}
}
}Файл настроек
{
"servers": {
"fitllm": {
"type": "http",
"url": "https://fitllm.run/api/mcp"
}
}
}Командой платформы: удалённый сервер
gemini mcp add -t http fitllm https://fitllm.run/api/mcpПо шагам, с командами для каждой платформы: Как подключить MCP-сервер: Claude Code, Codex, Cursor, VS Code, Gemini CLI и другие
Вопросы о FitLLM
Как установить FitLLM в Claude Code?
Выполните claude mcp add --transport http fitllm https://fitllm.run/api/mcp. Сервер удалённый, ничего больше ставить не надо.
Что делает FitLLM?
По архитектуре модели он считает память под веса и KV-кэш и говорит, помещается ли модель на ваше железо. Если нет, check_llm_fit подсказывает, что поменять.
Нужен ли ключ или логин для FitLLM?
Нет, сервер работает без авторизации, только читает данные и не хранит состояние.
