# inference-serving-vllm

Скилл для Claude, который помогает разворачивать модели на vLLM: сервер с OpenAI-совместимым API, батчевый инференс и квантизация.

- скилл · `type=skill` · Claude Code · 70 установок
- Автор: Orchestra Research
- Лицензия: MIT · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/davila7/claude-code-templates/tree/HEAD/cli-tool/components/skills/ai-research/inference-serving-vllm
- Обновлён: 2026-10-24
- HTML: https://affpapa.org/nevibecode/skills/inference-serving-vllm

## Что делает

Скилл описывает работу с vLLM — библиотекой для обслуживания больших языковых моделей. Внутри три сценария: развёртывание продакшен-API, офлайн-обработка больших наборов промптов и запуск квантованных моделей, когда видеопамяти мало. Для каждого шага даны команды `vllm serve` с флагами памяти, длины контекста и порта.

Отдельно разобраны квантизация GPTQ, AWQ и FP8, тензорный параллелизм для моделей на несколько GPU и метрики Prometheus на порту 9090. Есть чек-листы: настроить сервер, прогнать нагрузочный тест, включить мониторинг, выкатить в прод. В разделе про проблемы — что делать при нехватке памяти.

Скилл опирается на пакеты `vllm`, `torch` и `transformers`, их нужно поставить заранее. Для тензорного параллелизма и квантизации нужны подходящие GPU: без нескольких карт флаг `--tensor-parallel-size` не даст того, ради чего его ставят. Часть текста посвящена сравнению с llama.cpp, TensorRT-LLM и обычными transformers — это помогает выбрать инструмент, а не тянуть vLLM везде.

## Установка

### Claude Code (родная платформа)

1. **Через claude-code-templates**
```bash
npx claude-code-templates@latest --skill ai-research/inference-serving-vllm
```

2. **Через Skills CLI (Vercel)**
```bash
npx skills add davila7/claude-code-templates --skill inference-serving-vllm -a claude-code
```

3. **Вручную: положить файлы**
- Файл: `~/.claude/skills/inference-serving-vllm/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/inference-serving-vllm/

### Codex

**Вручную: положить файлы**
- Файл: `.agents/skills/inference-serving-vllm/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

**Вручную: положить файлы**
- Файл: `.cursor/skills/inference-serving-vllm/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install davila7/claude-code-templates inference-serving-vllm
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/inference-serving-vllm/SKILL.md`

### Gemini CLI

**Командой платформы**
```bash
gemini skills install https://github.com/davila7/claude-code-templates --path cli-tool/components/skills/ai-research/inference-serving-vllm
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/inference-serving-vllm/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/davila7/claude-code-templates/tree/HEAD/cli-tool/components/skills/ai-research/inference-serving-vllm

## Когда брать
- поднять OpenAI-совместимый сервер поверх локальной модели
- уместить 70B-модель в ограниченную видеопамять через квантизацию
- прогнать батч промптов из файла без серверной обвязки
- настроить мониторинг latency и загрузки KV-кэша
- выбрать между vLLM, llama.cpp и TensorRT-LLM под свою задачу

## Примеры запросов агенту
- Разверни vLLM-сервер для `meta-llama/Llama-3-8B-Instruct` на порту 8000 с включённым prefix caching
- Помоги запустить 70B-модель в AWQ на четырёх GPU через tensor parallelism
- Сделай офлайн-инференс по списку промптов из `prompts.txt` и сохрани результат в `results.jsonl`

## Похожие
- [benchmark-vllm-model](https://affpapa.org/nevibecode/skills/benchmark-vllm-model.md) — скилл · 837 установок
- [vllm-server](https://affpapa.org/nevibecode/skills/vllm-server.md) — скилл · 314 установок
- [serving-llms-on-instinct](https://affpapa.org/nevibecode/skills/serving-llms-on-instinct.md) — скилл · 878 установок
- [serving-llms-on-epyc](https://affpapa.org/nevibecode/skills/serving-llms-on-epyc.md) — скилл · 819 установок
- [hf-cloud-serving-image-selection](https://affpapa.org/nevibecode/skills/hf-cloud-serving-image-selection.md) — скилл · 544 установки
- [jetson-inference-mem-tune](https://affpapa.org/nevibecode/skills/jetson-inference-mem-tune.md) — скилл · 1200 установок

Из того же набора: [davila7/claude-code-templates](https://affpapa.org/nevibecode/by/davila7/claude-code-templates.md) — 361 карточка

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md