# run-benchmark

Скилл run-benchmark для Claude Code запускает replay-бенчмарк Evolving Infra, оценивает результат и сравнивает его с эталоном. Срабатывает на просьбу воспроизвести результаты статьи или проверить изменение в бенчмарке.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, Windsurf (Devin Desktop), Claude.ai · ★ 173 у репозитория
- Автор: mit-han-lab
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/mit-han-lab/EvolvingInfra/tree/HEAD/skills/run-benchmark/SKILL.md
- Обновлён: 2026-11-16
- Проверка безопасности: автоматическая, 2026-11-17 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/run-benchmark

## Что делает

Скилл запускает replay-бенчмарк для `claude-code`, `putnam` или `osworld`, оценивает прогон и сопоставляет его с эталонными результатами. На выходе он формирует строку с параметрами запуска и таблицу по окнам: запросы в секунду, попадания в префиксный кэш, задержки и ошибки. Также выводит времена переключения и команду воспроизведения.

Для запуска нужны конфигурация, модель и параметры кластера: аккаунт Slurm, раздел и образ среды выполнения. Скрипт `examples/slurm/submit.py` отправляет задачу Slurm; результаты пишутся в каталог запуска. Задание занимает девять GPU-узлов примерно на два часа, поэтому перед отправкой нужно получить согласие владельца. Без Slurm стек запускают через скилл `deploy-stack`, затем выполняют команды воспроизведения и подсчёта.

Прогон сравнивают с эталоном на одинаковом временном окне и с тем же P/D-разбиением. Если проверка не проходит, скилл не сравнивает результаты; для поиска причины сбоя или замедления предусмотрен `diagnose-run`.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add mit-han-lab/EvolvingInfra --skill run-benchmark -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/run-benchmark/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/run-benchmark/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add mit-han-lab/EvolvingInfra --skill run-benchmark -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/run-benchmark/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add mit-han-lab/EvolvingInfra --skill run-benchmark -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/run-benchmark/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install mit-han-lab/EvolvingInfra skills/run-benchmark
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/run-benchmark/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add mit-han-lab/EvolvingInfra --skill run-benchmark -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/mit-han-lab/EvolvingInfra --path skills/run-benchmark
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/run-benchmark/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/mit-han-lab/EvolvingInfra/tree/HEAD/skills/run-benchmark/SKILL.md

## Когда брать
- воспроизвести результаты бенчмарка из статьи
- оценить производительность изменения в проекте
- сравнить прогон с эталоном на одинаковых окнах
- собрать таблицу производительности для pull request

## Примеры запросов агенту
- Воспроизведи результаты статьи для `claude-code` и сравни прогон с эталоном.
- Проведи бенчмарк изменения с конфигурацией `examples/gb300/glm52.yaml`.
- Собери для pull request таблицу производительности по результатам прогона.

## Похожие
- [benchmark-vllm-model](https://affpapa.org/nevibecode/skills/benchmark-vllm-model.md) — скилл · 1900 установок
- [benchmark-model](https://affpapa.org/nevibecode/skills/benchmark-model.md) — скилл · 1000 установок
- [benchmark-kernel](https://affpapa.org/nevibecode/skills/benchmark-kernel.md) — скилл · 1 установка
- [benchmark-checklist](https://affpapa.org/nevibecode/skills/benchmark-checklist.md) — скилл · 9100 установок
- [benchmark](https://affpapa.org/nevibecode/skills/benchmark.md) — скилл · 6200 установок
- [android-benchmark-comparison](https://affpapa.org/nevibecode/skills/android-benchmark-comparison.md) — скилл · 559 установок

Из того же набора: [mit-han-lab/evolvinginfra](https://affpapa.org/nevibecode/by/mit-han-lab/evolvinginfra.md) — 7 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
