# nemo-mbridge-perf-cuda-graphs

Скилл nemo-mbridge-perf-cuda-graphs настраивает CUDA-графы в Megatron Bridge: локальный граф на всю итерацию или scoped-графы Transformer Engine для attention, MLP и MoE.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 1900 установок · ★ 4106 у репозитория
- Автор: NVIDIA
- Лицензия: Apache-2.0 · policy=mirror · лицензия открытая, файл — в исходнике
- Исходник: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md
- Обновлён: 2026-10-23
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-cuda-graphs

## Что делает

CUDA-графы захватывают операции GPU один раз и воспроизводят их с минимальными затратами на хост-драйвер. Bridge поддерживает две реализации: `"local"` через MCore `FullCudaGraphWrapper`, оборачивающий весь forward и backward, и `"transformer_engine"` через TE `make_graphed_callables()` для отдельных модулей — `attn`, `mlp`, `moe`, `moe_router`, `moe_preprocess`, `mamba`.

Скилл подсказывает, с чего начать: для большинства тренировочных задач хватит TE-scoped графов, для dense-моделей это `attn` и опционально `mlp`, для dropless MoE — `attn moe_router moe_preprocess`. Локальный граф на `full_iteration` стоит брать только когда нужен именно полный захват и вы готовы к жёстким ограничениям.

Ограничений хватает. `use_te_rng_tracker` обязателен, `full_iteration` требует отключить `check_for_nan_in_loss`, нельзя совмещать `moe` и `moe_router`, формы тензоров должны быть статичными, CPU offloading несовместим с графами. Ещё нюанс: с `PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True` нужно ставить `NCCL_GRAPH_REGISTER=0`, иначе упадёте на ассерте. Порядок запуска в скилле простой: сначала стабилизировать eager-прогон, зафиксировать длину последовательности и micro-batch size, включить самый узкий scope и только потом расширять.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-cuda-graphs -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/nemo-mbridge-perf-cuda-graphs/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-cuda-graphs -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-cuda-graphs -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install NVIDIA/skills skills/nemo-mbridge-perf-cuda-graphs
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-cuda-graphs -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/NVIDIA/skills --path skills/nemo-mbridge-perf-cuda-graphs
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-cuda-graphs -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-cuda-graphs/SKILL.md

## Когда брать
- снизить накладные расходы хост-драйвера через CUDA-графы
- выбрать между local full-iteration и TE scoped графами
- собрать корректный конфиг для dense-модели
- собрать конфиг для dropless MoE с правильным scope
- найти причину падения после изменения настроек CUDA-графов

## Примеры запросов агенту
- Настрой CUDA-графы для dropless MoE модели, начни с узкого scope
- Объясни, какие ограничения у local full_iteration графа в Megatron Bridge
- Покажи порядок включения CUDA-графов после стабильного eager-прогона

## Похожие
- [nvidia-cuda](https://affpapa.org/nevibecode/skills/nvidia-cuda.md) — скилл · 463 установки
- [cuda](https://affpapa.org/nevibecode/skills/cuda.md) — скилл · 412 установок
- [cuda-profiling](https://affpapa.org/nevibecode/skills/cuda-profiling.md) — скилл · 410 установок
- [nemo-guardrails](https://affpapa.org/nevibecode/skills/nemo-guardrails.md) — скилл · 1100 установок
- [nemo-evaluator-sdk](https://affpapa.org/nevibecode/skills/nemo-evaluator-sdk.md) — скилл · 1100 установок
- [perf-theory-tester](https://affpapa.org/nevibecode/skills/perf-theory-tester.md) — скилл · 2300 установок

Из того же набора: [nvidia/skills](https://affpapa.org/nevibecode/by/nvidia/skills.md) — 312 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
