# nemo-mbridge-perf-expert-parallel-overlap

Скилл для настройки и проверки перекрытия expert-parallel коммуникаций в Megatron-Bridge: диспетчеры alltoall и flex, DeepEP и HybridEP.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1800 установок · ★ 3735
- Автор: NVIDIA
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md
- Обновлён: 2026-10-23
- HTML: https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-expert-parallel-overlap

## Что делает

Скилл объясняет, как включить перекрытие all-to-all dispatch/combine в MoE-моделях Megatron-Bridge, чтобы коммуникация шла параллельно с вычислениями экспертного FFN. Внутри — два пути диспетчера: `alltoall` для широкой совместимости и `flex` с бэкендами DeepEP или HybridEP для большей экономии на Ampere, Hopper, B200, B300 и GB200/GB300 с NVL72.

Перед включением проверьте ограничения. Нужны `expert_model_parallel_size > 1`, `num_moe_experts > 1`, тип диспетчера `"alltoall"` или `"flex"`, базовая точность BF16 или FP16 и PyTorch `>= 2.6.0`. Полный recompute, `moe_shared_expert_overlap` и `mtp_num_layers` больше 1 несовместимы с перекрытием — это повод пересобрать конфиг до запуска, а не после.

Отложенный расчёт градиентов весов (`delay_wgrad_compute`) даёт дополнительное перекрытие, но требует уже работающего `overlap_moe_expert_parallel_comm` и в ряде случаев Transformer Engine >= 2.7.0 или >= 2.12.0. Скилл советует сначала прогнать чистый EP overlap, а delayed wgrad включать отдельным A/B.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-expert-parallel-overlap -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/nemo-mbridge-perf-expert-parallel-overlap/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-expert-parallel-overlap -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-expert-parallel-overlap -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install NVIDIA/skills nemo-mbridge-perf-expert-parallel-overlap
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-expert-parallel-overlap -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/NVIDIA/skills --path skills/nemo-mbridge-perf-expert-parallel-overlap
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-expert-parallel-overlap -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-expert-parallel-overlap/SKILL.md

## Когда брать
- включить перекрытие dispatch/combine в MoE-модели с EP > 1
- разобраться, когда брать alltoall, а когда flex с DeepEP или HybridEP
- найти причину падения throughput после правки конфига EP overlap
- проверить совместимость delayed wgrad с CUDA graph и Transformer Engine
- собрать минимальный рабочий конфиг перекрытия без полного recompute

## Примеры запросов агенту
- Проверь, можно ли включить overlap_moe_expert_parallel_comm в моём конфиге Megatron-Bridge
- Какой диспетчер выбрать для 16 H100: alltoall или flex с HybridEP?
- У меня просел throughput после включения delay_wgrad_compute — что проверить?

## Похожие
- [nemo-evaluator-sdk](https://affpapa.org/nevibecode/skills/nemo-evaluator-sdk.md) — скилл · 943 установки
- [nemo-guardrails](https://affpapa.org/nevibecode/skills/nemo-guardrails.md) — скилл · 944 установки
- [gke-ai-troubleshooting-tpu-partition-overlap](https://affpapa.org/nevibecode/skills/gke-ai-troubleshooting-tpu-partition-overlap.md) — скилл · 378 установок
- [high-perf-browser](https://affpapa.org/nevibecode/skills/high-perf-browser.md) — скилл · 5300 установок
- [parallel-ci-triage](https://affpapa.org/nevibecode/skills/parallel-ci-triage.md) — скилл · 403 установки
- [build-perf-diagnostics](https://affpapa.org/nevibecode/skills/build-perf-diagnostics.md) — скилл · 3500 установок

Из того же набора: [nvidia/skills](https://affpapa.org/nevibecode/by/nvidia/skills.md) — 194 карточки

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md