# nemo-mbridge-perf-moe-comm-overlap

Скилл по перекрытию expert-parallel коммуникаций в Megatron Bridge: настройка dispatch/combine, flex-диспетчер и планирование expert wgrad.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1800 установок · ★ 3735
- Автор: NVIDIA
- Лицензия: Apache-2.0 · policy=mirror · лицензия открытая, файл — в исходнике
- Исходник: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md
- Обновлён: 2026-10-23
- HTML: https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-moe-comm-overlap

## Что делает

Скилл описывает, как включить перекрытие коммуникаций MoE в Megatron Bridge и как отладить просадку пропускной способности, если она пришла вместе с правкой конфига. Внутри — быстрый критерий применимости, список предпосылок, разбор взаимодействия с recompute и CUDA-графами, а также замеры на Qwen3 30B-A3B.

Включение делается через конфиг: `cfg.comm_overlap.overlap_moe_expert_parallel_comm = True`, при желании добавляется `cfg.comm_overlap.delay_wgrad_compute = True`, а `cfg.model.moe_shared_expert_overlap` нужно выставить в `False`. Нужны `expert_model_parallel_size > 1`, `num_moe_experts > 1`, тип диспетчера `"alltoall"` или `"flex"` и точность BF16 либо FP16. Если используется pipeline parallelism, обязателен VPP. Один только `moe_flex_dispatcher_backend` flex-диспетчер не включает — нужен ещё `moe_token_dispatcher_type = "flex"`.

Полный recompute с этим путём сочетается плохо, поэтому в скилле советуют selective recompute. Проверка простая: валидация в `comm_overlap.py` падает при невыполненных предпосылках, значит чистый старт уже говорит о том, что перекрытие работает. Замеры на 16 H100 дали снижение времени шага на 15.059% и рост пропускной способности на 17.729%, но авторы прямо пишут, что выигрыш зависит от нагрузки и на маленьких EP-запусках его может не быть.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-moe-comm-overlap -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/nemo-mbridge-perf-moe-comm-overlap/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-moe-comm-overlap -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-moe-comm-overlap -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install NVIDIA/skills nemo-mbridge-perf-moe-comm-overlap
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-moe-comm-overlap -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/NVIDIA/skills --path skills/nemo-mbridge-perf-moe-comm-overlap
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-moe-comm-overlap -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md

## Когда брать
- включить перекрытие dispatch и combine для expert-parallel MoE
- найти причину просадки пропускной способности после правки конфига перекрытия
- разобраться, почему flex-диспетчер не активируется от одного флага бэкенда
- согласовать перекрытие с планом recompute и CUDA-графами
- проверить предпосылки запуска до того, как гонять полный прогон

## Примеры запросов агенту
- Включи overlap MoE expert parallel comm и проверь, что все предпосылки выполнены
- У меня просела пропускная способность после смены конфига — разберись, связано ли это с comm-overlap
- Почему flex dispatcher не включается, хотя я задал moe_flex_dispatcher_backend

## Похожие
- [spark-training-gotchas](https://affpapa.org/nevibecode/skills/spark-training-gotchas.md) — скилл · 2500 установок
- [pytorch-fsdp2](https://affpapa.org/nevibecode/skills/pytorch-fsdp2.md) — скилл · 958 установок
- [nemo-evaluator-sdk](https://affpapa.org/nevibecode/skills/nemo-evaluator-sdk.md) — скилл · 943 установки
- [gpu-server-management](https://affpapa.org/nevibecode/skills/gpu-server-management.md) — скилл · 331 установка
- [cuda-profiling](https://affpapa.org/nevibecode/skills/cuda-profiling.md) — скилл · 316 установок
- [lingbot-map-3d-reconstruction](https://affpapa.org/nevibecode/skills/lingbot-map-3d-reconstruction.md) — скилл · 418 установок

Из того же набора: [nvidia/skills](https://affpapa.org/nevibecode/by/nvidia/skills.md) — 178 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md