# nemo-mbridge-perf-tp-dp-comm-overlap

Скилл ведёт по настройке перекрытия коммуникаций TP, DP и PP в Megatron-Bridge: какие ручки крутить, где смотреть код и как проверить результат.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1800 установок · ★ 3735
- Автор: NVIDIA
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md
- Обновлён: 2026-10-23
- HTML: https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-tp-dp-comm-overlap

## Что делает

Скилл описывает, как включить перекрытие коммуникаций в Megatron-Bridge. Внутри — минимальный набор правок конфига, ссылки на участки кода, список типичных ошибок и команды для проверки.

Настройка идёт через `CommOverlapConfig`: `tp_comm_overlap=True`, а для DP нужны `use_distributed_optimizer`, `overlap_grad_reduce` и `overlap_param_gather`. Для TP есть готовый пресет `userbuffers_bf16_h100_h12288_tp4_mbs1_seqlen2048`. Точность задаётся отдельно, в mixed precision: `grad_reduce_in_fp32` и `fp8_param_gather`.

Главная ловушка: TP overlap молча отключается, если `sequence_parallel=False` или нет Transformer Engine. PP overlap включается автоматически только при `PP > 1` и `VPP > 1`. Ещё `bucket_size` считается в параметрах, а не в байтах. `CUDA_DEVICE_MAX_CONNECTIONS` и запас SM для LayerNorm задаются на старте плагина, а не в `CommOverlapConfig` — это повод проверить, где вы их прописали.

Проверка: `uv run python -m pytest tests/unit_tests/training/test_comm_overlap.py -q` должен дать `26 passed`. Вторая команда, `tests/unit_tests/recipes/test_run_plugins.py`, проверяет переменные окружения плагина, если доступен `nemo_run`.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-tp-dp-comm-overlap -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/nemo-mbridge-perf-tp-dp-comm-overlap/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-tp-dp-comm-overlap -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-tp-dp-comm-overlap -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install NVIDIA/skills nemo-mbridge-perf-tp-dp-comm-overlap
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-tp-dp-comm-overlap -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/NVIDIA/skills --path skills/nemo-mbridge-perf-tp-dp-comm-overlap
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-tp-dp-comm-overlap -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-tp-dp-comm-overlap/SKILL.md

## Когда брать
- включить перекрытие коммуникаций TP, DP и PP в Megatron-Bridge
- найти причину падения пропускной способности после правки конфига overlap
- понять, почему TP overlap отключился сам
- выставить bucket_size для DP overlap без ошибки в единицах
- проверить, что переменные окружения плагина подхватились на старте

## Примеры запросов агенту
- включи TP, DP и PP overlap в Megatron-Bridge и покажи минимальный конфиг
- почему упала пропускная способность после того, как я поменял настройки comm overlap
- прогони тесты test_comm_overlap.py и скажи, что не так с моим конфигом

## Похожие
- [pytorch-fsdp2](https://affpapa.org/nevibecode/skills/pytorch-fsdp2.md) — скилл · 958 установок
- [runpod-templates](https://affpapa.org/nevibecode/skills/runpod-templates.md) — скилл · 10100 установок
- [nemo-evaluator-sdk](https://affpapa.org/nevibecode/skills/nemo-evaluator-sdk.md) — скилл · 943 установки
- [vast-gpu](https://affpapa.org/nevibecode/skills/vast-gpu.md) — скилл · 453 установки
- [spark-training-gotchas](https://affpapa.org/nevibecode/skills/spark-training-gotchas.md) — скилл · 2500 установок
- [benchmark-model](https://affpapa.org/nevibecode/skills/benchmark-model.md) — скилл · 887 установок

Из того же набора: [nvidia/skills](https://affpapa.org/nevibecode/by/nvidia/skills.md) — 178 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md