# nemo-mbridge-perf-sequence-packing

Скилл для настройки packed sequences и длинноконтекстного обучения в Megatron-Bridge: офлайн-упаковка LLM, упаковка VLM на этапе collate, онлайн-упаковка Energon.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1800 установок · ★ 3735
- Автор: NVIDIA
- Лицензия: Apache-2.0 · policy=mirror · лицензия открытая, файл — в исходнике
- Исходник: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-sequence-packing/SKILL.md
- Обновлён: 2026-10-23
- HTML: https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-sequence-packing

## Что делает

Скилл помогает выставить конфигурацию упаковки последовательностей в Megatron-Bridge и не перепутать флаги. Внутри — готовые фрагменты конфигов: офлайн-упаковка для SFT LLM через `PackedSequenceSpecs`, in-batch packing для GPT SFT и поддерживаемых VLM, онлайн-упаковка Energon для Qwen-VL через `packing_buffer_size`. Отдельно разобран длинноконтекстный базовый вариант с `seq_length = 16384` и `context_parallel_size = 2`.

Офлайн-упаковка требует `micro_batch_size = 1` и согласованности размеров: `global_batch_size` делится на `data_parallel_size` без остатка и не меньше его. Длину пака скилл советует начать с 8192 токенов, а `pad_seq_to_mult` считать через `math.lcm` от CP- и SP-множителей — автоматически это значение не выводится, его надо задать явно и пересобрать данные после смены топологии. При включённых CUDA graphs нужна фиксированная ширина токенов, а `pad_cu_seqlens = True` требует файла метаданных рядом с упакованным датасетом: без него сработает assert в `src/megatron/bridge/data/datasets/sft.py`.

Онлайн-путь Energon не пишет офлайн-паки и оставляет исходные шарды WebDataset как есть. Он отвергает MTP, CUDA graphs, Qwen3-VL DistTrain и PP, а запрошенное перекрытие коммуникаций MoE expert-parallel отключает с предупреждением. `packing_buffer_size` считает подготовленные кандидаты на воркер, поэтому для видео и высокого разрешения скилл советует начать с 8–16 и следить за RSS воркеров.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-sequence-packing -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/nemo-mbridge-perf-sequence-packing/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/nemo-mbridge-perf-sequence-packing/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-sequence-packing -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/nemo-mbridge-perf-sequence-packing/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-sequence-packing -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/nemo-mbridge-perf-sequence-packing/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install NVIDIA/skills nemo-mbridge-perf-sequence-packing
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/nemo-mbridge-perf-sequence-packing/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-sequence-packing -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/NVIDIA/skills --path skills/nemo-mbridge-perf-sequence-packing
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/nemo-mbridge-perf-sequence-packing/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add NVIDIA/skills --skill nemo-mbridge-perf-sequence-packing -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/NVIDIA/skills/tree/HEAD/skills/nemo-mbridge-perf-sequence-packing/SKILL.md

## Когда брать
- включить офлайн-упаковку последовательностей для SFT LLM
- посчитать `pad_seq_to_mult` под конкретную топологию TP/CP/SP
- перейти на длинноконтекстное обучение с `seq_length = 16384`
- настроить онлайн-упаковку Energon для Qwen-VL без записи офлайн-паков
- проверить, какие режимы несовместимы с нативной упаковкой

## Примеры запросов агенту
- Включи офлайн-упаковку для SFT LLM: `micro_batch_size = 1`, `global_batch_size = 8`, `seq_length = 8192`
- Посчитай `pad_seq_to_mult` для CP=2 и TP=4 с включённым sequence parallel
- Настрой онлайн-упаковку Energon для Claude-VL с `packing_buffer_size = 16`

## Похожие
- [spark-training-gotchas](https://affpapa.org/nevibecode/skills/spark-training-gotchas.md) — скилл · 2500 установок
- [nemo-evaluator-sdk](https://affpapa.org/nevibecode/skills/nemo-evaluator-sdk.md) — скилл · 943 установки
- [nemo-guardrails](https://affpapa.org/nevibecode/skills/nemo-guardrails.md) — скилл · 944 установки
- [high-perf-browser](https://affpapa.org/nevibecode/skills/high-perf-browser.md) — скилл · 5300 установок
- [build-perf-diagnostics](https://affpapa.org/nevibecode/skills/build-perf-diagnostics.md) — скилл · 3500 установок
- [build-perf-baseline](https://affpapa.org/nevibecode/skills/build-perf-baseline.md) — скилл · 3500 установок

Из того же набора: [nvidia/skills](https://affpapa.org/nevibecode/by/nvidia/skills.md) — 194 карточки

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md