# choose-parallel-layout

Скилл choose-parallel-layout для Claude Code подбирает схему параллелизма по памяти на ранге и стоимости коллективных операций. Срабатывает при OOM, длинных последовательностях и настройке MoE или нескольких узлов.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, Windsurf (Devin Desktop), Claude.ai · ★ 99 у репозитория
- Автор: InfraRSI A0 (human-authored)
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/TokenRhythm/InfraRSI/tree/HEAD/skills/choose-parallel-layout/SKILL.md
- Обновлён: 2026-11-12
- Проверка безопасности: автоматическая, 2026-11-17 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/choose-parallel-layout

## Что делает

Скилл рассчитывает TP, PP, CP, EP, ETP, DP, размер микробатча и накопление градиента для заданного глобального батча. Он учитывает память каждого ранга, стоимость коллективных операций и допустимые группы процессов. Триггеры включают OOM, запас памяти менее 4 GiB, длинные последовательности от 32K токенов и многонодовый запуск.

Правила описывают память параметров, градиентов, оптимизатора и активаций, а также ограничения на параллелизм. Например, TP ограничен одним NVLink-узлом и значением 8; для SFT допустимы CP 1, 2 или 4. Скилл предлагает сначала добиться размещения с минимальной ценой по времени, затем убирать экономящие память настройки, если запас позволяет.

Для оценки используются поля отчёта о пиковом резервировании памяти, рангах, повторах аллокатора и времени шага. Полный прогон считают подходящим по памяти при нуле OOM, желательном нуле повторов аллокатора и запасе не менее 4 GiB на самом тесном ранге.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill choose-parallel-layout -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/choose-parallel-layout/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/choose-parallel-layout/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill choose-parallel-layout -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/choose-parallel-layout/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill choose-parallel-layout -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/choose-parallel-layout/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install TokenRhythm/InfraRSI skills/choose-parallel-layout
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/choose-parallel-layout/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill choose-parallel-layout -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/TokenRhythm/InfraRSI --path skills/choose-parallel-layout
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/choose-parallel-layout/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/TokenRhythm/InfraRSI/tree/HEAD/skills/choose-parallel-layout/SKILL.md

## Когда брать
- подобрать TP и DP под память каждого ранга
- снизить риск OOM при запуске MoE-модели
- оценить цену PP и накопления градиента
- проверить допустимость групп параллелизма

## Примеры запросов агенту
- Подбери TP, PP и DP для глобального батча с учётом памяти на каждом ранге.
- Разбери OOM на втором шаге и оцени память оптимизатора для экспертных параметров.
- Сравни варианты CP для последовательности длиной 32K токенов.

## Похожие
- [choose-your-parallel-api](https://affpapa.org/nevibecode/skills/choose-your-parallel-api.md) — скилл · 1600 установок
- [launchdarkly-metric-choose](https://affpapa.org/nevibecode/skills/launchdarkly-metric-choose.md) — скилл · 3300 установок
- [choose-zoom-approach](https://affpapa.org/nevibecode/skills/anthropics-choose-zoom-approach.md) — скилл · 2200 установок
- [flutter-build-responsive-layout](https://affpapa.org/nevibecode/skills/flutter-build-responsive-layout.md) — скилл · 46800 установок
- [flutter-fix-layout-issues](https://affpapa.org/nevibecode/skills/flutter-fix-layout-issues.md) — скилл · 43700 установок
- [golang-project-layout](https://affpapa.org/nevibecode/skills/golang-project-layout.md) — скилл · 42900 установок

Из того же набора: [tokenrhythm/infrarsi](https://affpapa.org/nevibecode/by/tokenrhythm/infrarsi.md) — 19 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
