# megatron-memory-estimator

Скилл megatron-memory-estimator оценивает расход памяти GPU для плотных и MoE-моделей Megatron по конфигурации HuggingFace. Помогает проверить, поместится ли модель, и сравнить схемы параллелизма.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, Windsurf (Devin Desktop), Claude.ai · ★ 158 у репозитория
- Автор: yzlnew
- Лицензия: не указана · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/yzlnew/infra-skills/tree/HEAD/megatron-memory-estimator/SKILL.md
- Обновлён: 2026-07-09
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/megatron-memory-estimator

## Что делает

Скилл запускает оценку по пути модели HuggingFace или локальному `config.json`. Основной скрипт `scripts/estimate_from_hf.py` преобразует конфигурацию в формат Megatron и рассчитывает память для заданных параметров обучения. Результат можно вывести в JSON или с подробной разбивкой по модели.

Для расчёта задают TP, PP, EP и CP, число GPU, размер микробатча и длину последовательности. Можно сравнивать конфигурации, включать пересчёт активаций через `--recompute-granularity` и проверять пиковую память на GPU. Для MoE доступен учёт экспертного параллелизма.

Если число слоёв не делится поровну между стадиями PP, нужно задать число слоёв на первой или последней стадии. Это важно для оценки: без такого распределения конфигурация модели может не соответствовать выбранному pipeline parallelism.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/megatron-memory-estimator/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/megatron-memory-estimator/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/megatron-memory-estimator/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/megatron-memory-estimator/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install yzlnew/infra-skills megatron-memory-estimator
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/megatron-memory-estimator/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/yzlnew/infra-skills --path megatron-memory-estimator
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/megatron-memory-estimator/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/yzlnew/infra-skills/tree/HEAD/megatron-memory-estimator/SKILL.md

## Когда брать
- Оценить память GPU по конфигурации HuggingFace
- Проверить, помещается ли модель в доступную GPU-память
- Сравнить варианты TP, PP, EP и CP
- Подобрать параметры обучения с пересчётом активаций

## Примеры запросов агенту
- Оцени память для `deepseek-ai/DeepSeek-V3` на 128 GPU с TP 4, PP 4 и EP 8.
- Посчитай расход памяти для локального `config.json` с TP 2 и PP 2.
- Сравни конфигурации параллелизма для `Qwen/Qwen3-235B-A22B` и выведи результат в JSON.

## Похожие
- [nemo-mbridge-perf-megatron-fsdp](https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-megatron-fsdp.md) — скилл · 1800 установок
- [nemo-mbridge-perf-moe-comm-overlap](https://affpapa.org/nevibecode/skills/nemo-mbridge-perf-moe-comm-overlap.md) — скилл · 1800 установок
- [memory-dispose-geometry](https://affpapa.org/nevibecode/rules/memory-dispose-geometry.md) — правило · ★ 4719 у репозитория
- [distributed-training-megatron-core](https://affpapa.org/nevibecode/skills/distributed-training-megatron-core.md) — скилл · 88 установок
- [miles-rl-training](https://affpapa.org/nevibecode/skills/miles-rl-training.md) — скилл · 1100 установок
- [amazon-sales-estimator](https://affpapa.org/nevibecode/skills/amazon-sales-estimator.md) — скилл · 1300 установок

Из того же набора: [yzlnew/infra-skills](https://affpapa.org/nevibecode/by/yzlnew/infra-skills.md) — 8 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
