megatron-memory-estimator — скилл для Claude Code: оценка памяти
Скилл megatron-memory-estimator оценивает расход памяти GPU для плотных и MoE-моделей Megatron по конфигурации HuggingFace. Помогает проверить, поместится ли модель, и сравнить схемы параллелизма.
лицензия не указана ★ 158 обновлён 2026-07-09
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-codeЧто делает megatron-memory-estimator
Скилл запускает оценку по пути модели HuggingFace или локальному config.json. Основной скрипт scripts/estimate_from_hf.py преобразует конфигурацию в формат Megatron и рассчитывает память для заданных параметров обучения. Результат можно вывести в JSON или с подробной разбивкой по модели.
Для расчёта задают TP, PP, EP и CP, число GPU, размер микробатча и длину последовательности. Можно сравнивать конфигурации, включать пересчёт активаций через --recompute-granularity и проверять пиковую память на GPU. Для MoE доступен учёт экспертного параллелизма.
Если число слоёв не делится поровну между стадиями PP, нужно задать число слоёв на первой или последней стадии. Это важно для оценки: без такого распределения конфигурация модели может не соответствовать выбранному pipeline parallelism.
Какие задачи решает
- Оценить память GPU по конфигурации HuggingFace
- Проверить, помещается ли модель в доступную GPU-память
- Сравнить варианты TP, PP, EP и CP
- Подобрать параметры обучения с пересчётом активаций
Примеры запросов агенту
- Оцени память для
deepseek-ai/DeepSeek-V3на 128 GPU с TP 4, PP 4 и EP 8. - Посчитай расход памяти для локального
config.jsonс TP 2 и PP 2. - Сравни конфигурации параллелизма для
Qwen/Qwen3-235B-A22Bи выведи результат в JSON.
Как установить megatron-memory-estimator
1Через Skills CLI (Vercel)
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code2Вручную: положить файлы
~/.claude/skills/megatron-memory-estimator/SKILL.mdПапка скилла целиком; для одного проекта — .claude/skills/megatron-memory-estimator/
1Через Skills CLI (Vercel)
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a codex2Вручную: положить файлы
.agents/skills/megatron-memory-estimator/SKILL.mdДля всех проектов — ~/.agents/skills/
1Через Skills CLI (Vercel)
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a cursor2Вручную: положить файлы
.cursor/skills/megatron-memory-estimator/SKILL.mdCursor читает и .agents/skills/, и .claude/skills/
1GitHub CLI
gh skill install yzlnew/infra-skills megatron-memory-estimator2Вручную: положить файлы
.github/skills/megatron-memory-estimator/SKILL.md1Через Skills CLI (Vercel)
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a gemini-cli2Командой платформы
gemini skills install https://github.com/yzlnew/infra-skills --path megatron-memory-estimatorВручную: положить файлы
.devin/skills/megatron-memory-estimator/SKILL.mdСтарый путь .windsurf/skills/ тоже читается
Claude.ai
Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills
По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов
Вопросы о megatron-memory-estimator
Как установить megatron-memory-estimator в Claude Code?
Выполните npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code. Файл скилла находится по пути ~/.claude/skills/megatron-memory-estimator/SKILL.md.
Что делает megatron-memory-estimator?
Он оценивает память GPU для плотных и MoE-моделей Megatron по конфигурации HuggingFace или локальному config.json. Можно сравнить параллелизм и посмотреть пиковую память на GPU.
Что делать, если число слоёв не делится на PP?
Укажите число слоёв на первой или последней стадии через --num-layers-in-first-pipeline-stage или --num-layers-in-last-pipeline-stage.