К основному содержанию
скилл CX Codex

megatron-memory-estimator — скилл для Claude Code: оценка памяти

Скилл megatron-memory-estimator оценивает расход памяти GPU для плотных и MoE-моделей Megatron по конфигурации HuggingFace. Помогает проверить, поместится ли модель, и сравнить схемы параллелизма.

лицензия не указана ★ 158 обновлён 2026-07-09

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code
Открыть на GitHub

Что делает megatron-memory-estimator

Скилл запускает оценку по пути модели HuggingFace или локальному config.json. Основной скрипт scripts/estimate_from_hf.py преобразует конфигурацию в формат Megatron и рассчитывает память для заданных параметров обучения. Результат можно вывести в JSON или с подробной разбивкой по модели.

Для расчёта задают TP, PP, EP и CP, число GPU, размер микробатча и длину последовательности. Можно сравнивать конфигурации, включать пересчёт активаций через --recompute-granularity и проверять пиковую память на GPU. Для MoE доступен учёт экспертного параллелизма.

Если число слоёв не делится поровну между стадиями PP, нужно задать число слоёв на первой или последней стадии. Это важно для оценки: без такого распределения конфигурация модели может не соответствовать выбранному pipeline parallelism.

Какие задачи решает

  • Оценить память GPU по конфигурации HuggingFace
  • Проверить, помещается ли модель в доступную GPU-память
  • Сравнить варианты TP, PP, EP и CP
  • Подобрать параметры обучения с пересчётом активаций

Примеры запросов агенту

  • Оцени память для deepseek-ai/DeepSeek-V3 на 128 GPU с TP 4, PP 4 и EP 8.
  • Посчитай расход памяти для локального config.json с TP 2 и PP 2.
  • Сравни конфигурации параллелизма для Qwen/Qwen3-235B-A22B и выведи результат в JSON.

Как установить megatron-memory-estimator

1Через Skills CLI (Vercel)

npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code

2Вручную: положить файлы

~/.claude/skills/megatron-memory-estimator/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/megatron-memory-estimator/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о megatron-memory-estimator

Как установить megatron-memory-estimator в Claude Code?

Выполните npx skills add yzlnew/infra-skills --skill megatron-memory-estimator -a claude-code. Файл скилла находится по пути ~/.claude/skills/megatron-memory-estimator/SKILL.md.

Что делает megatron-memory-estimator?

Он оценивает память GPU для плотных и MoE-моделей Megatron по конфигурации HuggingFace или локальному config.json. Можно сравнить параллелизм и посмотреть пиковую память на GPU.

Что делать, если число слоёв не делится на PP?

Укажите число слоёв на первой или последней стадии через --num-layers-in-first-pipeline-stage или --num-layers-in-last-pipeline-stage.

Похожие скиллы

Все скиллы по теме «ИИ и ML» →
nemo-mbridge-perf-megatron-fsdp NVIDIA Скилл nemo-mbridge-perf-megatron-fsdp помогает включить Megatron FSDP в Megatron-Bridge. Настраивает шардирование, чекпоинты и помогает обойти ошибки несовместимости параметров. CX Codex +1 1 800установок nemo-mbridge-perf-moe-comm-overlap NVIDIA Скилл nemo-mbridge-perf-moe-comm-overlap по перекрытию expert-parallel коммуникаций в Megatron Bridge: настройка dispatch/combine, flex-диспетчер и планирование expert wgrad. CX Codex +1 1 800установок memory-dispose-geometry zebbern Правило memory-dispose-geometry для Claude Code напоминает освобождать геометрию при удалении объектов из сцены. Оно срабатывает при работе с ресурсами Three.js. CX Codex +1 ★ 4 719звёзд репо distributed-training-megatron-core Orchestra Research Скилл distributed-training-megatron-core для обучения больших языковых моделей на NVIDIA Megatron-Core: подбирает стратегию параллелизма и собирает команду запуска. CX Codex +1 88установок miles-rl-training Orchestra Research Скилл miles-rl-training для Claude Code ведёт агента по RL-обучению больших MoE-моделей на фреймворке miles: FP8, INT4, спекулятивный rollout на GPU H100/H200. CX Codex +1 1 100установок amazon-sales-estimator nexscope-ai Скилл amazon-sales-estimator для Claude Code и Codex, оценивает объёмы продаж на Amazon по BSR, ASIN или ключевому слову на 12 маркетплейсах без API-ключей. CX Codex +1 1 300установок

Из того же набора8

tikz-flowchart Скилл tikz-flowchart помогает генерировать блок-схемы и архитектурные диаграммы на LaTeX TikZ с готовыми темами оформления. CX Codex +1 ★ 158звёзд репо openai-dotcom-viz Скилл openai-dotcom-viz для Claude Code создаёт столбчатые диаграммы и блок-схемы в визуальном стиле OpenAI для статей, презентаций и веб-страниц. CX Codex +1 ★ 158звёзд репо html-flowchart-anthropic Скилл html-flowchart-anthropic рисует блок-схемы, деревья решений и пайплайны как самостоятельные .html на чистом HTML/CSS — с тёплым фоном, пастельными узлами и тонкими ортогональными стрелками. CX Codex +1 ★ 158звёзд репо hf-architecture-tikz Скилл hf-architecture-tikz генерирует вертикальные схемы архитектуры декодерных LLM из HuggingFace в формате TikZ с точными формулами и числом параметров. CX Codex +1 ★ 158звёзд репо tilelang-developer Скилл tilelang-developer для Claude Code помогает писать и отлаживать GPU-ядра на TileLang. Включается для оптимизации операторов и переноса кода между GPU-платформами. CX Codex +1 ★ 158звёзд репо slime-user Скилл slime-user для Claude Code — справочник по пост-тренингу моделей с подкреплением в SLIME: настройке GRPO и PPO, бэкендов Megatron и FSDP и вызова инструментов. CX Codex +1 ★ 158звёзд репо material-you-slides Скилл material-you-slides для Claude Code и Codex создаёт HTML-презентации в стиле Material Design 3 с титульными и разделительными слайдами, карточками и схемами. Объединяет слайды колоды единым визуальным стилем. CX Codex +1 ★ 158звёзд репо

Спонсоры проекта

Компании, которые помогают держать аналитику открытой