distributed-training-pytorch-fsdp — скилл для Claude Code: установка
Скилл помогает разбирать и внедрять распределённое обучение с PyTorch FSDP. Он пригодится при настройке шардинга параметров, mixed precision и CPU offloading.
npx claude-code-templates@latest --skill ai-research/distributed-training-pytorch-fsdpЧто делает distributed-training-pytorch-fsdp
Скилл даёт рекомендации по PyTorch FSDP: шардингу параметров, смешанной точности, выгрузке данных на CPU и FSDP2. Он подходит для вопросов по API, реализации решений и отладки кода распределённого обучения.
В материалах разобраны torch.distributed, общий контекст Join для процессов с неравным числом входов, а также классы Joinable и JoinHook. Эти хуки помогают участникам обучения корректно пережить более раннее завершение одного из процессов и избежать зависаний на коллективных операциях. Для работы указаны зависимости torch>=2.0 и transformers; проект на более старой версии PyTorch не соответствует этому требованию.
Какие задачи решает
- настроить шардинг параметров через PyTorch FSDP
- разобрать mixed precision и CPU offloading
- перенести обучение на FSDP2
- обработать неравное число входов у процессов
- отладить код на базе
torch.distributed
Примеры запросов агенту
- Объясни, как настроить шардинг параметров и mixed precision в PyTorch FSDP.
- Покажи, как применить
Joinдля обучения, где процессы получают разное число входов. - Разбери ошибку в коде распределённого обучения на
torch.distributedи предложи исправление.
Как установить distributed-training-pytorch-fsdp
1Через claude-code-templates
npx claude-code-templates@latest --skill ai-research/distributed-training-pytorch-fsdp2Через Skills CLI (Vercel)
npx skills add davila7/claude-code-templates --skill distributed-training-pytorch-fsdp -a claude-code3Вручную: положить файлы
~/.claude/skills/distributed-training-pytorch-fsdp/SKILL.mdПапка скилла целиком; для одного проекта — .claude/skills/distributed-training-pytorch-fsdp/
Вручную: положить файлы
.agents/skills/distributed-training-pytorch-fsdp/SKILL.mdДля всех проектов — ~/.agents/skills/
Вручную: положить файлы
.cursor/skills/distributed-training-pytorch-fsdp/SKILL.mdCursor читает и .agents/skills/, и .claude/skills/
1GitHub CLI
gh skill install davila7/claude-code-templates distributed-training-pytorch-fsdp2Вручную: положить файлы
.github/skills/distributed-training-pytorch-fsdp/SKILL.mdКомандой платформы
gemini skills install https://github.com/davila7/claude-code-templates --path cli-tool/components/skills/ai-research/distributed-training-pytorch-fsdpВручную: положить файлы
.devin/skills/distributed-training-pytorch-fsdp/SKILL.mdСтарый путь .windsurf/skills/ тоже читается
Claude.ai
Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills
По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов
Вопросы о distributed-training-pytorch-fsdp
Как установить distributed-training-pytorch-fsdp в Claude Code?
Выполните npx claude-code-templates@latest --skill ai-research/distributed-training-pytorch-fsdp.
Что делает distributed-training-pytorch-fsdp?
Скилл объясняет работу PyTorch FSDP, включая шардинг параметров, mixed precision, CPU offloading и FSDP2. Он также помогает разбирать API и ошибки в распределённом обучении.
Что нужно для работы с distributed-training-pytorch-fsdp?
В зависимостях указаны torch>=2.0 и transformers. При версии PyTorch ниже 2.0 требование скилла не выполняется.