# optimize-training-kernels

Скилл optimize-training-kernels для Claude Code настраивает fusion и выбор attention backend, чтобы ускорить обучение без выхода за допуски численной точности. Запускается при разборе медленных ядер или проверке предложенной замены.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, Windsurf (Devin Desktop), Claude.ai · ★ 99 у репозитория
- Автор: InfraRSI A0 (human-authored)
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/TokenRhythm/InfraRSI/tree/HEAD/skills/optimize-training-kernels/SKILL.md
- Обновлён: 2026-11-12
- Проверка безопасности: автоматическая, 2026-11-17 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/optimize-training-kernels

## Что делает

Скилл помогает включать fusion-флаги и выбирать attention backend, а при открытом L2 — заменять разрешённые операторы. Для проверки сверяет реальные входы с построчным эталоном FP64 и отслеживает численные допуски на шагах обучения.

Для fusion из Megatron-Core 0.18.2 есть отдельные правила: например, для `cross_entropy_loss_fusion` допустима реализация `native`, а `te` отклоняется из-за нестабильности. Флаги сначала проверяются по одному, затем их можно включить вместе. Для замен ядер важны точность интерфейсов BF16 и вычисления softmax, LSE и накоплений в FP32.

Изменения точности через TF32, reduced-precision reductions и FP8 этот скилл не разрешает. CUDA-граф сам по себе не считается подтверждением ускорения: проверка включает точность и время шага.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill optimize-training-kernels -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/optimize-training-kernels/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/optimize-training-kernels/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill optimize-training-kernels -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/optimize-training-kernels/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill optimize-training-kernels -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/optimize-training-kernels/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install TokenRhythm/InfraRSI skills/optimize-training-kernels
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/optimize-training-kernels/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add TokenRhythm/InfraRSI --skill optimize-training-kernels -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/TokenRhythm/InfraRSI --path skills/optimize-training-kernels
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/optimize-training-kernels/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/TokenRhythm/InfraRSI/tree/HEAD/skills/optimize-training-kernels/SKILL.md

## Когда брать
- включить fusion-флаги и проверить численную точность
- выбрать attention backend для конкретной формы входа
- сверить замену ядра с построчным эталоном FP64
- найти причину расхождения чисел после изменения ядра

## Примеры запросов агенту
- Проверь, можно ли включить fusion-флаги в этой конфигурации обучения.
- Сравни новое attention-ядро с эталоном FP64 на реальных входах.
- Разбери численное расхождение после замены Triton-ядра.

## Похожие
- [tilegym-monkey-patch-kernels-to-transformers](https://affpapa.org/nevibecode/skills/tilegym-monkey-patch-kernels-to-transformers.md) — скилл · 1600 установок
- [tilekernels-gpu-kernels](https://affpapa.org/nevibecode/skills/tilekernels-gpu-kernels.md) — скилл · 370 установок
- [cudaq-guide](https://affpapa.org/nevibecode/skills/cudaq-guide.md) — скилл · 2500 установок
- [flydsl-kernel-trace-analysis](https://affpapa.org/nevibecode/skills/flydsl-kernel-trace-analysis.md) — скилл · 436 установок
- [V3 Performance Optimization](https://affpapa.org/nevibecode/skills/v3-performance-optimization.md) — скилл · 1100 установок
- [model-serving-kubernetes](https://affpapa.org/nevibecode/skills/model-serving-kubernetes.md) — скилл · 363 установки

Из того же набора: [tokenrhythm/infrarsi](https://affpapa.org/nevibecode/by/tokenrhythm/infrarsi.md) — 19 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
