# llm

Скилл задаёт агенту правила работы с большими языковыми моделями: архитектура, файнтюнинг, обучение и деплой. Пригодится, когда проект крутится вокруг трансформеров.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 724 установки · ★ 286
- Автор: Mindrally
- Лицензия: Apache-2.0 · policy=mirror · лицензия открытая, файл — в исходнике
- Исходник: https://github.com/Mindrally/skills/tree/HEAD/llm/SKILL.md
- Обновлён: 2026-10-08
- HTML: https://affpapa.org/nevibecode/skills/mindrally-llm

## Что делает

Скилл превращает агента в помощника по разработке LLM. Внутри — набор принципов: разбираться в архитектуре трансформеров, применять эффективные стратегии обучения, правильно оценивать модели и оптимизировать инференс. Агент опирается на эти пункты, когда пишет код обучения или разбирает чужой.

Дальше идут конкретные разделы. Механизмы внимания: self-attention, multi-head, позиционные кодировки, ограничения длины контекста. Токенизация: выбор между BPE и SentencePiece, работа со специальными токенами, компромиссы по размеру словаря, паддинг и усечение. Файнтюнинг разбит на два пути — параметро-эффективные методы вроде LoRA, P-tuning, адаптерных слоёв и prefix tuning, и полное дообучение с аккуратным подбором learning rate, warmup, gradient checkpointing и регуляризацией.

Инфраструктурная часть — про распределённое обучение (DeepSpeed, FSDP, синхронизация градиентов, сохранение чекпоинтов) и экономию памяти (gradient accumulation, mixed precision, activation checkpointing, динамический размер батча). Есть разделы про оценку (perplexity, BLEU, бенчмарки, отслеживание метрик по ходу обучения) и деплой (квантизация, прунинг, батчевый инференс, мониторинг в продакшене). Отдельно — структура проекта: конфиги в YAML, разделение обработки данных и обучения, трекинг экспериментов, версионирование моделей и конфигов. Скилл не привязан к конкретному фреймворку, поэтому для проекта на PyTorch или JAX он одинаково уместен.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Mindrally/skills --skill llm -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/llm/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/llm/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Mindrally/skills --skill llm -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/llm/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Mindrally/skills --skill llm -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/llm/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install Mindrally/skills llm
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/llm/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Mindrally/skills --skill llm -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/Mindrally/skills --path llm
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/llm/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add Mindrally/skills --skill llm -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/Mindrally/skills/tree/HEAD/llm/SKILL.md

## Когда брать
- выбрать между LoRA и полным дообучением под задачу
- разложить обучение большой модели по нескольким GPU
- посчитать, влезет ли батч в память, и подобрать gradient accumulation
- настроить токенизатор и обработку специальных токенов
- организовать конфиги и трекинг экспериментов в проекте

## Примеры запросов агенту
- помоги настроить LoRA для дообучения модели на нашем датасете
- проверь мой скрипт обучения: правильно ли реализован multi-head attention
- предложи схему FSDP и gradient checkpointing, чтобы влезло в память

## Похожие
- [axolotl](https://affpapa.org/nevibecode/skills/axolotl.md) — скилл · 960 установок
- [llm-fine-tuning](https://affpapa.org/nevibecode/skills/llm-fine-tuning.md) — скилл · 318 установок
- [llm-architect](https://affpapa.org/nevibecode/agents/llm-architect.md) — субагент · 649 установок
- [llm-finetuning-architect](https://affpapa.org/nevibecode/agents/llm-finetuning-architect.md) — субагент · ★ 41729
- [vision-sft](https://affpapa.org/nevibecode/skills/vision-sft.md) — скилл · 2600 установок
- [unsloth](https://affpapa.org/nevibecode/skills/unsloth.md) — скилл · 981 установка

Из того же набора: [mindrally/skills](https://affpapa.org/nevibecode/by/mindrally/skills.md) — 168 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md