# openclaw-rl-training

Скилл разворачивает OpenClaw-RL: асинхронный фреймворк, который превращает живые диалоги в обучающие сигналы для персонального агента.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1300 установок · ★ 88
- Автор: reason-machines
- Лицензия: не указана · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/reason-machines/trending-skills/tree/HEAD/skills/openclaw-rl-training/SKILL.md
- Обновлён: 2026-10-09
- HTML: https://affpapa.org/nevibecode/skills/openclaw-rl-training

## Что делает

OpenClaw-RL оборачивает вашу модель в OpenAI-совместимый API через OpenClaw, перехватывает многошаговые разговоры и дообучает политику в фоне, не мешая работе. Внутри четыре независимых цикла: обслуживание агента, сбор траекторий, оценка ходов через PRM или судью и обучение политики. Для обучения доступны GRPO, on-policy distillation и комбинированный метод.

Ставится из репозитория: клонируете `OpenClaw-RL`, ставите зависимости из `requirements.txt`, затем `slime` как бэкенд обучения. SGLang для быстрого инференса — по желанию. Дальше запускаете готовые скрипты, подставив свои пути через переменные окружения: `MODEL_PATH`, `DATA_PATH`, `CKPT_SAVE_DIR`, а для OPD ещё `JUDGE_MODEL_PATH`.

GPU придётся разделить руками: в примере восемь карт делят на четыре под обучение и четыре под rollout. Без этого шага скрипт не запустится. LoRA снижает расход памяти, если карт мало. Расширения подключаются флагами вроде `--custom-loss-function-path` и `--custom-rm-path`, ядро `slime` трогать не нужно.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/trending-skills --skill openclaw-rl-training -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/openclaw-rl-training/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/openclaw-rl-training/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/trending-skills --skill openclaw-rl-training -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/openclaw-rl-training/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/trending-skills --skill openclaw-rl-training -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/openclaw-rl-training/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install reason-machines/trending-skills openclaw-rl-training
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/openclaw-rl-training/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/trending-skills --skill openclaw-rl-training -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/reason-machines/trending-skills --path skills/openclaw-rl-training
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/openclaw-rl-training/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/trending-skills --skill openclaw-rl-training -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/reason-machines/trending-skills/tree/HEAD/skills/openclaw-rl-training/SKILL.md

## Когда брать
- превратить живые диалоги с агентом в обучающие траектории
- настроить GRPO-обучение с Process Reward Model
- собрать on-policy distillation с судьёй и текстовыми подсказками
- запустить асинхронный RL-пайплайн, не останавливая обслуживание агента
- подключить свою функцию потерь или reward-модель без правки ядра

## Примеры запросов агенту
- Настрой обучение агента через OpenClaw-RL по скрипту `run_qwen3_7b_openclaw_rl.sh`
- Раздели GPU на обучение и rollout и запусти комбинированный метод `run_qwen3_7b_openclaw_combine.sh`
- Подключи свою reward-модель через флаг `--custom-rm-path ./my_method/custom_rm.py`

## Похожие
- [skill-creator](https://affpapa.org/nevibecode/skills/skill-creator.md) — скилл · 414180 установок
- [writing-for-agents](https://affpapa.org/nevibecode/skills/writing-for-agents.md) — скилл · 466719 установок
- [media-use](https://affpapa.org/nevibecode/skills/media-use.md) — скилл · 1100000 установок
- [mcp-builder](https://affpapa.org/nevibecode/skills/mcp-builder.md) — скилл · 130949 установок
- [subagent-driven-development](https://affpapa.org/nevibecode/skills/subagent-driven-development.md) — скилл · 237746 установок
- [orchestration](https://affpapa.org/nevibecode/skills/orchestration.md) — скилл · 349800 установок

Из того же набора: [reason-machines/trending-skills](https://affpapa.org/nevibecode/by/reason-machines/trending-skills.md) — 139 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md