К основному содержанию
плагин

spinning-up-deep-rl — плагин для Claude Code: база знаний по Deep RL

Скилл-база по книге Spinning Up in Deep RL: ядро с таксономией алгоритмов и 20 глав, которые подгружаются по запросу.

Установить в Claude Code · Через маркетплейс плагинов Все способы и платформы ↓
/plugin marketplace add alirezarezvani/claude-skills
/plugin install spinning-up-deep-rl@claude-code-skills
Открыть на GitHub

Что делает spinning-up-deep-rl

Плагин собирает структурированные заметки по Spinning Up in Deep RL Джошуа Ачиама. В ядре лежат постановка задачи оптимизации в RL, таксономия model-free методов, шаблон policy gradient с пятью весами, семейство безопасного шага от VPG к TRPO и PPO и семейство переоценки от DDPG к TD3 и SAC. Ядро резидентное, укладывается в 4k токенов.

Остальное подгружается по требованию: 20 глав, глоссарий, файл паттернов с 16 техниками, cheatsheet с порогами решений. Есть агент cs-spinning-up-deep-rl и одноимённая слэш-команда. Заметки сгенерированы из дерева docs/ в reStructuredText по состоянию на обновление под PyTorch в январе 2020 года.

Чего здесь нет: DQN и дискретного value-learning, рекуррентных и свёрточных архитектур, частично наблюдаемых сред, model-based реализаций и работ после начала 2020 года. Из шести разобранных реализаций исследовательскими глава 13 называет DDPG, TD3 и SAC, а VPG, TRPO и PPO — нет. Это повод проверить, на какой из них вы собираетесь опираться в проде. Лицензия MIT, Copyright (c) 2018 OpenAI.

Какие задачи решает

  • разобрать вывод policy gradient через log-derivative trick
  • выбрать между PPO и SAC под конкретную задачу
  • поймать тихий баг с broadcasting в DDPG
  • свериться с порогами и trade-off матрицами перед запуском обучения
  • поставить многоseed-эксперимент с логгером и ExperimentGrid

Примеры запросов агенту

  • /cs-spinning-up-deep-rl
  • /cs-spinning-up-deep-rl policy gradient
  • /cs-spinning-up-deep-rl ch05

Как установить spinning-up-deep-rl

Через маркетплейс плагинов

/plugin marketplace add alirezarezvani/claude-skills
/plugin install spinning-up-deep-rl@claude-code-skills

По шагам, с командами для каждой платформы: Плагины Claude Code: маркетплейсы, установка и как собрать свой

Вопросы о spinning-up-deep-rl

Как установить spinning-up-deep-rl в Claude?

Через маркетплейс: сначала /plugin marketplace add alirezarezvani/claude-skills, затем /plugin install spinning-up-deep-rl@claude-code-skills.

Что делает spinning-up-deep-rl?

Даёт Claude базу знаний по Deep RL: резидентное ядро с фреймворками и таксономией алгоритмов плюс 20 глав, глоссарий, паттерны и cheatsheet, которые читаются по запросу.

Какие алгоритмы разобраны в плагине?

Шесть: VPG, TRPO, PPO, DDPG, TD3 и SAC. Глава 13 отмечает, что исследовательского уровня из них только DDPG, TD3 и SAC.

Исходный текст

spinning-up-deep-rl · MIT
# Spinning Up in Deep RL

Knowledge-base plugin compiled from **Spinning Up in Deep RL by Joshua Achiam (OpenAI)** by
[`engineering/book-to-skill`](../book-to-skill/). 20 chapters indexed.

## What is in here

| File | Contents |
|------|----------|
| `skills/spinning-up-deep-rl/SKILL.md` | Core frameworks, chapter index, topic index (resident, under 4k tokens) |
| `skills/spinning-up-deep-rl/chapters/` | One summary per chapter — loaded on demand, never all at once |
| `skills/spinning-up-deep-rl/glossary.md` | Every significant term, alphabetized, with its chapter |
| `skills/spinning-up-deep-rl/patterns.md` | Techniques and design patterns with trade-offs |
| `skills/spinning-up-deep-rl/cheatsheet.md` | Decision rules, thresholds and trade-off matrices |

## Use

```
/cs-spinning-up-deep-rl                    # core frameworks + chapter index
/cs-spinning-up-deep-rl <topic>            # resolve via topic index, read one chapter
/cs-spinning-up-deep-rl ch05               # read one chapter summary
```

Or invoke the `cs-spinning-up-deep-rl` agent for a working session anchored to this source.

## Provenance and limits

**Source:** OpenAI's [Spinning Up in Deep RL](https://spinningup.openai.com/)
([openai/spinningup](https://github.com/openai/spinningup)), primarily developed by
**Joshua Achiam**. Compiled from the `docs/` reStructuredText tree at the January 2020
PyTorch update.

**Rights basis:** `open-license`. The source is **MIT, Copyright (c) 2018 OpenAI**, which
permits derivative distribution. The full upstream notice is reproduced in
[`LICENSE`](LICENSE) alongside this package's own; the top-level `license` field in
`plugin.json` covers the scaffolding only.

Generated, not hand-authored: every claim traces to the source document. It carries that source's
blind spots, and it is a set of structured notes — **not a copy of the work and not a substitute
for reading it**.

**What it does not cover:** DQN and the discrete-action value-learning family, recurrent or
convolutional architectures, partially-observed settings, model-based implementations, and any
deep RL work after early 2020. The six implementations documented are educational; `ch13` records
which are research-grade (DDPG, TD3, SAC) and which are not (VPG, TRPO, PPO).

Distribution: `shareable`. Regenerate or extend with
`python3 engineering/book-to-skill/skills/book-to-skill/scripts/extract_document.py`, then re-run
`book_skill_validator.py` before loading the result.

© Alireza Rezvani · MIT · alirezarezvani/claude-skills

Похожие плагины

Все плагины по теме «ИИ и ML» →
stable-baselines3 K-Dense-AI Скилл для обучения агентов с подкреплением на Stable Baselines3. Поддерживает PPO, SAC, DQN и другие алгоритмы, работает с пользовательскими средами Gymnasium и векторизованными окружениями. CX Codex +1 1 900установок verl-rl-training Orchestra Research Скилл помогает настраивать обучение LLM методами подкрепления (RLHF, GRPO, PPO) через библиотеку verl с поддержкой Ray, FSDP и vLLM. CX Codex +1 962установок nemo-rl-auto-research NVIDIA Автономный цикл исследований для NeMo-RL и NeMo-gym с фиксацией гипотез в git и TSV. Помогает проверять метрики и запускать базовые рецепты. CX Codex +1 1 900установок torchforge-rl-training Orchestra Research Скилл объясняет обучение агентных RL-моделей на PyTorch через torchforge. Пригодится для GRPO, SFT и экспериментов с распределённым обучением. CX Codex +1 946установок deep-research lingzhi227 Проводит систематический обзор научной литературы по теме: ищет статьи, читает их, собирает базу и пишет итоговый отчёт. Пригодится, когда нужен разбор состояния области, а не пара ссылок из поиска. CX Codex +1 1 900установок tooluniverse-literature-deep-research mims-harvard Скилл для глубокого поиска по научной литературе: PubMed, EuropePMC, bioRxiv, сети цитирований. Пригодится, когда нужен обзор с оценкой доказательств и ссылками. CX Codex +1 664установок

Из того же набора394

Весь набор →
swedish-mentor Скилл ведёт изучающих шведский: определяет уровень по CEFR и подбирает YouTube-клипы и подкасты под нужный навык. Пригодится, если нужен план занятий, а не случайные ролики. 2установок coding-agent-rollout Проверяет настройки Claude перед раскаткой на команду: линтует permissions, инвентаризует MCP-серверы и считает adoption по локальным сессиям. 1установок ai-decision-authority Раскладывает решения по трём зонам автономии ИИ и говорит, где нужен человек, а где агент действует сам. ★ 28 733звёзд репо agent-regression-evals Сравнивает прогоны агента до и после правки и решает, можно ли мержить. Нужен, когда одна попытка не отличает регрессию от случайности. ★ 28 733звёзд репо compliance-team-eu-ai-act Три скрипта на stdlib классифицируют ИИ-систему по AI Act, планируют оценку соответствия и собирают матрицу обязанностей по роли организации. ★ 28 733звёзд репо prompt-governance Плагин для Claude, который ведёт промпты в продакшене: версионирование, A/B-тесты, реестр и защита от регрессий. ★ 28 733звёзд репо power-user-coach Плагин-тренер для Claude: на старте выдаёт подборку приёмов под ваши задачи, дальше изредка подсказывает одну вещь по ходу диалога. ★ 28 733звёзд репо compliance-os Мета-оркестратор для программ соответствия: подбирает применимые фреймворки, считает пересечения контролей, симулирует аудит и собирает единый пул доказательств. ★ 28 733звёзд репо

Спонсоры проекта

Компании, которые помогают держать аналитику открытой