spinning-up-deep-rl — плагин для Claude Code: база знаний по Deep RL
Скилл-база по книге Spinning Up in Deep RL: ядро с таксономией алгоритмов и 20 глав, которые подгружаются по запросу.
/plugin marketplace add alirezarezvani/claude-skills
/plugin install spinning-up-deep-rl@claude-code-skillsЧто делает spinning-up-deep-rl
Плагин собирает структурированные заметки по Spinning Up in Deep RL Джошуа Ачиама. В ядре лежат постановка задачи оптимизации в RL, таксономия model-free методов, шаблон policy gradient с пятью весами, семейство безопасного шага от VPG к TRPO и PPO и семейство переоценки от DDPG к TD3 и SAC. Ядро резидентное, укладывается в 4k токенов.
Остальное подгружается по требованию: 20 глав, глоссарий, файл паттернов с 16 техниками, cheatsheet с порогами решений. Есть агент cs-spinning-up-deep-rl и одноимённая слэш-команда. Заметки сгенерированы из дерева docs/ в reStructuredText по состоянию на обновление под PyTorch в январе 2020 года.
Чего здесь нет: DQN и дискретного value-learning, рекуррентных и свёрточных архитектур, частично наблюдаемых сред, model-based реализаций и работ после начала 2020 года. Из шести разобранных реализаций исследовательскими глава 13 называет DDPG, TD3 и SAC, а VPG, TRPO и PPO — нет. Это повод проверить, на какой из них вы собираетесь опираться в проде. Лицензия MIT, Copyright (c) 2018 OpenAI.
Какие задачи решает
- разобрать вывод policy gradient через log-derivative trick
- выбрать между PPO и SAC под конкретную задачу
- поймать тихий баг с broadcasting в DDPG
- свериться с порогами и trade-off матрицами перед запуском обучения
- поставить многоseed-эксперимент с логгером и ExperimentGrid
Примеры запросов агенту
- /cs-spinning-up-deep-rl
- /cs-spinning-up-deep-rl policy gradient
- /cs-spinning-up-deep-rl ch05
Как установить spinning-up-deep-rl
Через маркетплейс плагинов
/plugin marketplace add alirezarezvani/claude-skills/plugin install spinning-up-deep-rl@claude-code-skillsПо шагам, с командами для каждой платформы: Плагины Claude Code: маркетплейсы, установка и как собрать свой
Вопросы о spinning-up-deep-rl
Как установить spinning-up-deep-rl в Claude?
Через маркетплейс: сначала /plugin marketplace add alirezarezvani/claude-skills, затем /plugin install spinning-up-deep-rl@claude-code-skills.
Что делает spinning-up-deep-rl?
Даёт Claude базу знаний по Deep RL: резидентное ядро с фреймворками и таксономией алгоритмов плюс 20 глав, глоссарий, паттерны и cheatsheet, которые читаются по запросу.
Какие алгоритмы разобраны в плагине?
Шесть: VPG, TRPO, PPO, DDPG, TD3 и SAC. Глава 13 отмечает, что исследовательского уровня из них только DDPG, TD3 и SAC.
Исходный текст
spinning-up-deep-rl · MIT
# Spinning Up in Deep RL Knowledge-base plugin compiled from **Spinning Up in Deep RL by Joshua Achiam (OpenAI)** by [`engineering/book-to-skill`](../book-to-skill/). 20 chapters indexed. ## What is in here | File | Contents | |------|----------| | `skills/spinning-up-deep-rl/SKILL.md` | Core frameworks, chapter index, topic index (resident, under 4k tokens) | | `skills/spinning-up-deep-rl/chapters/` | One summary per chapter — loaded on demand, never all at once | | `skills/spinning-up-deep-rl/glossary.md` | Every significant term, alphabetized, with its chapter | | `skills/spinning-up-deep-rl/patterns.md` | Techniques and design patterns with trade-offs | | `skills/spinning-up-deep-rl/cheatsheet.md` | Decision rules, thresholds and trade-off matrices | ## Use ``` /cs-spinning-up-deep-rl # core frameworks + chapter index /cs-spinning-up-deep-rl <topic> # resolve via topic index, read one chapter /cs-spinning-up-deep-rl ch05 # read one chapter summary ``` Or invoke the `cs-spinning-up-deep-rl` agent for a working session anchored to this source. ## Provenance and limits **Source:** OpenAI's [Spinning Up in Deep RL](https://spinningup.openai.com/) ([openai/spinningup](https://github.com/openai/spinningup)), primarily developed by **Joshua Achiam**. Compiled from the `docs/` reStructuredText tree at the January 2020 PyTorch update. **Rights basis:** `open-license`. The source is **MIT, Copyright (c) 2018 OpenAI**, which permits derivative distribution. The full upstream notice is reproduced in [`LICENSE`](LICENSE) alongside this package's own; the top-level `license` field in `plugin.json` covers the scaffolding only. Generated, not hand-authored: every claim traces to the source document. It carries that source's blind spots, and it is a set of structured notes — **not a copy of the work and not a substitute for reading it**. **What it does not cover:** DQN and the discrete-action value-learning family, recurrent or convolutional architectures, partially-observed settings, model-based implementations, and any deep RL work after early 2020. The six implementations documented are educational; `ch13` records which are research-grade (DDPG, TD3, SAC) and which are not (VPG, TRPO, PPO). Distribution: `shareable`. Regenerate or extend with `python3 engineering/book-to-skill/skills/book-to-skill/scripts/extract_document.py`, then re-run `book_skill_validator.py` before loading the result.
© Alireza Rezvani · MIT · alirezarezvani/claude-skills