# constitutional-ai

Скилл для обучения моделей безвредному поведению через самокритику и обратную связь от ИИ, без разметки от людей.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 942 установки · ★ 13956
- Автор: Orchestra Research
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/Orchestra-Research/AI-Research-SKILLs/tree/HEAD/07-safety-alignment/constitutional-ai/SKILL.md
- Обновлён: 2026-10-11
- HTML: https://affpapa.org/nevibecode/skills/constitutional-ai

## Что делает

Constitutional AI — метод Anthropic, при котором модель сама критикует и переписывает свои ответы по набору принципов, а затем учится на предпочтениях, которые выставляет другой ИИ. Скилл проводит через две фазы: сначала обучение с учителем на исправленных ответах, потом RLAIF — обучение с подкреплением по обратной связи от ИИ.

Внутри три рабочих сценария. Первый: генерация ответов, самокритика по конституции, ревизия и дообучение через `SFTTrainer` из `trl`. Второй: сравнение пар ответов, оценка предпочтений ИИ, обучение reward-модели через `RewardTrainer` и PPO-прогон. Третий: критика с цепочкой рассуждений, где модель по шагам отвечает, полезен ли ответ, честен ли, безвреден ли.

Для запуска нужны `transformers`, `torch` и `trl`. Без них код из примеров не пойдёт. Конституцию вы задаёте сами — от формулировок зависит, будет модель отказываться или объяснять. Если ответы выходят уклончивыми, в скилле есть готовый принцип про осмысленный разбор вопроса вместо отказа.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/constitutional-ai/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/constitutional-ai/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/constitutional-ai/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/constitutional-ai/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install Orchestra-Research/AI-Research-SKILLs constitutional-ai
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/constitutional-ai/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/Orchestra-Research/AI-Research-SKILLs --path 07-safety-alignment/constitutional-ai
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/constitutional-ai/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/Orchestra-Research/AI-Research-SKILLs/tree/HEAD/07-safety-alignment/constitutional-ai/SKILL.md

## Когда брать
- обучить модель безвредности без разметки от людей
- сократить токсичные и оскорбительные ответы
- сделать отказы модели объяснимыми, а не уклончивыми
- собрать reward-модель на предпочтениях от ИИ
- прогнать самокритику и ревизию ответов по своим принципам

## Примеры запросов агенту
- помоги настроить constitutional AI для обучения модели безвредности
- покажи, как собрать reward-модель через RLAIF на `trl`
- сделай критику с цепочкой рассуждений для моих ответов

## Похожие
- [llm-testing](https://affpapa.org/nevibecode/skills/llm-testing.md) — скилл · 544 установки
- [ai-risk-management](https://affpapa.org/nevibecode/skills/ai-risk-management.md) — скилл · 313 установок
- [ai-prompt-engineering-safety-best-practices](https://affpapa.org/nevibecode/rules/ai-prompt-engineering-safety-best-practices.md) — правило · ★ 40418
- [gpt-image-2](https://affpapa.org/nevibecode/skills/gpt-image-2.md) — скилл · 84300 установок
- [firecrawl-research-index](https://affpapa.org/nevibecode/skills/firecrawl-research-index.md) — скилл · 24400 установок
- [tavily-best-practices](https://affpapa.org/nevibecode/skills/tavily-best-practices.md) — скилл · 20700 установок

Из того же набора: [orchestra-research/ai-research-skills](https://affpapa.org/nevibecode/by/orchestra-research/ai-research-skills.md) — 66 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md