# agent-regression-evals

Скилл проверяет изменения в промптах, моделях и инструментах агента через статистические тесты. Он помогает отличить реальное ухудшение метрик от случайного шума в CI.

- скилл · `type=skill` · Claude Code · 1 установка · ★ 28786
- Автор: Alireza Rezvani
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/alirezarezvani/claude-skills/tree/HEAD/engineering/agent-regression-evals/skills/agent-regression-evals/SKILL.md
- Обновлён: 2026-10-23
- HTML: https://affpapa.org/nevibecode/skills/agent-regression-evals

## Что делает

Скилл оценивает поведение агентов до и после правок без вызова сторонних LLM. Внутри лежат три детерминированных скрипта на стандартной библиотеке Python. Скрипт `scripts/trajectory_checker.py` сверяет последовательность вызовов инструментов по спецификации в JSON. Если агент вызвал запрещённый инструмент, скрипт сразу завершается с кодом 4.

Для надёжной оценки требуется не меньше 3 прогонов на каждый кейс. Одиночные запуски не подходят: поведение агента недетерминировано. Скрипт `scripts/flake_detector.py` вычисляет метрики `pass@k` и `pass^k`, отделяя нестабильные тесты от устойчивых. При попытке передать меньше трёх прогонов детектор прервёт работу с ошибкой.

Финальный контроль выполняет `scripts/regression_gate.py`. Он усредняет результаты внутри каждого кейса и сопоставляет кандидата с базовой версией через парный 95% доверительный интервал и точный критерий Мак-Немара. Гейт заблокирует слияние веток при статистически значимом спаде или падении хотя бы одного критического теста.

## Установка

### Claude Code (родная платформа)

1. **Через маркетплейс плагинов**
В чате агента (не в терминале):
```text
/plugin marketplace add alirezarezvani/claude-skills
```
В чате агента (не в терминале):
```text
/plugin install agent-regression-evals@claude-code-skills
```
Команда ставит плагин agent-regression-evals целиком, со всеми его скиллами

2. **Через Skills CLI (Vercel)**
```bash
npx skills add alirezarezvani/claude-skills --skill agent-regression-evals -a claude-code
```

3. **Вручную: положить файлы**
- Файл: `~/.claude/skills/agent-regression-evals/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/agent-regression-evals/

### Codex

**Вручную: положить файлы**
- Файл: `.agents/skills/agent-regression-evals/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

**Вручную: положить файлы**
- Файл: `.cursor/skills/agent-regression-evals/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install alirezarezvani/claude-skills agent-regression-evals
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/agent-regression-evals/SKILL.md`

### Gemini CLI

**Командой платформы**
```bash
gemini skills install https://github.com/alirezarezvani/claude-skills --path engineering/agent-regression-evals/skills/agent-regression-evals
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/agent-regression-evals/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/alirezarezvani/claude-skills/tree/HEAD/engineering/agent-regression-evals/skills/agent-regression-evals/SKILL.md

## Когда брать
- проверить траекторию вызова инструментов по шагам и аргументам
- отделить случайный шум метрик от реальной регрессии модели
- выявить нестабильные тестовые сценарии через `pass@k` и `pass^k`
- заблокировать слияние в CI при ухудшении критических тестов

## Примеры запросов агенту
- Сравни результаты `baseline.jsonl` и `candidate.jsonl` через скрипт гейта регрессий
- Проверь траектории вызова инструментов в `candidate.jsonl` по спецификации `cases.json`
- Запусти поиск нестабильных тестов в `candidate.jsonl` с тремя повторами на кейс

## Похожие
- [improve-codebase-architecture](https://affpapa.org/nevibecode/skills/improve-codebase-architecture.md) — скилл · 1163035 установок
- [design-taste-frontend](https://affpapa.org/nevibecode/skills/design-taste-frontend.md) — скилл · 678700 установок
- [tdd](https://affpapa.org/nevibecode/skills/tdd.md) — скилл · 1141062 установки
- [skill-creator](https://affpapa.org/nevibecode/skills/skill-creator.md) — скилл · 414180 установок
- [agent-browser](https://affpapa.org/nevibecode/skills/vercel-labs-agent-browser.md) — скилл · 1200000 установок
- [prototype](https://affpapa.org/nevibecode/skills/prototype.md) — скилл · 986201 установка

Из того же набора: [alirezarezvani/claude-skills](https://affpapa.org/nevibecode/by/alirezarezvani/claude-skills.md) — 482 карточки

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md