eval — скилл для Claude Code: что делает и как установить
Оценивает и ранжирует результаты работы агентов AgentHub по метрикам или с помощью LLM-судьи. Помогает выбрать лучшее решение сессии.
/plugin marketplace add alirezarezvani/claude-skills
/plugin install agenthub@claude-code-skillsЧто делает eval
Скилл оценивает результаты параллельных агентов в сессиях AgentHub через команду /hub:eval. Он поддерживает режимы числовых метрик, сравнение изменений через LLM-судью и гибридный вариант.
В режиме метрик скрипт result_ranker.py выполняет заданную команду в рабочей копии каждого агента, ранжируя результаты по показателям и числу затронутых файлов. Если тесты не заданы или передан флаг --judge, скилл анализирует git diff относительно базовой ветки вместе с файлами .agenthub/board/results/. LLM оценивает корректность и объем правок, отдавая приоритет компактным решениям. В гибридном режиме судья подключается только при разнице метрик менее 10%.
После подведения итогов session_manager.py переводит сессию в статус evaluating и выводит команду /hub:merge. Скилл стоит ставить, если вы запускаете параллельных агентов AgentHub и хотите автоматизировать выбор победителя.
Какие задачи решает
- сравнить диффы нескольких веток агентов AgentHub
- выбрать лучшее решение по тестам или скорости выполнения
- разрешить спор между близкими по метрикам агентами через LLM-судью
- подготовить сессию AgentHub к слиянию ветки победителя
Примеры запросов агенту
- /hub:eval
- /hub:eval 20260317-143022
- /hub:eval --judge
Как установить eval
1Через маркетплейс плагинов
/plugin marketplace add alirezarezvani/claude-skills/plugin install agenthub@claude-code-skillsКоманда ставит плагин agenthub целиком, со всеми его скиллами
2Через Skills CLI (Vercel)
npx skills add alirezarezvani/claude-skills --skill eval -a claude-code3Вручную: положить файлы
~/.claude/skills/eval/SKILL.mdПапка скилла целиком; для одного проекта — .claude/skills/eval/
Вручную: положить файлы
.agents/skills/eval/SKILL.mdДля всех проектов — ~/.agents/skills/
Вручную: положить файлы
.cursor/skills/eval/SKILL.mdCursor читает и .agents/skills/, и .claude/skills/
1GitHub CLI
gh skill install alirezarezvani/claude-skills eval2Вручную: положить файлы
.github/skills/eval/SKILL.mdКомандой платформы
gemini skills install https://github.com/alirezarezvani/claude-skills --path engineering/agenthub/skills/evalВручную: положить файлы
.devin/skills/eval/SKILL.mdСтарый путь .windsurf/skills/ тоже читается
Claude.ai
Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills
Из того же набора349
Весь набор →Похожие
Вопросы о eval
Как установить eval в Claude Code?
Выполните команду npx skills add alirezarezvani/claude-skills --skill eval -a claude-code или добавьте плагин через /plugin marketplace add alirezarezvani/claude-skills.
По каким критериям LLM-судья оценивает работу агентов?
Судья проверяет git diff относительно базовой ветки и отчёты агентов. Оценка строится на проверке корректности задачи и простоте кода с предпочтением меньшего числа правок.
Что происходит после выполнения команды /hub:eval?
Скрипт обновляет статус сессии на evaluating, выводит таблицу с победителем и предлагает запустить /hub:merge для слияния ветки.
Исходный текст
SKILL.md · MIT
---
name: "eval"
description: "Evaluate and rank agent results by metric or LLM judge for an AgentHub session. Use when the user runs /hub:eval or asks to score, compare, or pick a winner among completed AgentHub agents."
metadata:
command: /hub:eval
---
# /hub:eval — Evaluate Agent Results
Rank all agent results for a session. Supports metric-based evaluation (run a command), LLM judge (compare diffs), or hybrid.
## Usage
```
/hub:eval # Eval latest session using configured criteria
/hub:eval 20260317-143022 # Eval specific session
/hub:eval --judge # Force LLM judge mode (ignore metric config)
```
## What It Does
### Metric Mode (eval command configured)
Run the evaluation command in each agent's worktree:
```bash
python {skill_path}/scripts/result_ranker.py \
--session {session-id} \
--eval-cmd "{eval_cmd}" \
--metric {metric} --direction {direction}
```
Output:
```
RANK AGENT METRIC DELTA FILES
1 agent-2 142ms -38ms 2
2 agent-1 165ms -15ms 3
3 agent-3 190ms +10ms 1
Winner: agent-2 (142ms)
```
### LLM Judge Mode (no eval command, or --judge flag)
For each agent:
1. Get the diff: `git diff {base_branch}...{agent_branch}`
2. Read the agent's result post from `.agenthub/board/results/agent-{i}-result.md`
3. Compare all diffs and rank by:
- **Correctness** — Does it solve the task?
- **Simplicity** — Fewer lines changed is better (when equal correctness)
- **Quality** — Clean execution, good structure, no regressions
Present rankings with justification.
Example LLM judge output for a content task:
```
RANK AGENT VERDICT WORD COUNT
1 agent-1 Strong narrative, clear CTA 1480
2 agent-3 Good data points, weak intro 1520
3 agent-2 Generic tone, no differentiation 1350
Winner: agent-1 (strongest narrative arc and call-to-action)
```
### Hybrid Mode
1. Run metric evaluation first
2. If top agents are within 10% of each other, use LLM judge to break ties
3. Present both metric and qualitative rankings
## After Eval
1. Update session state:
```bash
python {skill_path}/scripts/session_manager.py --update {session-id} --state evaluating
```
2. Tell the user:
- Ranked results with winner highlighted
- Next step: `/hub:merge` to merge the winner
- Or `/hub:merge {session-id} --agent {winner}` to be explicit
© Alireza Rezvani · MIT · alirezarezvani/claude-skills