evals-start — скилл для Claude Code: старт оценки
Направляет запрос по оценке ИИ-системы в нужный специализированный скилл. Нужен, когда неясно, с чего начать или какой сценарий выбрать.
npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-codeЧто делает evals-start
evals-start разбирает исходную ситуацию и загружает подходящий скилл вместо собственного сценария. Для трассировок и поиска сбоев он выбирает error-discovery, для проверки существующего контура оценок — eval-audit, а для проверки RAG-пайплайна — evaluate-rag.
Известную ошибку, которую можно проверить кодом, он передаёт в write-code-eval; задачу для LLM-судьи — в write-judge-prompt. При отсутствии трассировок маршрут начинается с generate-synthetic-data, затем продолжается в error-discovery. Это скилл-маршрутизатор, а не самостоятельный сценарий оценки. Если ситуация не подходит ни к одному маршруту, он должен запросить уточнение, а не угадывать.
Какие задачи решает
- найти режимы сбоев по готовым трассировкам
- проверить существующий контур оценок
- написать кодовую проверку известной ошибки
- подготовить данные без трассировок
- оценить RAG-пайплайн
Примеры запросов агенту
- Помоги начать работу с оценками: у меня есть трассировки и я хочу найти сбои.
- У меня ещё нет трассировок для оценки. С чего начать?
- Нужно оценить RAG-пайплайн.
Как установить evals-start
1Через Skills CLI (Vercel)
npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code2Вручную: положить файлы
~/.claude/skills/evals-start/SKILL.mdПапка скилла целиком; для одного проекта — .claude/skills/evals-start/
1Через Skills CLI (Vercel)
npx skills add ai-evals-course/evals-skills --skill evals-start -a codex2Вручную: положить файлы
.agents/skills/evals-start/SKILL.mdДля всех проектов — ~/.agents/skills/
1Через Skills CLI (Vercel)
npx skills add ai-evals-course/evals-skills --skill evals-start -a cursor2Вручную: положить файлы
.cursor/skills/evals-start/SKILL.mdCursor читает и .agents/skills/, и .claude/skills/
1GitHub CLI
gh skill install ai-evals-course/evals-skills evals-start2Вручную: положить файлы
.github/skills/evals-start/SKILL.md1Через Skills CLI (Vercel)
npx skills add ai-evals-course/evals-skills --skill evals-start -a gemini-cli2Командой платформы
gemini skills install https://github.com/ai-evals-course/evals-skills --path skills/evals-startВручную: положить файлы
.devin/skills/evals-start/SKILL.mdСтарый путь .windsurf/skills/ тоже читается
Через Skills CLI (Vercel)
npx skills add ai-evals-course/evals-skills --skill evals-start -a opencodeClaude.ai
Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills
По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов
Вопросы о evals-start
Как установить evals-start в Claude Code?
Выполните npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code, затем ещё раз npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code. Файл скилла находится в ~/.claude/skills/evals-start/SKILL.md.
Что делает evals-start?
Он сопоставляет запрос по оценкам с целевым скиллом и запускает его сценарий. Сам evals-start хранит только правила маршрутизации.
Что произойдёт, если подходящий маршрут не найден?
Скилл должен попросить уточнить ситуацию. Он не выбирает скилл наугад.
Исходный текст
SKILL.md · Apache-2.0
--- name: evals-start description: > Entry point for evals. Use when the user asks for help with evals, does not know where to begin, or asks for something no other skill in this plugin matches. Do NOT use when a more specific skill in this plugin already matches; load that skill directly. --- # Evals Start This plugin splits eval work into targeted skills. Your job here is small: find the row below that matches the user's situation, tell the user which skill you are loading and why, then load that skill and follow its workflow from start to finish instead of improvising your own version of it. | Situation | Skill to load | |---|---| | Has traces, wants to find failure modes, no established taxonomy yet | `error-discovery` | | Has an existing eval pipeline and wants to know if it can be trusted | `eval-audit` | | Has a known failure mode that code can check (e.g., format, schema, regex, execution) | `write-code-eval` | | Has a known failure mode and wants an LLM judge for it | `write-judge-prompt` | | Has an LLM judge or evaluator and wants to check its quality | `validate-evaluator` | | Has no traces to review yet | `generate-synthetic-data`, then `error-discovery` | | Wants a custom annotation interface for some other labeling task | `build-review-interface` | | Wants to evaluate a RAG pipeline | `evaluate-rag` | Most requests that mention error analysis with traces in hand mean `error-discovery`. New users with an existing pipeline usually need `eval-audit` first. This file holds only routing. When in doubt about which row fits, ask the user instead of guessing. The workflow lives in the targeted skill.
© ai-evals-course · Apache-2.0 · ai-evals-course/evals-skills