К основному содержанию
скилл CX Codex

evals-start — скилл для Claude Code: старт оценки

Направляет запрос по оценке ИИ-системы в нужный специализированный скилл. Нужен, когда неясно, с чего начать или какой сценарий выбрать.

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code
Открыть на GitHub

Что делает evals-start

evals-start разбирает исходную ситуацию и загружает подходящий скилл вместо собственного сценария. Для трассировок и поиска сбоев он выбирает error-discovery, для проверки существующего контура оценок — eval-audit, а для проверки RAG-пайплайна — evaluate-rag.

Известную ошибку, которую можно проверить кодом, он передаёт в write-code-eval; задачу для LLM-судьи — в write-judge-prompt. При отсутствии трассировок маршрут начинается с generate-synthetic-data, затем продолжается в error-discovery. Это скилл-маршрутизатор, а не самостоятельный сценарий оценки. Если ситуация не подходит ни к одному маршруту, он должен запросить уточнение, а не угадывать.

Какие задачи решает

  • найти режимы сбоев по готовым трассировкам
  • проверить существующий контур оценок
  • написать кодовую проверку известной ошибки
  • подготовить данные без трассировок
  • оценить RAG-пайплайн

Примеры запросов агенту

  • Помоги начать работу с оценками: у меня есть трассировки и я хочу найти сбои.
  • У меня ещё нет трассировок для оценки. С чего начать?
  • Нужно оценить RAG-пайплайн.

Как установить evals-start

1Через Skills CLI (Vercel)

npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code

2Вручную: положить файлы

~/.claude/skills/evals-start/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/evals-start/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о evals-start

Как установить evals-start в Claude Code?

Выполните npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code, затем ещё раз npx skills add ai-evals-course/evals-skills --skill evals-start -a claude-code. Файл скилла находится в ~/.claude/skills/evals-start/SKILL.md.

Что делает evals-start?

Он сопоставляет запрос по оценкам с целевым скиллом и запускает его сценарий. Сам evals-start хранит только правила маршрутизации.

Что произойдёт, если подходящий маршрут не найден?

Скилл должен попросить уточнить ситуацию. Он не выбирает скилл наугад.

Исходный текст

SKILL.md · Apache-2.0
---
name: evals-start
description: >
  Entry point for evals. Use when the user asks for help with evals,
  does not know where to begin, or asks for something no other skill
  in this plugin matches. Do NOT use when a more specific skill in
  this plugin already matches; load that skill directly.
---

# Evals Start

This plugin splits eval work into targeted skills. Your job here is small: find the row below that matches the user's situation, tell the user which skill you are loading and why, then load that skill and follow its workflow from start to finish instead of improvising your own version of it.

| Situation | Skill to load |
|---|---|
| Has traces, wants to find failure modes, no established taxonomy yet | `error-discovery` |
| Has an existing eval pipeline and wants to know if it can be trusted | `eval-audit` |
| Has a known failure mode that code can check (e.g., format, schema, regex, execution) | `write-code-eval` |
| Has a known failure mode and wants an LLM judge for it | `write-judge-prompt` |
| Has an LLM judge or evaluator and wants to check its quality | `validate-evaluator` |
| Has no traces to review yet | `generate-synthetic-data`, then `error-discovery` |
| Wants a custom annotation interface for some other labeling task | `build-review-interface` |
| Wants to evaluate a RAG pipeline | `evaluate-rag` |

Most requests that mention error analysis with traces in hand mean `error-discovery`. New users with an existing pipeline usually need `eval-audit` first. This file holds only routing. When in doubt about which row fits, ask the user instead of guessing. The workflow lives in the targeted skill.

© ai-evals-course · Apache-2.0 · ai-evals-course/evals-skills

Похожие скиллы

Всё по теме «ИИ и ML» →
rag-observability-evals devops-skills Скилл для мониторинга и оценки RAG-систем: метрики качества поиска, проверка обоснованности ответов, детекция галлюцинаций и регрессионное тестирование. CX Codex +1 318установок online-evals launchdarkly Подключает судей к вариантам конфига, чтобы ответы модели автоматически получали оценку от 0.0 до 1.0. Пригодится, когда нужно следить за качеством промптов в проде. CX Codex +1 1 800установок agent-evals devops-skills Скилл собирает автотесты для ИИ-агентов: golden-датасеты, рубрики оценки и регрессионные гейты в CI. Пригодится, когда меняешь промпты и хочешь видеть, что стало хуже. CX Codex +1 340установок logfire-evals pydantic Прогоняет офлайн-оценки Python и Node.js, разбирает отчёты в Logfire и перенаправляет существующие наборы Braintrust. CX Codex +1 554установок ai-evals RefoundAI Помогает выстроить оценку качества ИИ-продукта: найти сбои, собрать эталонный набор и выбрать проверки. Нужен при работе с LLM, RAG и агентными сценариями. CX Codex +1 2 100установок phoenix-evals официальный [email protected] Скилл помогает создавать и запускать оценщики для AI- и LLM-приложений с Phoenix. Пригодится для разбора ошибок, проверки RAG и оценки качества моделей. 1 000установок

Из того же набора9

write-judge-prompt Помогает собрать бинарный Pass/Fail оценщик для одного субъективного сбоя: тона, верности ответа, релевантности. Пригодится, когда кодом такое не проверить. CX Codex +1 1 100установок validate-evaluator Скилл проверяет, совпадает ли вердикт LLM-судьи с оценками эксперта, и считает TPR/TNR на отложенной выборке. CX Codex +1 1 100установок eval-audit Скилл находит слабые места в пайплайнах оценки LLM: невалидированных судей, шкалы Лайкерта и утечки данных. Пригодится при ревизии готовых эвалов или настройке с нуля. CX Codex +1 1 000установок error-discovery Скилл для интерактивного разбора датасета с выводами LLM: строит UI для просмотра, отбирает разные примеры и помогает собрать типы сбоев. CX Codex +1 1 000установок generate-synthetic-data Скилл собирает разнообразные тестовые запросы для оценки LLM-пайплайна, когда реальных данных мало. CX Codex +1 984установок build-review-interface Создаёт браузерный интерфейс для разметки трейсов LLM с сохранением в JSON, CSV или SQLite. Пригодится при сборе человеческой обратной связи и оценке моделей. CX Codex +1 970установок evaluate-rag Помогает раздельно оценить поиск и генерацию в RAG, подобрать метрики и проверить разбиение документов на чанки. CX Codex +1 970установок write-code-eval Скилл помогает написать код-эвалуатор для известного режима отказа: одна проверка на правило, как юнит-тест для трейса. CX Codex +1 347установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой