# creating-online-evaluations

Скилл creating-online-evaluations для Claude Code, который превращает найденные в проде сбои в постоянно работающие онлайн-оценки PostHog. Запускается, когда нужно автоматически проверять новые генерации на конкретные ошибки.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 195 установок · ★ 101 у репозитория
- Автор: PostHog
- Лицензия: не указана · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/PostHog/ai-plugin/tree/HEAD/skills/creating-online-evaluations/SKILL.md
- Обновлён: 2026-11-10
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/creating-online-evaluations

## Что делает

Скилл берёт реальные проблемные паттерны из трафика и превращает их в оценки, которые автоматически проверяют каждую подходящую генерацию или весь трейс.

Один сбой — одна оценка. Сколько их создавать, решают данные из трасс: иногда одна, часто три-четыре. Скилл сначала предлагает пользователю список кандидатов, и только выбранные пункты идут в работу. Создание невыбранных оценок тратит деньги и шумит в данных.

Перед запуском нужно найти и отранжировать сами сбои — для этого есть отдельный скилл `exploring-ai-failures`. Без списка конкретных ошибок этот скилл не стартует. Оценки создаются выключенными, затем проверяется их охват, включаются и при необходимости прогоняются по прошлым данным.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add PostHog/ai-plugin --skill creating-online-evaluations -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/creating-online-evaluations/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/creating-online-evaluations/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add PostHog/ai-plugin --skill creating-online-evaluations -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/creating-online-evaluations/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add PostHog/ai-plugin --skill creating-online-evaluations -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/creating-online-evaluations/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install PostHog/ai-plugin skills/creating-online-evaluations
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/creating-online-evaluations/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add PostHog/ai-plugin --skill creating-online-evaluations -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/PostHog/ai-plugin --path skills/creating-online-evaluations
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/creating-online-evaluations/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add PostHog/ai-plugin --skill creating-online-evaluations -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/PostHog/ai-plugin/tree/HEAD/skills/creating-online-evaluations/SKILL.md

## Когда брать
- превратить найденные сбои в постоянно работающие оценки
- проверить, что ответ не уходит от темы пользователя
- поймать вызов инструмента без обязательного параметра
- выбрать тип оценки: hog, llm_judge или sentiment
- прогнать оценку по прошлым данным через backfill

## Примеры запросов агенту
- Создай оценку, которая ловит ответы не по теме запроса
- Преврати эти сбои из трасс в онлайн-оценки, предложи список
- Настрой llm_judge с провайдером и моделью из доступных комбинаций

## Похожие
- [exploring-llm-evaluations](https://affpapa.org/nevibecode/skills/exploring-llm-evaluations.md) — скилл · 440 установок
- [creating-replay-vision-scanners](https://affpapa.org/nevibecode/skills/creating-replay-vision-scanners.md) — скилл · 326 установок
- [agent-observability-online-experiment](https://affpapa.org/nevibecode/skills/agent-observability-online-experiment.md) — скилл · 170 установок
- [agent-observability-eval-pipeline](https://affpapa.org/nevibecode/skills/agent-observability-eval-pipeline.md) — скилл · 674 установки
- [future-agi-platform](https://affpapa.org/nevibecode/skills/future-agi-platform.md) — скилл · 315 установок
- [evals-start](https://affpapa.org/nevibecode/skills/evals-start.md) — скилл · 959 установок

Из того же набора: [posthog/ai-plugin](https://affpapa.org/nevibecode/by/posthog/ai-plugin.md) — 82 карточки

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
