# evaluate-rag

Помогает раздельно оценить поиск и генерацию в RAG, подобрать метрики и проверить разбиение документов на чанки.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 970 установок · ★ 1557
- Автор: ai-evals-course
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/ai-evals-course/evals-skills/tree/HEAD/skills/evaluate-rag/SKILL.md
- Обновлён: 2026-10-24
- HTML: https://affpapa.org/nevibecode/skills/evaluate-rag

## Что делает

Скилл предлагает начать с разбора сквозных трасс RAG: сопоставить найденные чанки с информацией, которая требовалась модели, и отделить сбой поиска от сбоя генерации. Без такого разбора выбирать метрики рано.

Для проверки поиска он предлагает собрать пары запросов и релевантных чанков вручную или сгенерировать синтетические вопросы по фактам из документа. Для первого этапа поиска используется Recall@k, а для переранжирования подходят Precision@k, MRR и NDCG@k. Сложные вопросы можно строить с правдоподобными отвлекающими чанками.

После проверки поиска скилл предлагает отдельно оценить верность ответа контексту и его соответствие запросу. Для чанкинга он советует перебрать размер чанка и перекрытие с переиндексацией корпуса, а при разрыве связанного текста использовать границы разделов и добавлять заголовки в контекст чанка.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add ai-evals-course/evals-skills --skill evaluate-rag -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/evaluate-rag/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/evaluate-rag/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add ai-evals-course/evals-skills --skill evaluate-rag -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/evaluate-rag/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add ai-evals-course/evals-skills --skill evaluate-rag -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/evaluate-rag/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install ai-evals-course/evals-skills evaluate-rag
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/evaluate-rag/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add ai-evals-course/evals-skills --skill evaluate-rag -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/ai-evals-course/evals-skills --path skills/evaluate-rag
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/evaluate-rag/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add ai-evals-course/evals-skills --skill evaluate-rag -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/ai-evals-course/evals-skills/tree/HEAD/skills/evaluate-rag/SKILL.md

## Когда брать
- найти источник ошибки в поиске или генерации RAG
- собрать набор запросов с эталонными чанками
- измерить Recall@k для первичного поиска
- проверить верность и релевантность ответов
- подобрать размер чанков и перекрытие

## Примеры запросов агенту
- Оцени мой RAG по трассам и определи, где возникает ошибка: в поиске или генерации.
- Составь набор проверки поиска с вопросами и релевантными чанками для моего корпуса.
- Проверь чанкинг через перебор размера чанка и перекрытия, используя Recall@k и NDCG@k.

## Похожие
- [rag-engineer](https://affpapa.org/nevibecode/skills/sickn33-rag-engineer.md) — скилл · 1000 установок
- [rag](https://affpapa.org/nevibecode/skills/rag.md) — скилл · 3700 установок
- [rag-architect](https://affpapa.org/nevibecode/skills/rag-architect.md) — скилл · 629 установок
- [ai-evals](https://affpapa.org/nevibecode/skills/ai-evals.md) — скилл · 2100 установок
- [embedding-strategies](https://affpapa.org/nevibecode/skills/embedding-strategies.md) — скилл · 11391 установка
- [rag-eval](https://affpapa.org/nevibecode/skills/rag-eval.md) — скилл · 2400 установок

Из того же набора: [ai-evals-course/evals-skills](https://affpapa.org/nevibecode/by/ai-evals-course/evals-skills.md) — 9 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md