# rag-eval

Скилл rag-eval запускает сетку тестов для RAG-пайплайна с ограничением бюджета и ранжирует варианты.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 150 установок · ★ 414 у репозитория
- Автор: glebis
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/glebis/claude-skills/tree/HEAD/rag-eval/SKILL.md
- Обновлён: 2026-10-23
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/glebis-rag-eval

## Что делает

Скилл проводит аудит RAG-архитектуры и проверяет стек: чанкинг, промпты поиска, модели эмбеддингов и векторное хранилище. Затем он формирует план перебора из 3–8 вариантов и тестирует их на контрольном наборе (gold-set) минимум из 10 пар вопросов и ответов.

Прогон выполняет скрипт `scripts/eval_sweep.py` по конфигурации `eval_config.yaml`. Результаты ранжируются по формуле `quality × (1 / log(1 + cost))`, сохраняются в `.rag-eval/history.jsonl` и не меняют файлы проекта. Для работы требуются переменные окружения `OPENROUTER_API_KEY` или `OPENAI_API_KEY`, а лимит расходов по умолчанию составляет $2 за запуск.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add glebis/claude-skills --skill rag-eval -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/rag-eval/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/rag-eval/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add glebis/claude-skills --skill rag-eval -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/rag-eval/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add glebis/claude-skills --skill rag-eval -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/rag-eval/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install glebis/claude-skills rag-eval
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/rag-eval/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add glebis/claude-skills --skill rag-eval -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/glebis/claude-skills --path rag-eval
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/rag-eval/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add glebis/claude-skills --skill rag-eval -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/glebis/claude-skills/tree/HEAD/rag-eval/SKILL.md

## Когда брать
- оценить качество ответов RAG на фиксированном наборе вопросов
- сравнить варианты промптов извлечения и связки моделей без перерасхода бюджета
- провести аудит архитектуры поиска, чанкинга и векторного индекса
- сохранить историю экспериментов для исключения повторных неудачных гипотез

## Примеры запросов агенту
- Проверь мой RAG-пайплайн и помоги настроить сетку тестов
- Сравни промпты для retrieval на контрольном наборе вопросов
- Оцени расходы на RAG и подскажи, какую модель эмбеддингов протестировать следующей

## Похожие
- [rag](https://affpapa.org/nevibecode/skills/rag.md) — скилл · 3900 установок
- [rag-engineer](https://affpapa.org/nevibecode/skills/sickn33-rag-engineer.md) — скилл · 1000 установок
- [rag-architect](https://affpapa.org/nevibecode/skills/rag-architect.md) — скилл · 629 установок
- [RAG Implementer](https://affpapa.org/nevibecode/skills/rag-implementer.md) — скилл · 189 установок
- [rag-implementer](https://affpapa.org/nevibecode/skills/oakoss-rag-implementer.md) — скилл · 121 установка
- [evaluate-rag](https://affpapa.org/nevibecode/skills/evaluate-rag.md) — скилл · 1100 установок

## Другие версии с тем же именем
- [rag-eval · nvidia](https://affpapa.org/nevibecode/skills/rag-eval.md) — 2500 установок

Из того же набора: [glebis/claude-skills](https://affpapa.org/nevibecode/by/glebis/claude-skills.md) — 51 карточка

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
