# ai-data-engineering-rag-pipeline

Скилл ai-data-engineering-rag-pipeline для Claude Code собирает локальный RAG-пайплайн: BM25-поиск, разбиение документов на уровни и оценку выдачи. Проверяет поиск на подготовленном наборе вопросов.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 165 установок · ★ 5 у репозитория
- Автор: reason-machines
- Лицензия: не указана · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/reason-machines/data-skills/tree/HEAD/skills/ai-data-engineering-rag-pipeline/SKILL.md
- Обновлён: 2026-10-09
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/ai-data-engineering-rag-pipeline

## Что делает

Скилл описывает работу с корпусом документов и эталонными вопросами в `questions.jsonl`. Для базового поиска он предлагает индекс BM25 с инвертированным индексом и оценку Recall@10. Так можно сравнить найденные документы с заранее заданными релевантными ответами.

Для RAG предусмотрено разбиение документов на уровни документа, секции и абзаца, а также связь дочерних фрагментов с родительскими метаданными. В описанной структуре проекта есть папки `Day_01`, `Day_02` и `Day_03`; для модулей `Day_02` и `Day_03` указана установка зависимостей через `requirements.txt`. В списке зависимостей есть `rank-bm25`, `numpy`, `sentence-transformers` и `faiss-cpu`.

Для установки и работы с зависимостями нужен `pip`; без установленных зависимостей соответствующие модули не запустятся.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill ai-data-engineering-rag-pipeline -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/ai-data-engineering-rag-pipeline/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/ai-data-engineering-rag-pipeline/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill ai-data-engineering-rag-pipeline -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/ai-data-engineering-rag-pipeline/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill ai-data-engineering-rag-pipeline -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/ai-data-engineering-rag-pipeline/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install reason-machines/data-skills skills/ai-data-engineering-rag-pipeline
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/ai-data-engineering-rag-pipeline/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill ai-data-engineering-rag-pipeline -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/reason-machines/data-skills --path skills/ai-data-engineering-rag-pipeline
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/ai-data-engineering-rag-pipeline/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill ai-data-engineering-rag-pipeline -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/reason-machines/data-skills/tree/HEAD/skills/ai-data-engineering-rag-pipeline/SKILL.md

## Когда брать
- создать эталонный набор вопросов для оценки поиска
- построить BM25-индекс по корпусу документов
- посчитать Recall@10 для поисковой выдачи
- разбить документы на фрагменты разных уровней
- связать фрагменты с родительскими метаданными

## Примеры запросов агенту
- Собери локальный RAG-пайплайн с BM25 и оцени поиск по `questions.jsonl`.
- Разбей документы на уровни документа, секции и абзаца, сохрани связи с родителями.
- Подготовь эталонный набор вопросов и посчитай Recall@10 для корпуса.

## Похожие
- [rag-architect](https://affpapa.org/nevibecode/skills/borghei-rag-architect.md) — скилл · 137 установок
- [rag-implementer](https://affpapa.org/nevibecode/skills/oakoss-rag-implementer.md) — скилл · 121 установка
- [embedding-pipeline-builder](https://affpapa.org/nevibecode/skills/embedding-pipeline-builder.md) — скилл · 259 установок
- [evaluate-rag](https://affpapa.org/nevibecode/skills/evaluate-rag.md) — скилл · 1100 установок
- [dspy-rag-pipeline](https://affpapa.org/nevibecode/skills/dspy-rag-pipeline.md) — скилл · ★ 125 у репозитория
- [rag](https://affpapa.org/nevibecode/skills/rag.md) — скилл · 3900 установок

Из того же набора: [reason-machines/data-skills](https://affpapa.org/nevibecode/by/reason-machines/data-skills.md) — 82 карточки

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
