# data-engineering-medallion-pipeline

Скилл помогает агенту собирать ELT-конвейеры с MinIO, Airbyte, PostgreSQL, DBT и Airflow. Нужен для медальонной архитектуры Bronze/Silver/Gold.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 2000 установок · ★ 5
- Автор: reason-machines
- Лицензия: LicenseRef-Unknown · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/reason-machines/data-skills/tree/HEAD/skills/data-engineering-medallion-pipeline/SKILL.md
- Обновлён: 2026-10-09
- HTML: https://affpapa.org/nevibecode/skills/data-engineering-medallion-pipeline

## Что делает

Скилл описывает конвейер, который забирает исходные данные из MinIO через Airbyte, загружает их в PostgreSQL и прогоняет через слои Bronze, Silver и Gold в DBT. Bronze извлекает поля из JSONB, Silver очищает, типизирует и удаляет дубликаты, а Gold готовит агрегаты и бизнес-метрики. Airflow связывает этапы через DAG-файлы.

В проекте также есть DBT-тесты качества, снимки SCD Type 2, скрипты загрузки CSV/JSON в MinIO и проверки соединений. Состояние сервисов отслеживается через Prometheus и Grafana, а метрики доступны для Power BI. Для запуска нужны Docker 20.10+, Docker Compose 2.0+ и минимум 8GB RAM; без этих условий локальный стек не запустится.

## Требования
- Работает с: PostgreSQL

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/data-engineering-medallion-pipeline/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/data-engineering-medallion-pipeline/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/data-engineering-medallion-pipeline/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/data-engineering-medallion-pipeline/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install reason-machines/data-skills data-engineering-medallion-pipeline
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/data-engineering-medallion-pipeline/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/reason-machines/data-skills --path skills/data-engineering-medallion-pipeline
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/data-engineering-medallion-pipeline/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/reason-machines/data-skills/tree/HEAD/skills/data-engineering-medallion-pipeline/SKILL.md

## Когда брать
- собрать ELT-конвейер с медальонными слоями
- загрузить данные из MinIO через Airbyte
- очистить и типизировать модели в DBT
- проверить качество данных автоматическими тестами
- связать этапы через DAG-файлы Airflow

## Примеры запросов агенту
- Собери локальный ELT-конвейер с Bronze, Silver и Gold на основе MinIO, Airbyte, PostgreSQL, DBT и Airflow.
- Настрой DBT-модели для очистки, типизации и удаления дубликатов в слое Silver.
- Добавь Airflow DAG для загрузки данных из MinIO и запуска проверок качества.

## Похожие
- [xlsx](https://affpapa.org/nevibecode/skills/xlsx.md) — скилл · 187223 установки
- [google-agents-cli-observability](https://affpapa.org/nevibecode/skills/google-agents-cli-observability.md) — скилл · 511300 установок
- [caveman-evidence-review](https://affpapa.org/nevibecode/skills/caveman-evidence-review.md) — скилл · 104500 установок
- [migration](https://affpapa.org/nevibecode/skills/migration.md) — скилл · 103900 установок
- [performance-optimization](https://affpapa.org/nevibecode/skills/performance-optimization.md) — скилл · 65200 установок
- [supabase](https://affpapa.org/nevibecode/skills/supabase.md) — скилл · 8 установок

Из того же набора: [reason-machines/data-skills](https://affpapa.org/nevibecode/by/reason-machines/data-skills.md) — 62 карточки

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md