К основному содержанию
скилл CX Codex

data-engineering-medallion-pipeline — скилл для Claude Code: установка

Скилл помогает агенту собирать ELT-конвейеры с MinIO, Airbyte, PostgreSQL, DBT и Airflow. Нужен для медальонной архитектуры Bronze/Silver/Gold.

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a claude-code
Открыть на GitHub

Что делает data-engineering-medallion-pipeline

Скилл описывает конвейер, который забирает исходные данные из MinIO через Airbyte, загружает их в PostgreSQL и прогоняет через слои Bronze, Silver и Gold в DBT. Bronze извлекает поля из JSONB, Silver очищает, типизирует и удаляет дубликаты, а Gold готовит агрегаты и бизнес-метрики. Airflow связывает этапы через DAG-файлы.

В проекте также есть DBT-тесты качества, снимки SCD Type 2, скрипты загрузки CSV/JSON в MinIO и проверки соединений. Состояние сервисов отслеживается через Prometheus и Grafana, а метрики доступны для Power BI. Для запуска нужны Docker 20.10+, Docker Compose 2.0+ и минимум 8GB RAM; без этих условий локальный стек не запустится.

Какие задачи решает

  • собрать ELT-конвейер с медальонными слоями
  • загрузить данные из MinIO через Airbyte
  • очистить и типизировать модели в DBT
  • проверить качество данных автоматическими тестами
  • связать этапы через DAG-файлы Airflow

Примеры запросов агенту

  • Собери локальный ELT-конвейер с Bronze, Silver и Gold на основе MinIO, Airbyte, PostgreSQL, DBT и Airflow.
  • Настрой DBT-модели для очистки, типизации и удаления дубликатов в слое Silver.
  • Добавь Airflow DAG для загрузки данных из MinIO и запуска проверок качества.

Как установить data-engineering-medallion-pipeline

1Через Skills CLI (Vercel)

npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a claude-code

2Вручную: положить файлы

~/.claude/skills/data-engineering-medallion-pipeline/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/data-engineering-medallion-pipeline/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о data-engineering-medallion-pipeline

Как установить data-engineering-medallion-pipeline в Claude Code?

Выполните npx skills add reason-machines/data-skills --skill data-engineering-medallion-pipeline -a claude-code, затем проверьте файл ~/.claude/skills/data-engineering-medallion-pipeline/SKILL.md.

Что делает data-engineering-medallion-pipeline?

Скилл помогает настроить конвейер MinIO → Airbyte → PostgreSQL, преобразовать данные в DBT по слоям Bronze/Silver/Gold и оркестрировать запуск через Airflow.

Что нужно для запуска конвейера?

Нужны Docker 20.10+, Docker Compose 2.0+ и минимум 8GB RAM. Сервисы запускаются локально командами make setup и make start.

Похожие скиллы

Все скиллы по теме «Данные и базы» →
xlsx официальный anthropics Работает с табличными файлами: создаёт, читает, правит и преобразует книги. Подходит, когда итогом должен стать файл Excel или другой табличный формат. 187 223установок google-agents-cli-observability официальный Google Помогает настроить трассировку и сбор данных о работе ИИ-агентов, включая агентов на ADK. Пригодится, когда нужно разбирать выполнение запросов или наблюдать за агентом после развёртывания. CX Codex +1 511 300установок caveman-evidence-review JuliusBrussee Скилл читает данные Caveman Cloud о расходах LLM, трассах и маршрутизации. Подходит для проверки того, куда уходит бюджет проекта. CX Codex +1 104 500установок migration JuliusBrussee Скилл задаёт правила безопасных миграций схем, данных и API с обязательным откатом. Пригодится при изменениях, где нельзя терять данные или ломать совместимость. CX Codex +1 103 900установок performance-optimization addyosmani Скилл для агентов ИИ-кодинга: сначала замеряет, потом чинит узкое место — от Core Web Vitals до N+1 запросов и индексов в базе. CX Codex +1 65 200установок supabase официальный supabase Скилл помогает настраивать базу данных, аутентификацию и RLS в Supabase без скрытых дыр в безопасности. CX Codex GP ChatGPT 8установок

Из того же набора62

enterprise-data-engineering-pipeline-ssis-pyspark Шаблоны и инструкции для построения хранилища данных на SQL Server, пакетов SSIS и аналитики на PySpark. Помогает настроить схему «звезда» и проверку качества сырых данных. CX Codex +1 2 000установок data-engineering-study-material Скилл-справочник по дата-инженерии: объясняет концепции, показывает примеры пайплайнов и готовит к собеседованиям. CX Codex +1 2 000установок analytics-tracking-automation Скилл проводит агента по всей цепочке настройки аналитики: обход сайта, схема событий GA4, синхронизация с GTM, проверка в preview и публикация контейнера. CX Codex +1 2 000установок altimate-data-engineering-skills Набор сценариев для аналитиков и инженеров данных, работающих с dbt и Snowflake. Помогает проектировать модели, находить ошибки сборки и оптимизировать медленные запросы. CX Codex +1 2 000установок options-analytics-agent-langgraph Собирает агента на LangGraph для разбора опционов: данные Polygon.io, кэш в ChromaDB, память между сессиями. Пригодится, если нужен свой торговый ассистент, а не готовый сервис. CX Codex +1 2 000установок harvard-artifacts-collection-data-engineering Скилл собирает данные из Harvard Art Museums API в MySQL и показывает их в Streamlit. Пригодится, когда нужен рабочий пример ETL от API до дашборда. CX Codex +1 1 900установок harvard-artifacts-etl-streamlit-analytics Помогает агенту собрать ETL-пайплайн и аналитический дашборд на данных Harvard Art Museums API: Python, SQL и Streamlit. CX Codex +1 1 900установок harvard-artifacts-collection-data-engineering-analytics Шаблонный пайплайн для извлечения данных из API Музеев Гарварда, загрузки в базу MySQL и построения дашборда на Streamlit. CX Codex +1 1 900установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой