# data-engineer

Скилл помогает проектировать пайплайны данных, хранилища и потоковую обработку. Пригодится для ETL, качества данных и оркестрации.

- скилл · `type=skill` · Claude Code · 152 установки
- Автор: davila7
- Лицензия: не указана · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/davila7/claude-code-templates/tree/HEAD/cli-tool/components/skills/ai-research/data-engineer
- Обновлён: 2026-10-24
- HTML: https://affpapa.org/nevibecode/skills/data-engineer

## Что делает

Скилл задаёт рабочий процесс для инженерии данных: сначала определить источники, SLA и контракты данных, затем выбрать архитектуру, хранилище и оркестратор. После этого агент помогает продумать загрузку, преобразование, валидацию и мониторинг качества и затрат.

В описании есть Apache Spark, dbt, Apache Airflow, Kafka, Flink, lakehouse-подходы, облачные сервисы AWS, Azure и GCP, а также инструменты для моделирования, lineage и контроля доступа. Отдельно учитываются защита PII и проверка данных перед записью в production sinks.

Без доступа к источникам данных или системам хранения этот скилл применять нельзя. Он рассчитан на Claude Code и не подходит для одной лишь разведочной аналитики или разработки ML-моделей без пайплайнов.

## Установка

### Claude Code (родная платформа)

1. **Через claude-code-templates**
```bash
npx claude-code-templates@latest --skill ai-research/data-engineer
```

2. **Через Skills CLI (Vercel)**
```bash
npx skills add davila7/claude-code-templates --skill data-engineer -a claude-code
```

3. **Вручную: положить файлы**
- Файл: `~/.claude/skills/data-engineer/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/data-engineer/

### Codex

**Вручную: положить файлы**
- Файл: `.agents/skills/data-engineer/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

**Вручную: положить файлы**
- Файл: `.cursor/skills/data-engineer/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install davila7/claude-code-templates data-engineer
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/data-engineer/SKILL.md`

### Gemini CLI

**Командой платформы**
```bash
gemini skills install https://github.com/davila7/claude-code-templates --path cli-tool/components/skills/ai-research/data-engineer
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/data-engineer/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/davila7/claude-code-templates/tree/HEAD/cli-tool/components/skills/ai-research/data-engineer

## Когда брать
- спроектировать batch- или streaming-пайплайн
- собрать архитектуру data warehouse или lakehouse
- настроить загрузку, преобразование и проверку данных
- продумать оркестрацию через Apache Airflow
- организовать контроль качества и lineage

## Примеры запросов агенту
- Спроектируй batch-пайплайн: определи источники, SLA, контракты данных и этапы валидации.
- Сравни архитектуры lakehouse для Apache Spark, dbt и Apache Airflow с учётом качества данных.
- Разбери потоковую обработку через Kafka и Flink и предложи схему контроля доступа к PII.

## Похожие
- [xlsx](https://affpapa.org/nevibecode/skills/xlsx.md) — скилл · 187223 установки
- [google-agents-cli-observability](https://affpapa.org/nevibecode/skills/google-agents-cli-observability.md) — скилл · 511300 установок
- [caveman-evidence-review](https://affpapa.org/nevibecode/skills/caveman-evidence-review.md) — скилл · 104500 установок
- [migration](https://affpapa.org/nevibecode/skills/migration.md) — скилл · 103900 установок
- [performance-optimization](https://affpapa.org/nevibecode/skills/performance-optimization.md) — скилл · 65200 установок
- [supabase](https://affpapa.org/nevibecode/skills/supabase.md) — скилл · 8 установок

Из того же набора: [davila7/claude-code-templates](https://affpapa.org/nevibecode/by/davila7/claude-code-templates.md) — 495 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md