# harvard-art-museums-data-engineering-pipeline

Скилл для сборки ETL-пайплайна на данных Harvard Art Museums API: нормализация JSON в SQL, аналитические запросы и дашборд на Streamlit.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 1800 установок · ★ 5
- Автор: reason-machines
- Лицензия: LicenseRef-Unknown · policy=link-only · показываем только описание, файл — у автора
- Исходник: https://github.com/reason-machines/data-skills/tree/HEAD/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md
- Обновлён: 2026-10-09
- HTML: https://affpapa.org/nevibecode/skills/harvard-art-museums-data-engineering-pipeline

## Что делает

Скилл описывает полный путь от запроса к Harvard Art Museums API до интерактивного дашборда. Сначала данные забираются постранично с ограничением частоты запросов, затем вложенный JSON раскладывается по нормализованным таблицам: метаданные объекта, изображения и цвета идут в отдельные таблицы со связью по `objectid`. Схема создаётся автоматически во время загрузки.

Внутри — примеры кода на Python: `requests` для выгрузки, `pandas` для преобразований, `mysql-connector-python` для записи в базу, `plotly` и `streamlit` для визуализации. Аналитическая часть опирается на набор готовых SQL-запросов к собранным таблицам.

Перед запуском понадобится ключ Harvard Art Museums API и доступ к базе MySQL или TiDB Cloud. Параметры подключения и ключ хранятся в `.env`: `HARVARD_API_KEY`, `DB_HOST`, `DB_PORT`, `DB_USER`, `DB_PASSWORD`, `DB_NAME`. Без заполненного `.env` ни выгрузка, ни запись в базу не пройдут. Дашборд поднимается командой `streamlit run app.py` и слушает `http://localhost:8501`.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill harvard-art-museums-data-engineering-pipeline -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/harvard-art-museums-data-engineering-pipeline/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill harvard-art-museums-data-engineering-pipeline -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill harvard-art-museums-data-engineering-pipeline -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install reason-machines/data-skills harvard-art-museums-data-engineering-pipeline
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill harvard-art-museums-data-engineering-pipeline -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/reason-machines/data-skills --path skills/harvard-art-museums-data-engineering-pipeline
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add reason-machines/data-skills --skill harvard-art-museums-data-engineering-pipeline -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/reason-machines/data-skills/tree/HEAD/skills/harvard-art-museums-data-engineering-pipeline/SKILL.md

## Когда брать
- выгрузить объекты из Harvard Art Museums API постранично
- разложить вложенный JSON по нормализованным SQL-таблицам
- спроектировать схему с внешними ключами для коллекции
- написать аналитические SQL-запросы по собранным данным
- собрать дашборд на Streamlit с графиками Plotly

## Примеры запросов агенту
- Собери ETL-пайплайн: выгрузи объекты из Harvard Art Museums API и загрузи их в MySQL
- Сделай нормализованную схему для метаданных, изображений и цветов объектов
- Собери дашборд на Streamlit с графиками Plotly по данным коллекции

## Похожие
- [xlsx](https://affpapa.org/nevibecode/skills/xlsx.md) — скилл · 187223 установки
- [google-agents-cli-observability](https://affpapa.org/nevibecode/skills/google-agents-cli-observability.md) — скилл · 511300 установок
- [caveman-evidence-review](https://affpapa.org/nevibecode/skills/caveman-evidence-review.md) — скилл · 104500 установок
- [migration](https://affpapa.org/nevibecode/skills/migration.md) — скилл · 103900 установок
- [performance-optimization](https://affpapa.org/nevibecode/skills/performance-optimization.md) — скилл · 65200 установок
- [supabase](https://affpapa.org/nevibecode/skills/supabase.md) — скилл · 8 установок

Из того же набора: [reason-machines/data-skills](https://affpapa.org/nevibecode/by/reason-machines/data-skills.md) — 62 карточки

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md