К основному содержанию
скилл CX Codex

databricks-pipelines — скилл для Claude Code: как установить

Помогает проектировать пайплайны Lakeflow Declarative Pipelines на Databricks через Python или SQL. Задаёт правила для таблиц и Auto CDC до написания кода.

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add databricks/databricks-agent-skills --skill databricks-pipelines -a claude-code
Открыть на GitHub

Что делает databricks-pipelines

Скилл задаёт архитектуру конвейеров Lakeflow Spark Declarative Pipelines (ранее известных как Delta Live Tables). Он определяет правила выбора между Streaming Table и Materialized View, чтобы агент не пытался агрегировать потоковые данные через append-only таблицы. Для промежуточных вычислений скилл форсирует использование Temporary View, а объединение потоков предписывает выполнять через Append Flows вместо UNION.

Для фиксации изменений из потоков или снапшотов инструмент настраивает Auto CDC. Работа со снимками через SQL AUTO CDC FROM SNAPSHOT требует DBR 18.3+, тогда как на более ранних версиях рантайма придётся задействовать Python-вызов dp.create_auto_cdc_from_snapshot_flow. Выгрузка в сторонние системы вроде Kafka или Event Hubs через Sinks поддерживается исключительно на Python.

Перед началом работы потребуется установить databricks CLI версии не ниже 1.0.0 и настроить базовый скилл databricks-core. Сменить тип таблицы на лету не получится. Если перепутать Streaming Table и Materialized View, полный перезапуск пайплайна не спасёт — объект придётся удалять вручную.

Какие задачи решает

  • выбрать правильный тип между Streaming Table и Materialized View
  • настроить Auto CDC для обработки потоков событий или периодических снимков
  • организовать объединение нескольких потоков данных в одну таблицу через Append Flows
  • настроить экспорт данных в Kafka или Event Hubs через Python-синки
  • предотвратить ошибки синтаксиса CREATE OR REFRESH и неподдерживаемые типы колонок в CLUSTER BY

Примеры запросов агенту

  • Помоги спроектировать Streaming Table на Databricks с приёмом файлов через Auto Loader и проверками Expectations.
  • Напиши пайплайн на SQL для обработки периодических снапшотов с помощью AUTO CDC FROM SNAPSHOT.
  • Как объединить два потока данных в одну таблицу без использования union в Lakeflow Pipelines?

Как установить databricks-pipelines

1Через Skills CLI (Vercel)

npx skills add databricks/databricks-agent-skills --skill databricks-pipelines -a claude-code

2Вручную: положить файлы

~/.claude/skills/databricks-pipelines/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/databricks-pipelines/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о databricks-pipelines

Как установить databricks-pipelines в Claude Code?

Выполните команду npx skills add databricks/databricks-agent-skills --skill databricks-pipelines -a claude-code.

Что делает databricks-pipelines?

Скилл направляет агента при разработке декларативных конвейеров Lakeflow на Databricks. Он задаёт правила работы с потоковыми и материализованными таблицами, приёмом файлов через Auto Loader и механизмом Auto CDC.

Что нужно для работы databricks-pipelines?

Требуется установленный databricks CLI версии 1.0.0 или выше. Для авторизации и команд поиска данных рекомендуется заранее задействовать родительский скилл databricks-core.

Похожие скиллы

Все скиллы по теме «Данные и базы» →
sql-queries официальный anthropics Помогает писать и оптимизировать запросы под диалекты PostgreSQL, Snowflake, BigQuery, Redshift и Databricks SQL. Полезен при миграциях и расчёте витрин. CX Codex +1 4 500установок migrating-dbt-project-across-platforms dbt-labs Скилл помогает перенести dbt-проект между хранилищами данных с помощью dbt Fusion. Он находит различия в SQL-диалектах и сверяет логику через unit-тесты. CX Codex +1 526установок neon-ai-gateway neondatabase Скилл подключает вызовы LLM и эмбеддингов через Neon AI Gateway: одна учётная запись Neon вместо ключей OpenAI, Anthropic и Google. CX Codex +1 27 700установок integration-eventing-cdc-configure forcedotcom Генерирует метаданные Salesforce Change Data Capture для стандартных и кастомных объектов. Пригодится при настройке подписок на события изменений. CX Codex +1 5 100установок amazon-keyspaces aws Скилл обучает агента управлять Amazon Keyspaces для Apache Cassandra, рассчитывать цены и готовить миграции. Помогает избежать ошибок в поддержке возможностей базы. CX Codex +1 5 000установок etl-connector-strategy Samuel Berthe Помогает решить, стоит ли SaaS-продукту появляться источником в чужих ETL/ELT-каталогах, на какой платформе и какой путь сборки выбрать. CX Codex +1 8 000установок

Из того же набора7

databricks-core Настраивает работу с Databricks CLI: аутентификацию, выбор профиля и bundles. Нужен перед задачами с ресурсами Databricks и CLI. CX Codex +1 1 700установок databricks-dbsql Скилл помогает писать код для Databricks SQL: от хранимых процедур и пайп-синтаксиса до H3-геометрии и встроенных AI-функций. CX Codex +1 364установок databricks-unity-catalog Скилл помогает агенту управлять правами доступа, размечать маски колонок, настраивать внешние хранилища и опрашивать системные таблицы в Databricks Unity Catalog. CX Codex +1 325установок databricks-apps-python Помогает разворачивать бэкенд на Python в Databricks Apps, настраивать OAuth-авторизацию и связывать сервис с базами данных. CX Codex +1 305установок databricks-aibi-dashboards Скилл для сборки дашбордов Databricks AI/BI (бывшие Lakeview): подбирает виджеты, проверяет SQL и деплоит через CLI. CX Codex +1 305установок databricks-ai-functions Скилл учит агента вызывать встроенные AI-функции Databricks прямо в SQL и PySpark. Пригодится, когда нужно добавить модель в пайплайн без настройки эндпоинтов. CX Codex +1 306установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой