# dspy-finetune-bootstrap

Дистиллирует работающую DSPy-программу в веса меньшей модели через BootstrapFinetune, чтобы снизить стоимость инференса и ускорить ответы.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · ★ 124
- Автор: OmidZamani
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/OmidZamani/dspy-skills/tree/HEAD/skills/dspy-finetune-bootstrap/SKILL.md
- Обновлён: 2026-06-23
- HTML: https://affpapa.org/nevibecode/skills/dspy-finetune-bootstrap

## Что делает

Скилл ведёт агента по четырём фазам: подготовить программу-учителя, задать гиперпараметры обучения, обучить ученика и сохранить результат. Внутри — рабочие примеры на Python: `dspy.Module` с `ChainOfThought`, оптимизатор `BootstrapFinetune` с метрикой и `train_kwargs`, а также полный пайплайн классификатора с оценкой учителя и ученика через `Evaluate`.

Есть отдельный пример для RAG: ретривер `ColBERTv2` подключается через `dspy.configure(rm=...)`, и та же схема дистилляции применяется к пайплайну с поиском по passages. Справочная таблица собрала аргументы обучения — `learning_rate`, `num_train_epochs`, `per_device_train_batch_size`, `gradient_accumulation_steps`, `warmup_ratio`, `weight_decay`, `max_grad_norm`.

Обучение требует GPU, а провайдер и модель должны поддерживать файнтюнинг — иначе `BootstrapFinetune` не запустится. Сохранение идёт как JSON с состоянием: при загрузке архитектуру `TeacherQA` нужно воссоздать вручную, иначе `load` не сработает. Ученик может уступать учителю на части входов, а сама тренировка занимает часы или дни в зависимости от объёма данных.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OmidZamani/dspy-skills --skill dspy-finetune-bootstrap -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/dspy-finetune-bootstrap/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/dspy-finetune-bootstrap/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OmidZamani/dspy-skills --skill dspy-finetune-bootstrap -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/dspy-finetune-bootstrap/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OmidZamani/dspy-skills --skill dspy-finetune-bootstrap -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/dspy-finetune-bootstrap/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install OmidZamani/dspy-skills dspy-finetune-bootstrap
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/dspy-finetune-bootstrap/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OmidZamani/dspy-skills --skill dspy-finetune-bootstrap -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/OmidZamani/dspy-skills --path skills/dspy-finetune-bootstrap
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/dspy-finetune-bootstrap/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add OmidZamani/dspy-skills --skill dspy-finetune-bootstrap -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/OmidZamani/dspy-skills/tree/HEAD/skills/dspy-finetune-bootstrap/SKILL.md

## Когда брать
- снизить стоимость инференса после переноса программы на меньшую модель
- собрать пайплайн дистилляции от учителя к ученику в DSPy
- оценить качество ученика на отложенной выборке рядом с учителем
- подобрать гиперпараметры обучения для файнтюнинга
- сохранить и загрузить состояние обученной модели

## Примеры запросов агенту
- Настрой дистилляцию моей DSPy-программы через BootstrapFinetune, учитель — `openai/gpt-4o`
- Собери пайплайн файнтюнинга классификатора с метрикой точного совпадения метки и сохрани модель в `final_model.json`
- Оцени учителя и ученика на devset через `Evaluate` и покажи обе оценки

## Похожие
- [bailian-finetune](https://affpapa.org/nevibecode/skills/bailian-finetune.md) — скилл · 9200 установок
- [tao-finetune-cosmos-reason](https://affpapa.org/nevibecode/skills/tao-finetune-cosmos-reason.md) — скилл · 1600 установок
- [finetune](https://affpapa.org/nevibecode/commands/finetune.md) — команда · ★ 41823
- [transformers-huggingface](https://affpapa.org/nevibecode/skills/transformers-huggingface.md) — скилл · 758 установок
- [env-and-assets-bootstrap](https://affpapa.org/nevibecode/skills/env-and-assets-bootstrap.md) — скилл · 476100 установок
- [fastapi-microservices-development](https://affpapa.org/nevibecode/skills/fastapi-microservices-development.md) — скилл · 587 установок

Из того же набора: [omidzamani/dspy-skills](https://affpapa.org/nevibecode/by/omidzamani/dspy-skills.md) — 7 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md