# ml-experiment-standards

Заставляет агента проверять утечки, выбирать сплиты и метрики до обучения модели. Пригодится, когда результат нужно воспроизвести, а не просто получить цифру.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · ★ 35
- Автор: Muhammed Enes Duran
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/muend/geoai-skills/tree/HEAD/skills/ml-experiment-standards/SKILL.md
- Обновлён: 2026-10-17
- HTML: https://affpapa.org/nevibecode/skills/ml-experiment-standards

## Что делает

Скилл подключается, когда вы обучаете, валидируете, тюните или бенчмаркаете предиктивную модель. Он требует сначала показать распределения, пропуски, выбросы и баланс целевой переменной: без этого выбор метрики и лосса превращается в угадывание.

Дальше идёт аудит утечек. На каждом сплите агент отвечает на вопрос, нет ли в обучающей выборке косвенной информации о тестовых объектах, и записывает ответ комментарием в коде. Для пространственных данных он берёт spatial block CV, для групп — `GroupKFold`, для временных рядов — `TimeSeriesSplit`. Масштабирование и кодирование допускаются только на train, через `sklearn.pipeline.Pipeline`.

Метрику нельзя выбрать по умолчанию: нужна одна фраза обоснования, а к каждой оценке — доверительный интервал или разброс по фолдам. Скрипт обучения строится по шаблону с `dataclass`-конфигом, фиксированным seed и записью `runs/run_meta.json`. Пропустите аудит утечек — и uplift-выводы по модели не будут ничего стоить, потому что пост-сплит препроцессинг и неучтённая зависимость тестовых объектов ломают их первыми.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add muend/geoai-skills --skill ml-experiment-standards -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/ml-experiment-standards/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/ml-experiment-standards/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add muend/geoai-skills --skill ml-experiment-standards -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/ml-experiment-standards/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add muend/geoai-skills --skill ml-experiment-standards -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/ml-experiment-standards/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install muend/geoai-skills ml-experiment-standards
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/ml-experiment-standards/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add muend/geoai-skills --skill ml-experiment-standards -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/muend/geoai-skills --path skills/ml-experiment-standards
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/ml-experiment-standards/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add muend/geoai-skills --skill ml-experiment-standards -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/muend/geoai-skills/tree/HEAD/skills/ml-experiment-standards/SKILL.md

## Когда брать
- проверить, не протекает ли тестовая выборка в обучение
- выбрать сплит для пространственных или сгруппированных данных
- обосновать метрику вместо accuracy по умолчанию
- добавить доверительные интервалы к метрикам модели
- собрать воспроизводимый скрипт обучения с фиксированным seed

## Примеры запросов агенту
- Обучи модель на этих данных и сначала покажи аудит утечек и обоснование сплита
- Проверь, что препроцессинг фитится только на train, и переделай пайплайн
- Сравни baseline и модель по фолдам и скажи, есть ли вообще разница

## Похожие
- [minimal-run-and-audit](https://affpapa.org/nevibecode/skills/minimal-run-and-audit.md) — скилл · 476200 установок
- [ai-research-explore](https://affpapa.org/nevibecode/skills/ai-research-explore.md) — скилл · 337400 установок
- [experiment-code](https://affpapa.org/nevibecode/skills/experiment-code.md) — скилл · 1600 установок
- [experiment-craft](https://affpapa.org/nevibecode/skills/experiment-craft.md) — скилл · 373 установки
- [measure-experiment-design](https://affpapa.org/nevibecode/skills/measure-experiment-design.md) — скилл · 754 установки
- [run-experiment](https://affpapa.org/nevibecode/skills/run-experiment.md) — скилл · 523 установки

Из того же набора: [muend/geoai-skills](https://affpapa.org/nevibecode/by/muend/geoai-skills.md) — 6 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md