К основному содержанию
скилл CX Codex

harness-experiment — скилл для Claude Code

Скилл harness-experiment для Claude Code организует управляемые эксперименты с изменениями в агенте. Запускается при настройке промптов, инструментов или структуры субагентов для оценки влияния изменений.

MIT ★ 741 обновлён 2026-11-11

Установить в Claude Code · Через маркетплейс плагинов Все способы и платформы ↓
/plugin marketplace add MiniMax-AI/mcode-stack
/plugin install ronny@mcode-stack
Открыть на GitHub

Что делает harness-experiment

Этот инструмент обеспечивает строгую инженерную практику при изменении кода агента. Скилл помогает фиксировать базовые показатели до внедрения правок, проводить изолированные тесты для каждого изменения и сравнивать результаты через метрики производительности.

Процесс включает запуск на наборе тестовых задач, анализ количества токенов, частоты использования кеша и времени отклика. Для работы требуется подготовить набор контрольных задач, которые не были написаны тестируемым агентом самостоятельно.

Результат фиксируется в виде отчёта, содержащего гипотезу, описание изменения и таблицу метрик. Без записи результатов эксперимент не считается завершённым.

Какие задачи решает

  • замерить эффективность изменений в промптах
  • сравнить потребление токенов до и после правки
  • вычислить изменение частоты успешных ответов
  • отследить регрессии при смене версий моделей

Примеры запросов агенту

  • Запусти harness-experiment для оценки изменений в system_prompt
  • Проведи harness-experiment после добавления нового инструмента
  • Сравни результаты текущего агента через harness-experiment

Как установить harness-experiment

1Через маркетплейс плагинов

/plugin marketplace add MiniMax-AI/mcode-stack
/plugin install ronny@mcode-stack

Команда ставит плагин ronny целиком, со всеми его скиллами

2Через Skills CLI (Vercel)

npx skills add MiniMax-AI/mcode-stack --skill harness-experiment -a claude-code

3Вручную: положить файлы

~/.claude/skills/harness-experiment/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/harness-experiment/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о harness-experiment

Как установить harness-experiment в Claude Code?

Выполните /plugin marketplace add MiniMax-AI/mcode-stack и затем /plugin install ronny@mcode-stack.

Что делает harness-experiment?

Он структурирует процесс внесения правок в агент через контролируемое тестирование, позволяя измерять влияние каждого изменения на успех задач, стоимость токенов и скорость работы.

Что нужно для работы harness-experiment?

Необходим набор независимых контрольных задач (eval), которые не были созданы самим тестируемым агентом.

Исходный текст

SKILL.md · MIT
---
name: harness-experiment
description: Run a harness change as a controlled experiment, with a small end-to-end eval, one change at a time, repeated runs, and looking at flipped tasks, request count, tokens and cache hits, not just the average score. Use before and after changing prompts, tools, skills, subagent layout, compaction or other agent scaffolding, or when asked whether a change helped.
---

# Harness Experiment

Harness engineering moves forward by experiment. The principle:
**measure first, change one thing at a time, keep what survives testing.**

Companion to MCode Engineering Notes 01, 02 and 05.

## 1. Before changing anything

1. **State the hypothesis** in one sentence: what you change, what you expect
   to improve, and what might get worse.
2. **Pick or build a small end-to-end eval.** A handful of golden tasks is
   enough to start. Include tasks for every chain the agent runs in production
   and every rule it must not break. The checks must not be written by the
   agent under test; tests an agent writes for itself share its blind spots.
3. **Pin everything else.** Same model version, same settings, same tool set,
   same repository state. If the model itself changes, treat that upgrade as
   the one change and rerun the same eval.
4. **Record a baseline.** Run each task several times; agent runs are noisy and
   one run can hide a failure.

## 2. Make exactly one change

One prompt edit, one tool moved, one subagent merged, one threshold changed.
If you need several, run several experiments.

## 3. Measure the same things on both sides

For baseline and candidate, record:

| Metric | Why |
| --- | --- |
| Pass rate per task (over repeated runs) | Quality, with noise visible |
| Flipped tasks (pass to fail, fail to pass) | Averages hide regressions |
| Model requests per task | Many wins come from fewer round trips |
| Input and output tokens | Cost and context pressure |
| Cache hit rate | A change can save tokens but break caching |
| Wall-clock time | Latency the user feels |

Only report numbers you actually measured, with run counts.

## 4. Read the result

- Open every flipped task and read the trajectory, not just the final answer
  (see `trajectory-review`). Find out why it flipped.
- A change that keeps the score flat but cuts requests or tokens can be a win.
  A change that raises the average while breaking a must-not-break rule is not.
- If the evidence is mixed, keep the simpler version.
- Write the result down: hypothesis, change, numbers, flipped tasks, decision.
  Next to the code (a PR description or an experiments log) is best.

## 5. Re-check after model upgrades

Scaffolding built around a model's weak spots ages fastest. After each model
upgrade, rerun the eval and ask which parts of the harness still earn their
keep.

## Output

A short experiment record: hypothesis, the single change, eval set and run
count, the metric table for baseline and candidate, flipped tasks with causes,
and the decision (keep / revert / iterate).

© Ronny (MiniMax Code team) · MIT · MiniMax-AI/mcode-stack

Похожие скиллы

Все скиллы по теме «Настройка агента: память, контекст, субагенты» →
evaluation-harness patricio0312rev Скилл evaluation-harness для Claude Code и ещё пяти агентных платформ, который выстраивает повторяемую оценку LLM-приложений: golden-датасеты, рубрики скоринга, пороги pass/fail и отчёты о регрессиях. CX Codex +1 275установок experiment-audit wanshuiyin Скилл experiment-audit проверяет честность научных экспериментов через независимый ревьюер. Находит поддельные метрики и придуманные цифры до публикации отчётов. CX Codex +1 524установок harness:evolve raphaelchristi Скилл harness:evolve для Claude Code запускает цикл оптимизации агента с оценкой в LangSmith и изоляцией кандидатов в git worktree. Цикл предназначен для планомерного повышения качества работы агентов. CX Codex +1 ★ 58звёзд репо Research Harness Engineer официальный github Субагент Research Harness Engineer для экспериментов и бенчмарков: строит харнесс оценки, который трудно обмануть, и следит, чтобы каждая цифра в отчёте была настоящей. CX Codex +1 ★ 41 430звёзд репо harness:certify raphaelchristi Скилл harness:certify для Claude Code трижды оценивает эволюционировавшего агента и считает среднее и стандартное отклонение. Показывает стабильность результата между запусками. CX Codex +1 ★ 58звёзд репо evaluation-lm-evaluation-harness Orchestra Research Скилл evaluation-lm-evaluation-harness для Claude Code, который запускает оценку языковых моделей по 60+ академическим бенчмаркам: MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag. Работает с моделями через HuggingFace, vLLM и API. CX Codex +1 92установок

Из того же набора27

Весь набор →
handoff-doc Скилл handoff-doc для Claude Code фиксирует контекст задачи в отдельный файл перед сбросом сессии или передачей работы. Документ помогает продолжить процесс без чтения всей истории чата. CX Codex +1 ★ 741звёзд репо review-capacity-check Скилл review-capacity-check для Claude Code проверяет очередь агентских результатов перед новым запуском. Он запускается перед параллельной сессией и на еженедельном разборе. CX Codex +1 ★ 741звёзд репо taste-to-checks Скилл taste-to-checks для Claude Code превращает повторяющиеся замечания к коду в тесты, линтеры, хуки, шаги CI или правила проекта. Он срабатывает после повторного промаха в ревью. CX Codex +1 ★ 741звёзд репо trajectory-review Скилл trajectory-review для Claude Code разбирает путь агента от запроса до результата. Срабатывает после сбоя, завершённой задачи или смены результата eval. CX Codex +1 ★ 741звёзд репо independent-review Скилл independent-review для Claude Code проверяет изменения из чистого контекста перед слиянием. Он сравнивает diff с требованием и результатами тестов. CX Codex +1 ★ 741звёзд репо agent-brief Скилл agent-brief для Claude Code стандартизирует передачу задач агентам через структурированные брифы. Помогает чётко описать цели, гипотезы и критерии проверки до старта работы над задачей. CX Codex +1 ★ 741звёзд репо evidence-first-review Скилл evidence-first-review для Claude Code проверяет завершённую работу агента по журналу команд и результатам. Подключается перед слиянием PR или принятием анализа. CX Codex +1 ★ 741звёзд репо pr-description Скилл pr-description для Claude Code составляет и проверяет описания pull request по фиксированной структуре для GitHub и GitLab. Запускается при открытии PR или по замечаниям MCode Review. CX Codex +1 ★ 741звёзд репо

Спонсоры проекта

Компании, которые помогают держать аналитику открытой