К основному содержанию
скилл CX Codex

verify-training-semantics — скилл для Claude Code: проверка обучения

Скилл verify-training-semantics для Claude Code проверяет, сохраняет ли изменение обучения заданные инварианты и численные ограничения. Запускается перед run_screen, при разборе недействительных результатов и проверке изменений в обучении.

Apache-2.0 ★ 99 обновлён 2026-11-12

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add TokenRhythm/InfraRSI --skill verify-training-semantics -a claude-code
Открыть на GitHub

Что делает verify-training-semantics

Скилл сверяет кандидата на ускорение обучения с жёсткими ограничениями до запуска run_screen. Он проверяет токены, порядок данных, функцию потерь, параметры оптимизатора, точность вычислений и другие инварианты по квитанции harness. Отдельно разбирает численные отклонения, время шага и сигналы возможного обхода проверок.

Проверка охватывает и сохранение с последующим восстановлением состояния, а также экспорт модели. Недействительные результаты можно разобрать через read_receipt, а причину сбоя сохранить командой write_memory. Для проверки нужны квитанция harness и заранее заданный план FR; кандидата оценивают также на locked plan-B run.

Какие задачи решает

  • проверить инварианты перед запуском run_screen
  • найти причину недействительной квитанции
  • выявить пропуск потерь или изменение порядка данных
  • сверить численные отклонения и время шага
  • проверить сохранение и восстановление состояния модели

Примеры запросов агенту

  • Проверь кандидата перед run_screen: инварианты и численные ограничения должны пройти.
  • Разбери invalid_reasons этой квитанции и назови нарушенные ограничения.
  • Проверь изменение оптимизатора на пропуск градиентного клиппинга или перенос работы за таймер.

Как установить verify-training-semantics

1Через Skills CLI (Vercel)

npx skills add TokenRhythm/InfraRSI --skill verify-training-semantics -a claude-code

2Вручную: положить файлы

~/.claude/skills/verify-training-semantics/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/verify-training-semantics/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о verify-training-semantics

Как установить verify-training-semantics в Claude Code?

Выполни npx skills add TokenRhythm/InfraRSI --skill verify-training-semantics -a claude-code. Файл скилла находится по пути ~/.claude/skills/verify-training-semantics/SKILL.md.

Что делает verify-training-semantics?

Проверяет кандидатов на изменения в обучении по инвариантам, численным ограничениям и квитанциям harness. Ищет признаки изменения данных, потерь, точности вычислений и измерения времени.

Когда запускается verify-training-semantics?

Перед каждым run_screen, при разборе недействительной квитанции и проверке изменений в loss, optimizer, данных, точности, времени или overlays.

Исходный текст

SKILL.md · Apache-2.0
---
name: verify-training-semantics
description: Know exactly what may not change - invariants, numerics tolerance, reward hard constraints and the cheat catalogue - and self-check every candidate before spending a screen.
license: Apache-2.0
when_to_use: Before every run_screen; reading invalid_reasons; any change touching loss, optimizer, data, precision, timing or overlays; reviewing a candidate as verifier; 'is this allowed', 'why invalid', 'numerics', 'invariants', 'reward'.
metadata:
  author: InfraRSI A0 (human-authored)
  source: human-authored (A0)
  version: 1
  tags: [verification, invariants, numerics, reward, cheating, receipts, dense, moe]
---

# Verify training semantics

The harness measures and signs receipts; the reward contract decides. A candidate that violates any hard
constraint has reward -inf no matter how fast it is, and an arm that promotes an invalid candidate scores 0.

## Trigger conditions
- Every candidate before run_screen (self-check below), every invalid receipt, every L1 overlay.

## Required observations (receipt fields)
- `valid`, `invalid_reasons`, `invariants` (gbs_packs, physical_tokens_per_update, supervised_tokens_total, optimizer_steps, lr_schedule_digest, trainable_params, trainable_param_digest, data_order_digest, loss_definition_digest, router_topk, capacity_factor, num_experts, frozen_zone_digest, model_config_digest, dtype_census, backends_flags), `numerics`, `events`, `per_step[]` scalars (main_ce, aux_loss, grad_norm, lr), `step_time.inter_step_mean_s`.

## Rules: hard constraints (reward contract)
- All updates complete; invariants strict; numerics class E1 or better against FR plan A (AMENDMENT-001, pre-declared, never derived from the candidate): main CE relative deviation <= 0.005 per step and <= 0.002 as a window mean; grad norm <= 0.01 at update 1 and |mean over the window of ln(gn_cand/gn_ref)| <= 0.10; per-step grad norm from update 2 on is report-only noise (do not chase it); two adjacent updates with bitwise-equal (main CE, grad norm) are invalid.
- dtype census (bf16 params, fp32 grads/master/exp_avg/exp_avg_sq) and torch.backends flags are audited independently: a silent precision drop is invalid even inside tolerance.
- Peak reserved <= 78 GiB (H100-80GB), 0 allocator OOMs, 0 NCCL errors, 0 NaN/Inf, tail step ratio <= 1.25.
- InterStep consistency within 2%; frozen-zone digest unchanged; receipt signed by the harness; lifecycle for promotion (save = restore state digest bitwise, first resumed update CE <= 1e-4 and grad norm <= 5e-3, later CE within the task tolerance, export forward rel_l2 <= 0.05 and top-1 >= 0.90); plan-B replay must keep StepTime within margin and the same invariants.

## Rules: cheat catalogue (each has a detector)
- Cross-update cache or stale intermediates -> single-update lifetime assertion, plan-B replay, bitwise checks.
- Skipping MTP/aux loss, grad clipping or grad-norm reduction -> loss-definition digest, tracked scalars, optimizer.step and clip call counts.
- Fewer micro-batches, shorter sequences, easier or reordered data -> physical/supervised token counts, data-order digest.
- Silent precision drop (TF32, FP16/BF16/FP8 state or activations) -> dtype census, backends flags audit.
- Work outside the timer (deferred optimizer step, next-step prefetch of compute) -> InterStep consistency; timers are frozen.
- Timer or receipt tampering -> frozen-zone digest, harness re-derivation from per-rank signals.
- Shrinking the trainable set, changing router top-k or capacity -> parameter census, model-config digest, router statistics.
- Reusing old gradients or faking logs -> gradient provenance, signals/receipt cross-check.
- Component faster, whole update slower -> only whole-update StepTime is accepted.
- Node or concurrency artifacts -> same-node pairing and the locked scoring run.

## Allowed actions
- Pre-screen self-check (answer each before run_screen): (1) packs, seq, steps, data untouched? (2) loss, aux, clip, LR, optimizer untouched? (3) precision and backends flags untouched? (4) nothing moved outside the update or across updates? (5) trainable set and router untouched? (6) overlay only in the mutable zone and hooks intact? (7) a concrete whole-update mechanism visible in the parent receipt?
- read_receipt on invalid results; write_memory with the failure reason so it is not repeated.

## Failure signals
- invalid_reasons naming an invariant, numerics, InterStep, or frozen-zone digest.
- A speedup that is too large for its mechanism (check tokens, steps and InterStep first).

## Verification
- Receipt valid=true; invariants equal to FR; numerics class E0/E1 with passed=true; locked plan-B scoring run confirms.

## Success case (real)
- SFT0807 E06: ordered-stochastic-rounding batched 8-bit AdamW (moment/update math batched, stochastic rounding kept in the original per-parameter order) passed strict replay exactly (parameters, optimizer state, RNG, four resume directions) and went 1.795812 -> 1.593382 s/update (+12.70% supervised throughput). The gain was accepted only after replay proved the semantics. (reports/sft0807_20260925/E06_REPLAY_REPORT.md)

## Failure case (real)
- A mesh-grouped fused AdamW reached +5.62% throughput but kept BF16 moments for most parameters and dropped stochastic rounding; final loss after 12 steps was 0.57656 versus 0.16340. Not adopted. Separately, "pseudo-W" variants passed review with performance flags that no code consumed. Speed without semantic checks, and flags without execution evidence, are not results. (winh8_20260925/REPORT.md; rsi_infra_execution_20261018/BASELINE_SUPPORT_AND_W_MANIFEST.md)

© InfraRSI A0 (human-authored) · Apache-2.0 · TokenRhythm/InfraRSI

Похожие скиллы

Каталог скиллов SKILL.md →
training-report samber Скилл training-report собирает структурированный отчёт о тренинге или воркшопе через интервью и экспортирует черновик Markdown в итоговый документ .docx. CX Codex +1 5 100установок trace-to-training-data Seth Hobson Скилл trace-to-training-data для Claude Code преобразует размеченные трейсы и логи в примеры SFT и пары DPO. Превращает собранные оценки запусков в датасет. CX Codex +1 2 600установок grpo-rlvr-training Seth Hobson Скилл grpo-rlvr-training для Claude Code настраивает обучение моделей рассуждениям через GRPO и RLVR с проверяемыми наградами. Работает с задачами, проверяемыми тестами, схемами и точными ответами. CX Codex +1 2 600установок nemo-automodel-distributed-training NVIDIA Скилл nemo-automodel-distributed-training для Claude Code и Codex. Подсказывает стратегию распределённого обучения в NeMo AutoModel и настройки YAML для параллелизма, когда модель не влезает в одну GPU. CX Codex +1 2 000установок nemo-mbridge-perf-moe-vlm-training NVIDIA Скилл nemo-mbridge-perf-moe-vlm-training с практическими рекомендациями по обучению MoE VLM в Megatron Bridge. Помогает настроить FSDP или 3D-параллелизм и избежать падений по OOM. CX Codex +1 1 900установок openclaw-rl-training reason-machines Скилл openclaw-rl-training разворачивает OpenClaw-RL: асинхронный фреймворк, который превращает живые диалоги в обучающие сигналы для персонального агента. CX Codex +1 1 300установок

Из того же набора19

Весь набор →
validate-training-lifecycle Скилл validate-training-lifecycle для Claude Code проверяет полный цикл обучения модели: сохранение чекпойнта, возобновление в новом процессе, экспорт весов и сравнение результатов. CX Codex +1 ★ 99звёзд репо optimize-training-kernels Скилл optimize-training-kernels для Claude Code настраивает fusion и выбор attention backend, чтобы ускорить обучение без выхода за допуски численной точности. Запускается при разборе медленных ядер или проверке предложенной замены. CX Codex +1 ★ 99звёзд репо recompute-policy Скилл recompute-policy для Claude Code помогает выбрать полный, выборочный или отключённый recompute по запасу памяти и устройству модели. Включается при настройке activation checkpointing, OOM или выборе recompute_modules. CX Codex +1 ★ 99звёзд репо moe-ep-communication Скилл moe-ep-communication для Claude Code настраивает параллелизм экспертов и обмен токенами в MoE на Megatron-Core 0.18.2. Включается при выборе EP, настройке диспетчера или разборе узких мест в профиле. CX Codex +1 ★ 99звёзд репо manage-memory-lifetimes Скилл manage-memory-lifetimes для Claude Code разбирает сбои с GPU-памятью и помогает выбрать настройки размещения, выгрузки и аллокатора. Включается при OOM, повторах аллокатора или нехватке запаса памяти. CX Codex +1 ★ 99звёзд репо discover-training-system Скилл discover-training-system для Claude Code помогает выяснить, как устроена система обучения и какой путь кода исполняется. Запускается в начале задачи и при расхождении между настройкой и результатом. CX Codex +1 ★ 99звёзд репо choose-parallel-layout Скилл choose-parallel-layout для Claude Code подбирает схему параллелизма по памяти на ранге и стоимости коллективных операций. Срабатывает при OOM, длинных последовательностях и настройке MoE или нескольких узлов. CX Codex +1 ★ 99звёзд репо infrarsi-optimize Скилл infrarsi-optimize для Claude Code ускоряет существующее обучение на GPU, сохраняя задачу обучения. Запускает проверяемый поиск настроек и изменений кода для сокращения времени шага или роста пропускной способности. CX Codex +1 ★ 99звёзд репо

Спонсоры проекта

Компании, которые помогают держать аналитику открытой