К основному содержанию
скилл CX Codex

nemo-relay-instrument-typed-wrappers — скилл для Claude Code

Скилл nemo-relay-instrument-typed-wrappers помогает настроить типизированные обёртки и кодеки провайдеров в NeMo Relay, сохраняя сериализацию в JSON для промежуточного слоя.

Apache-2.0 182 установок ★ 4 106 обновлён 2026-10-23

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add NVIDIA/skills --skill nemo-relay-instrument-typed-wrappers -a claude-code
Открыть на GitHub

Что делает nemo-relay-instrument-typed-wrappers

Скилл задаёт правила интеграции строгих типов данных в NeMo Relay при работе с инструментами и LLM. Вместо передачи сырого JSON приложение использует кодеки: PydanticCodec, DataclassCodec или BestEffortAnyCodec для Python, а также реализации Codec<T> для Node.js. Они переводят объекты в JSON перед отправкой событий и восстанавливают типы при возврате в колбэки.

Для работы с провайдерами моделей предусмотрены кодеки OpenAIChatCodec, OpenAIResponsesCodec и AnthropicMessagesCodec. Они нормализуют параметры вызовов и ответы, извлекая токены, вызовы инструментов и служебные метаданные.

Промежуточные перехватчики (middleware) работают исключительно с JSON, а не с типизированными объектами. Из-за этого кодек обязан сохранять неизвестные поля и возвращать совместимый с JSON формат, иначе сломается конвейер обработки.

Какие задачи решает

  • Встроить валидацию через Pydantic или dataclass на границах вызовов NeMo Relay
  • Нормализовать ответы OpenAI и Anthropic для middleware без изменения ответа для вызывающего кода
  • Сохранить немоделированные поля провайдера при проходе через перехватчики
  • Настроить типизированный кодек Codec<T> в среде Node.js

Примеры запросов агенту

  • Добавь Pydantic-кодек для входных моделей в конвейер NeMo Relay
  • Настрой AnthropicMessagesCodec, чтобы перехватчики видели разбор вызовов инструментов
  • Проверь, сохраняются ли нетипизированные поля при декодировании ответа провайдера

Как установить nemo-relay-instrument-typed-wrappers

1Через Skills CLI (Vercel)

npx skills add NVIDIA/skills --skill nemo-relay-instrument-typed-wrappers -a claude-code

2Вручную: положить файлы

~/.claude/skills/nemo-relay-instrument-typed-wrappers/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/nemo-relay-instrument-typed-wrappers/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о nemo-relay-instrument-typed-wrappers

Как установить nemo-relay-instrument-typed-wrappers в Claude Code?

Выполните команду npx skills add NVIDIA/skills --skill nemo-relay-instrument-typed-wrappers -a claude-code. Файл будет сохранён по пути ~/.claude/skills/nemo-relay-instrument-typed-wrappers/SKILL.md.

Для чего нужен этот скилл?

Он инструктирует агента по созданию строгих типов и кодеков провайдеров в NeMo Relay, чтобы связать доменные модели приложения с конвейером обработки JSON.

С какими объектами работают middleware и перехватчики?

Промежуточный слой и guardrails получают чистый JSON после шага кодирования, а не типизированные объекты приложения.

Исходный текст

SKILL.md · Apache-2.0
---
name: nemo-relay-instrument-typed-wrappers
description: Use this skill when adding NeMo Relay typed wrappers, domain types, or provider codecs while preserving JSON middleware semantics and caller-visible behavior.
license: Apache-2.0
metadata:
  author: NVIDIA Corporation and Affiliates
---

# Use Typed Wrappers And Codecs

Use this skill when an application wants stronger domain types than raw JSON for
tool or LLM integration.
Keep typed boundaries explicit so middleware still sees predictable JSON.

## Default Guidance

- Prefer plain JSON first for initial adoption.
- Reach for typed wrappers when the application already has stable domain models.
- Keep in mind that middleware still operates on JSON, not typed objects.

## Embedded Codec Model

- A typed value codec is a pure boundary translator. It converts
  application-facing values to JSON before NeMo Relay emits events or runs
  middleware, then converts JSON back into the framework callback or caller type.
- Python exposes `JsonPassthrough`, `DataclassCodec`, `PydanticCodec`, and
  `BestEffortAnyCodec`. Node.js exposes `JsonPassthrough` plus custom
  `Codec<T>` implementations.
- Use `BestEffortAnyCodec` only at boundaries where strict schemas are not
  available. Prefer dataclass, Pydantic, or explicit Node.js codecs when the
  framework owns a stable schema.
- Provider codecs are different from typed value codecs: they normalize
  provider-specific LLM requests and responses so middleware and subscribers can
  inspect messages, tools, model names, generation parameters, and response
  annotations.
- Built-in provider codecs include `OpenAIChatCodec`, `OpenAIResponsesCodec`,
  and `AnthropicMessagesCodec` in Python, Node.js, and Rust. Choose the
  codec that matches the actual provider payload shape.
- Response codecs annotate LLM end events with fields such as `id`, `model`,
  `message`, `tool_calls`, `finish_reason`, `usage`, provider-specific data, and
  extra unmodeled fields. They do not rewrite the caller-visible response.
- Request codecs run before LLM request intercepts. Intercepts receive both the
  raw `LLMRequest` and optional annotated request; `encode` merges annotated
  edits back before execution intercepts and the provider callback run.

## Key Rules

- Typed wrappers are currently a first-class path for Python and Node.js; Rust
  uses codec traits directly
- Request/response conversion belongs in codecs
- Intercepts and guardrails see JSON values after encoding
- Changes made by middleware survive into the decode step

## Choose A Codec

- `JsonPassthrough` for JSON-native values
- `DataclassCodec` or `PydanticCodec` in Python when the models already exist
- Custom codecs for domain-specific wire shapes
- `BestEffortAnyCodec` only when broad flexibility is worth the looser contract
- Provider codecs for LLM provider payloads, not application domain objects
  conversion

## Validation Checklist

- [ ] Codec output is JSON-compatible
- [ ] Required fields survive `toJson`/`fromJson` or `decode`/`encode`
- [ ] Middleware sees the expected serialized shape
- [ ] Provider codecs preserve fields they do not understand
- [ ] Response codec failures do not break the underlying LLM call
- [ ] Request codec `encode` preserves original provider fields unless an
  intercept intentionally changes them

## Related Skills

- `nemo-relay-instrument-calls`
- `nemo-relay-plugin-observability`
- `nemo-relay-debug-runtime-integration`

© NVIDIA Corporation and Affiliates · Apache-2.0 · NVIDIA/skills

Похожие скиллы

Все скиллы по теме «ИИ и ML» →
instrument-llm-analytics PostHog Скилл instrument-llm-analytics для Claude Code добавляет в проект PostHog AI Observability для отслеживания вызовов языковых моделей. Запускается после реализации LLM-функций или при проверке PR. CX Codex +1 615установок nemo-guardrails Orchestra Research Скилл nemo-guardrails для Claude Code, Codex, Cursor и других платформ добавляет runtime-проверки безопасности LLM-приложений: детекцию jailbreak, фильтрацию PII, проверку на галлюцинации и токсичность. CX Codex +1 1 100установок nemo-evaluator-sdk Orchestra Research Скилл nemo-evaluator-sdk для Claude Code и ещё пяти агентных сред. Оценивает языковые модели на 100+ бенчмарках из 18+ харнессов через контейнеры и несколько бэкендов. CX Codex +1 1 100установок sentry-instrument getsentry Скилл sentry-instrument проводит агента по шагам: определяет платформу, ставит SDK Sentry и подключает нужный сигнал — от ошибок до AI-мониторинга. CX Codex +1 2 000установок omnibus-instrument-llm-analytics PostHog Скилл omnibus-instrument-llm-analytics добавляет в код трейсинг вызовов LLM через PostHog: токены, задержки и стоимость каждой генерации. Заодно поставит SDK, если его ещё нет. CX Codex +1 106установок prompt-engineering-patterns Seth Hobson Скилл prompt-engineering-patterns для Claude Code и Codex проектирует, проверяет и улучшает промпты для LLM. Помогает собирать шаблоны, few-shot-сценарии и структурировать ответы. CX Codex +1 23 418установок

Из того же набора312

Весь набор →
nemo-relay-instrument-calls Скилл nemo-relay-instrument-calls оборачивает вызовы инструментов и LLM-провайдеров в скоупы NeMo Relay. Помогает внедрить мидлвары, гардрейлы и перехват событий жизненного цикла без изменения бизнес-логики. CX Codex +1 224установок nemo-relay-instrument-context-isolation Скилл nemo-relay-instrument-context-isolation разделяет стеки контекста NeMo Relay между параллельными задачами и сохраняет правильную иерархию scope. CX Codex +1 211установок nemotron-asr-finetune Скилл nemotron-asr-finetune оркеструет адаптацию моделей распознавания речи NVIDIA Nemotron Speech и Riva под предметную область или язык, подбирая путь от бустинга слов до файнтюнинга. CX Codex +1 210установок nemo-relay-debug-runtime-integration Скилл nemo-relay-debug-runtime-integration для Claude Code ищет причины сбоев NeMo Relay на уровне загрузки, scope, событий и плагинов. Диагностирует неправильное поведение рантайма после установки интеграции. CX Codex +1 197установок nemo-relay-plugin-build Скилл nemo-relay-plugin-build для Claude Code упаковывает переиспользуемое поведение NeMo Relay в конфиг-компонент или динамический плагин с валидацией и откатом. Создаёт плагины для нескольких приложений или команд. CX Codex +1 181установок nemo-relay-plugin-adaptive-tuning Скилл nemo-relay-plugin-adaptive-tuning для Claude Code настраивает и проверяет адаптивное поведение NeMo Relay по телеметрии. Поэтапно настраивает параллелизм, подсказки и prompt-cache. CX Codex +1 178установок nemo-relay-migrate-from-flow Скилл nemo-relay-migrate-from-flow для механической миграции кода, документации и конфигов с NeMo Flow на NeMo Relay. Работает с Python, Rust, Node.js, Go, C FFI, CLI и параметрами наблюдаемости. CX Codex +1 171установок doca-bench Запускает doca_bench и измеряет производительность библиотек DOCA на хосте или BlueField Arm. Проверяет пропускную способность, задержки и базовые показатели перед изменениями. CX Codex +1 166установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой