К основному содержанию
субагент CX Codex

model-risk-manager — субагент для Codex: анализ рисков моделей

Субагент model-risk-manager для Codex систематически анализирует риски поведения AI — от сценариев отказа до мер смягчения. Разбирает риски моделей, принимающих критичные решения.

MIT ★ 6 505 обновлён 2026-10-05

Установить в Codex · Вручную: положить файлы Все способы и платформы ↓
.codex/agents/model-risk-manager.toml
Открыть на GitHub

Что делает model-risk-manager

model-risk-manager разбирает, как модель может сломаться в реальном продукте. Начинает с роли модели в workflow и решений, которые она влияет. Находит конкретные сценарии отказа — неправильный вывод, небезопасное поведение, инъекции промптов — и считает, какие из них дорогие (тяжесть, вероятность, заметность). Для каждого риска предлагает минимальный набор защит: где нужна ревью человеком, какие сигналы мониторить, как откатиться или деградировать.

Фокусируется на операционном воздействии: неправильный вывод модели и его цена, опасные команды, плохой контекст из retrieval. Не свалить всё в «галлюцинация», а назвать точный механизм отказа. Разделяет модельный риск от общего продуктового — это важно для приоритизации.

Возвращает упорядоченный список рисков с обоснованием, рекомендации по защитам и сигналы для обнаружения. Указывает, что можно проверить на этапе дизайна, а что только в боевых условиях, и какие риски всё равно остаются.

Какие задачи решает

  • выявить сценарии, где вывод модели приведёт к убыткам или безопасности
  • расставить приоритеты между рисками по реальному воздействию
  • спроектировать ревью и мониторинг для критичных решений
  • написать план откатов и деградации поведения
  • оценить, какие риски приемлемы при текущей защите

Примеры запросов агенту

  • Проанализируй риски модели в системе рекомендаций контента: она выбирает, что показать юзеру на главной.
  • Какие отказы может иметь LLM в цепочке обработки платежей? Найди сценарии с наибольшим убытком.
  • Составь план защиты от инъекций промптов в чат-поддержке: где перехватить, как мониторить, как откатиться.

Как установить model-risk-manager

Вручную: положить файлы

.codex/agents/model-risk-manager.toml

Codex описывает субагентов в TOML: name, description, developer_instructions. Текст из Markdown перенесите в developer_instructions вручную. Для всех проектов — ~/.codex/agents/

По шагам, с командами для каждой платформы: Субагенты Claude Code: как создать, вызвать и не утопить контекст

Вопросы о model-risk-manager

Как установить model-risk-manager в Codex?

Добавь конфиг .codex/agents/model-risk-manager.toml в корень проекта, затем загрузи его в Codex через его интерфейс управления агентами.

Что делает model-risk-manager?

Анализирует, как AI-модель может сломаться в твоём продукте, приоритизирует риски по воздействию и предлагает конкретные защиты и мониторинг.

Чем model-risk-manager отличается от общей проверки безопасности?

Фокусируется именно на поведении модели, её вывода и решений, а не на инфраструктуре или процессах. Не обобщает всё в одно слово «галлюцинация», а разбирает механизм каждого отказа.

Исходный текст

model-risk-manager.toml · MIT
# model-risk-manager

Use when a task needs model risk analysis, failure mode prioritization, and mitigation planning for AI behavior.

Own model risk analysis as practical failure management for real product and operational impact.

Working mode:
1. Define the model's role in the end-to-end workflow and the decisions it influences.
2. Identify credible failure modes, triggers, and blast radius.
3. Prioritize the highest-impact risks using severity, likelihood, and detectability.
4. Recommend the smallest set of mitigations that meaningfully reduces exposure.

Focus on:
- incorrect, unsafe, or misleading outputs and downstream consequences
- tool misuse, bad retrieval context, and prompt injection surfaces
- human review requirements for high-impact decisions
- monitoring signals that can detect risk early in production
- rollback, degradation, and containment strategies

Quality checks:
- verify each risk has a concrete trigger and consequence path
- keep mitigations proportional to actual impact and operating context
- separate model risk from general product or infrastructure risk
- call out which risks need live evaluation versus design-time review

Return:
- top model risks in priority order
- why each risk matters operationally
- recommended mitigations and detection signals
- validation approach for the mitigations
- residual risks and acceptance considerations

Do not collapse all uncertainty into "hallucination" when the true failure mode is more specific unless explicitly requested by the parent agent.

© VoltAgent · MIT · VoltAgent/awesome-codex-subagents

Похожие субагенты

Все субагенты по теме «ИИ и ML» →
ai-risk-management briiirussell Скилл ai-risk-management помогает оценить риски и настроить управление ML-моделями по фреймворку NIST AI RMF 1.0. Пригодится при подготовке к аудиту, проверке на предвзятость или запуске ИИ в проде. CX Codex +1 409установок sec-risk-factors OctagonAI Скилл sec-risk-factors извлекает и категоризирует факторы риска из отчётов 10-K и 10-Q компаний через Octagon MCP. Пригодится при анализе Item 1A, сравнении рисков между периодами и компаниями. CX Codex +1 263установок foundation-build-risk-review product-on-purpose Скилл foundation-build-risk-review для Claude Code, Codex, Cursor и других платформ, который запускает быструю проверку рисков продуктовой идеи, фичи или изменения объёма работ. CX Codex +1 518установок l0g.fr Risk Intelligence bluetouff Сервер l0g.fr Risk Intelligence даёт ИИ-агенту доступ на чтение к данным о рисках l0g.fr. Он пригодится для проверки текущего состояния, изменений и источников анализа. CX Codex +1 ★ 19звёзд репо llm-testing Eyadkelleh Скилл llm-testing для Claude Code, Codex, Cursor и других агентов содержит готовые тест-кейсы для проверки LLM на утечки данных, смещения и устойчивость к adversarial-промптам. CX Codex +1 621установок risk-based-testing proffesor-for-testing Скилл risk-based-testing распределяет ресурсы тестирования по уровню риска модулей по шкале от 1 до 5 и приоритизирует автотесты перед релизом. CX Codex +1 128установок

Из того же набора176

Весь набор →
golden-path-designer Субагент golden-path-designer для Codex проектирует стандартный путь создания, развёртывания и эксплуатации сервисов. Определяет настройки по умолчанию и правила для исключений. CX Codex ★ 6 505звёзд репо backstage-specialist Субагент backstage-specialist помогает спроектировать внутренний портал разработчика на Backstage: каталог сервисов, шаблоны scaffolder, выбор плагинов и план внедрения. CX Codex ★ 6 505звёзд репо responsible-ai-reviewer Субагент responsible-ai-reviewer оценивает риски этичности, прозрачности и злоупотреблений в ИИ-функциях, предлагая конкретные изменения продукта и сценарии контроля человеком. CX Codex ★ 6 505звёзд репо policy-guardrail-designer Субагент policy-guardrail-designer проектирует ограничения для ИИ-систем: от правил в промпте до проверок инструментов и согласования действий. Подключайте его, когда нужно разобрать риски в рабочем процессе. CX Codex ★ 6 505звёзд репо ai-governance-auditor Субагент ai-governance-auditor проводит практический аудит AI-системы: проверяет контроль доступа, зоны ответственности и готовность к запуску в прод без лишней бюрократии. CX Codex ★ 6 505звёзд репо trend-analyst Субагент trend-analyst собирает сигналы о технологических трендах и связывает их с решениями по архитектуре, дорожной карте и возможностям команды. CX Codex ★ 6 505звёзд репо search-specialist Субагент search-specialist для Codex ищет информацию в репозитории и внешних источниках перед анализом. Он находит похожий код, отслеживает использование функции и определяет расположение нужного модуля. CX Codex ★ 6 505звёзд репо scientific-literature-researcher Субагент scientific-literature-researcher ищет опубликованные научные статьи, оценивает дизайн и размер выборки исследований, а затем собирает синтез с учётом качества источников. CX Codex ★ 6 505звёзд репо

Спонсоры проекта

Компании, которые помогают держать аналитику открытой