К основному содержанию
скилл CX Codex

llm-risk-assess — скилл для Claude Code: проверка безопасности LLM

Скилл llm-risk-assess проверяет LLM-приложения по OWASP Top 10 for LLM Applications 2025. Нужен тем, кто встраивает модели в чат-ботов, RAG-пайплайны или агентов.

CC-BY-4.0 186 установок ★ 230 обновлён 2026-10-15

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a claude-code
Открыть на GitHub

Что делает llm-risk-assess

Скилл проводит аудит по десяти категориям рисков: prompt injection, утечка PII, отравление данных и модели, небезопасные выходы, избыточные права инструментов, утечка системного промпта, атаки на эмбеддинги, галлюцинации и потребление ресурсов. Строит модель угроз, запускает автоматические тесты (Garak, Giskard), проверяет векторные базы и конфиги на секреты, имитирует реальные атаки.

Возвращает матрицу рисков, диаграмму архитектуры с границами доверия, описание находок с proof-of-concept, результаты red team и план устранения с примерами кода. Использует инструменты чтения файлов, поиска, Bash, веб-запросы и вызов субагентов.

Скилл опирается на plays/llm-risk-assess.md из репозитория OWASP. Без установленных фреймворков тестирования (Garak, Giskard) автоматические проверки придётся делать вручную.

Какие задачи решает

  • проверить LLM-приложение на prompt injection и jailbreak
  • найти утечки PII и секретов из промптов и конфигов
  • оценить риски RAG-пайплайна и векторных баз
  • протестировать агента на excessive agency и цепочки опасных вызовов
  • составить отчёт по OWASP Top 10 LLM 2025 с proof-of-concept

Примеры запросов агенту

  • Проведи аудит безопасности LLM-приложения по OWASP Top 10 2025: проверь prompt injection, утечки данных, supply chain, excessive agency и остальные категории.
  • Оцени риски RAG-пайплайна в src/rag/ — отравление эмбеддингов, атаки на retrieval, injection через документы.
  • Запусти red team тесты агента: попробуй обойти guardrails, вызвать опасные инструменты, извлечь системный промпт.

Как установить llm-risk-assess

1Через Skills CLI (Vercel)

npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a claude-code

2Вручную: положить файлы

~/.claude/skills/llm-risk-assess/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/llm-risk-assess/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о llm-risk-assess

Как установить llm-risk-assess в Claude Code?

Запусти npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a claude-code, скилл окажется в ~/.claude/skills/llm-risk-assess/SKILL.md.

Что делает llm-risk-assess?

Проверяет LLM-приложения по OWASP Top 10 for LLM Applications 2025: prompt injection, утечки PII, отравление данных, небезопасные выходы, excessive agency, утечку системного промпта, атаки на векторы, галлюцинации и потребление ресурсов. Возвращает отчёт с матрицей рисков, находками, proof-of-concept и планом устранения.

Что нужно для автоматических тестов в llm-risk-assess?

Скилл запускает Garak и Giskard для проверки prompt injection и утечек. Если их нет, аудит пройдёт вручную — через чтение кода, архитектурный анализ и red team.

Исходный текст

SKILL.md · CC-BY-4.0
---
name: llm-risk-assess
description: Comprehensive LLM security assessment against OWASP Top 10 for LLM Applications 2025. Use when reviewing LLM-integrated applications, RAG pipelines, chatbots, AI agents, or GenAI features. Covers prompt injection, data poisoning, supply chain, excessive agency, and more with real-world attack scenarios and testing methodologies.
allowed-tools: Read, Grep, Glob, Bash, WebFetch, Agent
---

# LLM Risk Assessment (2025)

Comprehensive evaluation of LLM applications against OWASP Top 10 for LLM Applications 2025. Follow the detailed procedure in `plays/llm-risk-assess.md`.

## Steps

1. **Architecture & Threat Modeling**
   - Map LLM provider (OpenAI, Anthropic, local models)
   - Document data flows: user input → preprocessing → prompt construction → LLM → output processing → actions
   - Identify RAG components, tool integrations, memory systems
   - Define trust boundaries and attack surfaces

2. **Automated Security Testing**
   - Run prompt injection probes (Garak, Giskard, custom scripts)
   - Test output handling vulnerabilities
   - Scan for secrets in prompts and configurations
   - Validate vector database security

3. **Assess All 10 OWASP LLM 2025 Risks** with attack scenarios:
   - **LLM01 Prompt Injection** — Direct/indirect injection, jailbreaks, goal hijacking, delimiter bypasses
   - **LLM02 Sensitive Information Disclosure** — Training data leakage, PII exposure, system info extraction, memorized secrets
   - **LLM03 Supply Chain** — Model poisoning, malicious dependencies, insecure plugins, provenance issues
   - **LLM04 Data and Model Poisoning** — Training data poisoning, RAG poisoning, embedding manipulation
   - **LLM05 Improper Output Handling** — XSS, command injection, SQLi, path traversal via LLM outputs
   - **LLM06 Excessive Agency** — Unauthorized tool calls, permission escalation, dangerous action chains
   - **LLM07 System Prompt Leakage** — Prompt extraction attacks, secret disclosure, instruction reverse engineering
   - **LLM08 Vector and Embedding Weaknesses** — Adversarial embeddings, retrieval poisoning, similarity attacks
   - **LLM09 Misinformation** — Hallucinations, authoritative presentation, grounding failures, harmful domains
   - **LLM10 Unbounded Consumption** — Token exhaustion, cost attacks, resource exhaustion, DoS

4. **Red Team Testing**
   - Attempt real-world attack scenarios
   - Test defense bypasses and evasion techniques
   - Validate guardrails and safety controls

## Output

Comprehensive LLM security report:
- Architecture diagram with trust boundaries
- Risk matrix (all 10 categories with severity/status)
- Detailed findings with proof-of-concept examples
- Red team test results and bypass techniques
- Remediation roadmap with code examples
- Defense validation checklist

## OWASP References

- OWASP Top 10 for LLM Applications 2025
- OWASP AI Exchange (owaspai.org)
- OWASP AI Testing Guide
- OWASP Cheat Sheet: Prompt Injection Prevention
- OWASP Prompt Injection Taxonomy (Arcanum)

© OWASP · CC-BY-4.0 · OWASP/secure-agent-playbook

Похожие скиллы

Все скиллы по теме «Безопасность» →
llm-ai-hunter H-mmer Скилл llm-ai-hunter для Claude Code берёт на себя роль специалиста по безопасности LLM и агентных систем. Покрывает OWASP LLM Top 10 v2025 и OWASP Agentic AI Top 10 — от prompt injection до атак на MCP-серверы. CX Codex +1 ★ 1 298звёзд репо llm-app-security devops-skills Скилл llm-app-security для Claude Code собирает проверки и правила защиты чат-ботов, RAG-систем и AI-функций от инъекций промптов, утечек данных и атак по OWASP LLM Top 10. CX Codex +1 365установок llm-security semgrep Скилл llm-security для Claude Code проверяет приложения с LLM на риски OWASP Top 10 for LLM 2025. Проверяет чат-боты, RAG, агентов и LLM API. CX Codex +1 1 800установок owasp-llm-top10 mastepanoski Скилл owasp-llm-top10 проводит аудит безопасности LLM- и GenAI-приложений по OWASP Top 10 for LLM Applications 2025. Пригодится перед выкаткой чат-бота или RAG-системы. CX Codex +1 415установок gandalf-llm-pentester reason-machines Скилл gandalf-llm-pentester автоматизирует тестирование защитных механизмов языковых моделей на платформе Lakera Gandalf. Помогает проверять устойчивость промптов к инъекциям на 7 уровнях сложности. CX Codex +1 252установок 16-ai-llm-security Masriyan Скилл 16-ai-llm-security для Claude Code тестирует безопасность AI-приложений и моделей. Запускается при аудите инъекций промптов, защите RAG и проверке рисков OWASP LLM Top 10. CX Codex +1 ★ 71звёзд репо

Из того же набора18

Весь набор →
mcp-server-review Скилл mcp-server-review для Claude Code проверяет исходный код MCP-серверов и настройки клиентов на риски безопасности. Запускается при аудите сервера или оценке перед установкой. CX Codex +1 217установок iac-security-review Скилл iac-security-review проверяет Terraform, Kubernetes и CloudFormation на ошибки безопасности. Пригодится перед ревью инфраструктуры и публикацией изменений. CX Codex +1 196установок securability-engineering Скилл securability-engineering для Claude Code по умолчанию генерирует код по принципам FIASSE v1.0.4 и ASVS-контролям. Пишет защищённые функции, API и компоненты, готовые к аудиту. CX Codex +1 191установок multi-agentic-threat-model Скилл multi-agentic-threat-model моделирует угрозы для мультиагентных систем по 7-уровневой архитектуре CSA MAESTRO и руководству OWASP. CX Codex +1 188установок prd-securability-enhancement Скилл prd-securability-enhancement дополняет PRD и спецификации требованиями безопасности OWASP ASVS и рекомендациями FIASSE до написания кода. Помогает заложить контроль рисков прямо в задачи. CX Codex +1 170установок securability-engineering-review Скилл securability-engineering-review оценивает кодовую базу или реквест по модели FIASSE v1.0.4 SSEM: выставляет от 0 до 10 по 10 атрибутам и готовит отчёт с приоритетами. CX Codex +1 158установок agentic-ai-risk-assess Скилл agentic-ai-risk-assess проводит аудит автономных ИИ-агентов и мультиагентных систем по стандарту OWASP Top 10 for Agentic Applications 2026. CX Codex +1 156установок ai-security-verification Скилл ai-security-verification проводит аудит безопасности ИИ-приложений по стандарту OWASP AISVS, проверяя модели, пайплайны и агентов по 13 категориям. CX Codex +1 152установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой