# llm-risk-assess

Скилл llm-risk-assess проверяет LLM-приложения по OWASP Top 10 for LLM Applications 2025. Нужен тем, кто встраивает модели в чат-ботов, RAG-пайплайны или агентов.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 186 установок · ★ 230 у репозитория
- Автор: OWASP
- Лицензия: CC-BY-4.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/OWASP/secure-agent-playbook/tree/HEAD/plugins/ai-security-skills/skills/llm-risk-assess/SKILL.md
- Обновлён: 2026-10-15
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/llm-risk-assess

## Что делает

Скилл проводит аудит по десяти категориям рисков: prompt injection, утечка PII, отравление данных и модели, небезопасные выходы, избыточные права инструментов, утечка системного промпта, атаки на эмбеддинги, галлюцинации и потребление ресурсов. Строит модель угроз, запускает автоматические тесты (Garak, Giskard), проверяет векторные базы и конфиги на секреты, имитирует реальные атаки.

Возвращает матрицу рисков, диаграмму архитектуры с границами доверия, описание находок с proof-of-concept, результаты red team и план устранения с примерами кода. Использует инструменты чтения файлов, поиска, Bash, веб-запросы и вызов субагентов.

Скилл опирается на `plays/llm-risk-assess.md` из репозитория OWASP. Без установленных фреймворков тестирования (Garak, Giskard) автоматические проверки придётся делать вручную.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/llm-risk-assess/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/llm-risk-assess/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/llm-risk-assess/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/llm-risk-assess/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install OWASP/secure-agent-playbook plugins/ai-security-skills/skills/llm-risk-assess
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/llm-risk-assess/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/OWASP/secure-agent-playbook --path plugins/ai-security-skills/skills/llm-risk-assess
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/llm-risk-assess/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add OWASP/secure-agent-playbook --skill llm-risk-assess -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/OWASP/secure-agent-playbook/tree/HEAD/plugins/ai-security-skills/skills/llm-risk-assess/SKILL.md

## Когда брать
- проверить LLM-приложение на prompt injection и jailbreak
- найти утечки PII и секретов из промптов и конфигов
- оценить риски RAG-пайплайна и векторных баз
- протестировать агента на excessive agency и цепочки опасных вызовов
- составить отчёт по OWASP Top 10 LLM 2025 с proof-of-concept

## Примеры запросов агенту
- Проведи аудит безопасности LLM-приложения по OWASP Top 10 2025: проверь prompt injection, утечки данных, supply chain, excessive agency и остальные категории.
- Оцени риски RAG-пайплайна в `src/rag/` — отравление эмбеддингов, атаки на retrieval, injection через документы.
- Запусти red team тесты агента: попробуй обойти guardrails, вызвать опасные инструменты, извлечь системный промпт.

## Похожие
- [llm-ai-hunter](https://affpapa.org/nevibecode/skills/llm-ai-hunter.md) — скилл · ★ 1298 у репозитория
- [llm-app-security](https://affpapa.org/nevibecode/skills/llm-app-security.md) — скилл · 365 установок
- [llm-security](https://affpapa.org/nevibecode/skills/llm-security.md) — скилл · 1800 установок
- [owasp-llm-top10](https://affpapa.org/nevibecode/skills/owasp-llm-top10.md) — скилл · 415 установок
- [gandalf-llm-pentester](https://affpapa.org/nevibecode/skills/gandalf-llm-pentester.md) — скилл · 252 установки
- [16-ai-llm-security](https://affpapa.org/nevibecode/skills/16-ai-llm-security.md) — скилл · ★ 71 у репозитория

Из того же набора: [owasp/secure-agent-playbook](https://affpapa.org/nevibecode/by/owasp/secure-agent-playbook.md) — 18 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
