# eval-mcp

Скилл eval-mcp проверяет схемы MCP-сервера и точность выбора инструментов моделью. Находит пересечения в описаниях и тестирует вызовы на синтетических запросах.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 234 установки · ★ 227 у репозитория
- Автор: pproenca
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/pproenca/dot-skills/tree/HEAD/skills/.experimental/eval-mcp/SKILL.md
- Обновлён: 2026-08-15
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/eval-mcp

## Что делает

Скилл оценивает описания инструментов в MCP-сервере и помогает понять, почему агент выбирает не те функции. Работа разбита на этапы: сбор схем через MCP Inspector CLI, детерминированный статический анализ без обращений к LLM и параллельное тестирование выбора методов на наборе пользовательских намерений.

Для каждого инструмента генерируются позитивные и негативные сценарии, а также фразы для разграничения схожих вызовов. Результаты сводятся в отчёт с метриками точности, полноты и списком частых подмен одного инструмента другим.

Без установленных Node.js версии не ниже 18 и утилиты `jq` аналитические скрипты скилла не запустятся. Сервер должен быть уже поднят и отвечать на вызовы `tools/list` по HTTP, SSE или stdio.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add pproenca/dot-skills --skill eval-mcp -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/eval-mcp/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/eval-mcp/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add pproenca/dot-skills --skill eval-mcp -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/eval-mcp/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add pproenca/dot-skills --skill eval-mcp -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/eval-mcp/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install pproenca/dot-skills skills/.experimental/eval-mcp
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/eval-mcp/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add pproenca/dot-skills --skill eval-mcp -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/pproenca/dot-skills --path skills/.experimental/eval-mcp
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/eval-mcp/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add pproenca/dot-skills --skill eval-mcp -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/pproenca/dot-skills/tree/HEAD/skills/.experimental/eval-mcp/SKILL.md

## Когда брать
- найти смысловые пересечения в описаниях похожих инструментов MCP-сервера
- измерить точность выбора нужного инструмента на тестовых запросах
- проверить схемы параметров статическим анализом без расхода токенов
- обнаружить неверные срабатывания и ложные отказы от вызова инструментов

## Примеры запросов агенту
- Проверь схемы инструментов моего MCP-сервера
- Протестируй выбор инструментов для MCP-сервера на `http://localhost:3000/mcp`
- Оцени качество описаний инструментов в локальном сервере через `node dist/server.js`

## Похожие
- [bmad-eval](https://affpapa.org/nevibecode/skills/bmad-eval.md) — скилл · 9100 установок
- [agent-eval](https://affpapa.org/nevibecode/skills/agent-eval.md) — скилл · 6200 установок
- [eval-runner](https://affpapa.org/nevibecode/skills/eval-runner.md) — скилл · ★ 54 у репозитория
- [llm-eval-harness](https://affpapa.org/nevibecode/skills/llm-eval-harness.md) — скилл · 438 установок
- [eval-engineer](https://affpapa.org/nevibecode/agents/eval-engineer.md) — субагент · ★ 6505 у репозитория
- [google-agents-cli-eval](https://affpapa.org/nevibecode/skills/google-agents-cli-eval.md) — скилл · 586000 установок

Из того же набора: [pproenca/dot-skills](https://affpapa.org/nevibecode/by/pproenca/dot-skills.md) — 139 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
