# genai-hub-prompt-evaluation

Скилл genai-hub-prompt-evaluation для Claude Code и других платформ оценивает генеративные модели и промпты на SAP AI Core. Запускается при обращении к бенчмаркам LLM, метрикам и конфигурациям оркестрации.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · 185 установок · ★ 153 у репозитория
- Автор: SAP
- Лицензия: Apache-2.0 · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/SAP/ai-skills-library/tree/HEAD/plugins/aicore-skills/skills/genai-hub-prompt-evaluation/SKILL.md
- Обновлён: 2026-10-22
- Проверка безопасности: автоматическая, 2026-11-17 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/genai-hub-prompt-evaluation

## Что делает

Инструмент запускает оценку генеративных моделей на платформе SAP AI Core с использованием системных метрик и собственных критериев LLM-as-judge. Он поддерживает работу с реестром промптов, конфигурациями оркестрации и RAG-окружением через скрипты Python с утилитой `uv`. Для работы требуются установленный Python 3.11+, пакеты `sap-ai-sdk-core` с запросами, а также переменные окружения `AICORE_AUTH_URL`, `AICORE_CLIENT_ID`, `AICORE_CLIENT_SECRET`, `AICORE_BASE_URL` и `AICORE_RESOURCE_GROUP`.

Перед запуском скриптов инструмент проверяет учетные данные через `aicore-admin-resources`. Все сценарии выполняются из корневой директории скилла через `uv run scripts/<name>.py`. Статус выполнения отслеживается до завершения, после чего результаты извлекаются в агрегированном виде или сохраняются в SQLite для детального анализа.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add SAP/ai-skills-library --skill genai-hub-prompt-evaluation -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/genai-hub-prompt-evaluation/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/genai-hub-prompt-evaluation/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add SAP/ai-skills-library --skill genai-hub-prompt-evaluation -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/genai-hub-prompt-evaluation/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add SAP/ai-skills-library --skill genai-hub-prompt-evaluation -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/genai-hub-prompt-evaluation/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install SAP/ai-skills-library plugins/aicore-skills/skills/genai-hub-prompt-evaluation
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/genai-hub-prompt-evaluation/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add SAP/ai-skills-library --skill genai-hub-prompt-evaluation -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/SAP/ai-skills-library --path plugins/aicore-skills/skills/genai-hub-prompt-evaluation
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/genai-hub-prompt-evaluation/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add SAP/ai-skills-library --skill genai-hub-prompt-evaluation -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/SAP/ai-skills-library/tree/HEAD/plugins/aicore-skills/skills/genai-hub-prompt-evaluation/SKILL.md

## Когда брать
- оценить промпт или модель против тестового набора данных
- создать пользовательскую метрику LLM-as-judge для бенчмарка
- зарегистрировать шаблон промпта или конфигурацию оркестрации
- получить агрегированные результаты выполнения оценки в SAP AI Core

## Примеры запросов агенту
- Оцени промпт на датасете через SAP AI Core
- Создай пользовательскую метрику LLM-as-judge
- Получи результаты выполнения оценки genai-evaluations

## Похожие
- [llm-evaluation](https://affpapa.org/nevibecode/skills/llm-evaluation.md) — скилл · 12755 установок
- [evaluation-harness](https://affpapa.org/nevibecode/skills/evaluation-harness.md) — скилл · 275 установок
- [agent-evaluation](https://affpapa.org/nevibecode/skills/mlflow-agent-evaluation.md) — скилл · 1100 установок
- [dspy-evaluation-suite](https://affpapa.org/nevibecode/skills/dspy-evaluation-suite.md) — скилл · ★ 125 у репозитория
- [advanced-evaluation](https://affpapa.org/nevibecode/skills/advanced-evaluation.md) — скилл · 303 установки
- [evaluation-lm-evaluation-harness](https://affpapa.org/nevibecode/skills/evaluation-lm-evaluation-harness.md) — скилл · 92 установки

Из того же набора: [sap/ai-skills-library](https://affpapa.org/nevibecode/by/sap/ai-skills-library.md) — 9 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
