# hugging-face-evaluation

Скилл hugging-face-evaluation добавляет результаты оценки моделей в model cards на Hugging Face. Извлекает таблицы бенчмарков из README, импортирует данные через Artificial Analysis API, запускает эвалюацию с vLLM или lighteval.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode, Windsurf (Devin Desktop), Claude.ai · ★ 42059 у репозитория
- Автор: patchy631
- Лицензия: MIT · policy=mirror · лицензия открытая, файл — в исходнике
- Исходник: https://github.com/patchy631/ai-engineering-hub/tree/HEAD/hugging-face-skills/skills/hugging-face-evaluation/SKILL.md
- Обновлён: 2026-10-12
- Проверка безопасности: автоматическая, 2026-11-16 (текст) — признаков вредоносного кода не нашли.
- HTML: https://affpapa.org/nevibecode/skills/hugging-face-evaluation

## Что делает

Скилл работает с metadata форматом model-index. Может парсить markdown-таблицы из README модели (с выбором конкретной таблицы по номеру), подтягивать бенчмарки через API Artificial Analysis, запускать кастомную эвалюацию на GPU с vLLM-бэкендом или через HF Jobs с inspect-ai. Генерирует YAML-записи model-index, мержит их в существующие карточки, создаёт pull requests.

Для работы нужны Python-зависимости: `huggingface_hub`, `markdown-it-py`, `pyyaml`, `requests`. Для запуска эвалюации локально — GPU, `vllm`, `lighteval` и `torch`. Для импорта из Artificial Analysis — переменная окружения `AA_API_KEY`. Токен Hugging Face (`HF_TOKEN`) с правом записи обязателен для создания PR.

Скрипт `evaluation_manager.py` проверяет открытые PR перед созданием нового командой `get-prs`. Команда `inspect-tables` показывает структуру таблиц в README с номерами и колонками. `extract-readme --table N` парсит выбранную таблицу и выводит YAML; флаги `--apply` или `--create-pr` пушат изменения.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patchy631/ai-engineering-hub --skill hugging-face-evaluation -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/hugging-face-evaluation/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/hugging-face-evaluation/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patchy631/ai-engineering-hub --skill hugging-face-evaluation -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/hugging-face-evaluation/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patchy631/ai-engineering-hub --skill hugging-face-evaluation -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/hugging-face-evaluation/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install patchy631/ai-engineering-hub hugging-face-skills/skills/hugging-face-evaluation
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/hugging-face-evaluation/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patchy631/ai-engineering-hub --skill hugging-face-evaluation -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/patchy631/ai-engineering-hub --path hugging-face-skills/skills/hugging-face-evaluation
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/hugging-face-evaluation/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add patchy631/ai-engineering-hub --skill hugging-face-evaluation -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/patchy631/ai-engineering-hub/tree/HEAD/hugging-face-skills/skills/hugging-face-evaluation/SKILL.md

## Когда брать
- парсить таблицы бенчмарков из README модели и конвертировать их в model-index YAML
- импортировать результаты оценки модели из Artificial Analysis API
- запускать эвалюацию модели на GPU с vLLM или через HF Jobs
- мержить новые результаты оценки в существующую карточку модели без перезаписи
- создавать pull request с обновлённым model-index в репозиторий модели

## Примеры запросов агенту
- Проверь открытые PR в репозитории `username/model-name` перед созданием нового
- Покажи все таблицы в README модели `username/model` с их структурой и колонками
- Извлеки вторую таблицу из README модели `username/model` и сгенерируй YAML для model-index

## Похожие
- [huggingface-community-evals](https://affpapa.org/nevibecode/skills/huggingface-community-evals.md) — скилл · 2100 установок
- [hugging-face-jobs](https://affpapa.org/nevibecode/skills/sickn33-hugging-face-jobs.md) — скилл · 1 установка
- [hugging-face-cli](https://affpapa.org/nevibecode/skills/huytran1120-hugging-face-cli.md) — скилл · ★ 85 у репозитория
- [Hugging Face](https://affpapa.org/nevibecode/mcp/hugging-face.md) — MCP-сервер · 2405 установок
- [runpod-vllm-claude-code](https://affpapa.org/nevibecode/skills/runpod-vllm-claude-code.md) — скилл · 1400 установок
- [hf-cloud-serving-image-selection](https://affpapa.org/nevibecode/skills/hf-cloud-serving-image-selection.md) — скилл · 686 установок

Из того же набора: [patchy631/ai-engineering-hub](https://affpapa.org/nevibecode/by/patchy631/ai-engineering-hub.md) — 6 карточек

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md
