# cost-latency-optimizer

Скилл разбирает, куда уходят деньги и время в LLM-приложении, и предлагает кеш, выбор модели, батчинг и сжатие промптов.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 322 установки · ★ 63
- Автор: patricio0312rev
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/patricio0312rev/skills/tree/HEAD/ai-engineering/cost-latency-optimizer/SKILL.md
- Обновлён: 2026-01-12
- HTML: https://affpapa.org/nevibecode/skills/cost-latency-optimizer

## Что делает

Скилл даёт агенту готовые куски кода на Python: класс для подсчёта расходов по вызовам, эмбеддингам и инструментам, кеш поверх Redis с ключом из хеша промпта и модели, таблицу цен на `gpt-4`, `gpt-3.5-turbo`, `claude-3-opus` и `claude-3-sonnet`. Отдельно идёт выбор модели по сложности запроса и трекер задержек с отчётом по среднему и p95.

Батчинг собран на `asyncio.gather` с размером пачки, а стриминг описан как способ сократить время до первого байта. В конце — генератор рекомендаций: он смотрит на суммы расходов и среднюю задержку и выдаёт список правок с ожидаемым эффектом.

Кеш требует клиента Redis, а расчёт стоимости в примере зашит под цены GPT-4 — если у вас другие тарифы, цифры в отчёте поедут. Это повод проверить таблицу `MODEL_PRICING` перед первым запуском. Классификация сложности держится на простых эвристиках вроде длины запроса и слов «analyze», «complex», «detailed», так что на нестандартных формулировках она промахивается.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patricio0312rev/skills --skill cost-latency-optimizer -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/cost-latency-optimizer/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/cost-latency-optimizer/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patricio0312rev/skills --skill cost-latency-optimizer -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/cost-latency-optimizer/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patricio0312rev/skills --skill cost-latency-optimizer -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/cost-latency-optimizer/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install patricio0312rev/skills cost-latency-optimizer
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/cost-latency-optimizer/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add patricio0312rev/skills --skill cost-latency-optimizer -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/patricio0312rev/skills --path ai-engineering/cost-latency-optimizer
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/cost-latency-optimizer/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add patricio0312rev/skills --skill cost-latency-optimizer -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/patricio0312rev/skills/tree/HEAD/ai-engineering/cost-latency-optimizer/SKILL.md

## Когда брать
- посчитать, сколько денег уходит на вызовы LLM за день
- найти операцию, которая тормозит ответ сильнее остальных
- закешировать повторяющиеся запросы к модели
- перевести простые запросы на дешёвую модель
- сократить промпт, выкинув лишние токены

## Примеры запросов агенту
- проанализируй расходы на LLM в моём сервисе и покажи разбивку по вызовам
- где у меня узкие места по задержке? добавь трекер и собери отчёт
- предложи, что поменять в конфиге, чтобы снизить стоимость запросов

## Похожие
- [llm-cost-optimizer](https://affpapa.org/nevibecode/skills/llm-cost-optimizer.md) — скилл · 73 установки
- [llm-cost-optimization](https://affpapa.org/nevibecode/skills/llm-cost-optimization.md) — скилл · 334 установки
- [prompt-caching](https://affpapa.org/nevibecode/skills/sickn33-prompt-caching.md) — скилл · 867 установок
- [cost-trend](https://affpapa.org/nevibecode/skills/cost-trend.md) — скилл · 683 установки
- [cost-aware-llm-pipeline](https://affpapa.org/nevibecode/skills/cost-aware-llm-pipeline.md) — скилл · 4600 установок
- [redis-patterns](https://affpapa.org/nevibecode/skills/redis-patterns.md) — скилл · 4700 установок

Из того же набора: [patricio0312rev/skills](https://affpapa.org/nevibecode/by/patricio0312rev/skills.md) — 26 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md