omni-cache — скилл для Claude Code: управление кешем ответов
Скилл для просмотра статистики кеша LLM, очистки записей, настройки политик TTL и контроля порогов семантического сходства. Пригодится, если вам нужно оптимизировать использование кеша и мониторить его состояние.
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-codeЧто делает omni-cache
omni-cache предоставляет API для управления кешем ответов модели. Вы можете получать детальную статистику по всем слоям кеша, очищать отдельные записи или весь кеш целиком, а также настраивать TTL-политики и пороги семантического сходства для кеширования.
Скилл работает через REST-эндпоинты: /api/cache для основной статистики, /api/cache/stats для детальной информации, /api/cache/entries и /api/cache/reasoning для управления конкретными типами записей. Все запросы требуют Bearer-токена аутентификации. Для локальной разработки можно отключить проверку ключа через переменную REQUIRE_API_KEY=false.
Скилл работает на базе OmniRoute и интегрируется со всеми популярными IDE для ИИ-кодинга: Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI и OpenCode.
Какие задачи решает
- мониторить использование кеша в реальном времени
- очищать закешированные ответы, если они устарели
- настраивать время жизни кеша для разных типов данных
- контролировать пороги семантического сходства при кешировании
Примеры запросов агенту
- Покажи статистику кеша и сколько памяти занято
- Очисти весь кеш ответов модели
- Получи детальную информацию о состоянии всех слоев кеша
Как установить omni-cache
1Через Skills CLI (Vercel)
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-code2Вручную: положить файлы
~/.claude/skills/omni-cache/SKILL.mdПапка скилла целиком; для одного проекта — .claude/skills/omni-cache/
1Через Skills CLI (Vercel)
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a codex2Вручную: положить файлы
.agents/skills/omni-cache/SKILL.mdДля всех проектов — ~/.agents/skills/
1Через Skills CLI (Vercel)
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a cursor2Вручную: положить файлы
.cursor/skills/omni-cache/SKILL.mdCursor читает и .agents/skills/, и .claude/skills/
1GitHub CLI
gh skill install cheaper-inference/OmniRoute omni-cache2Вручную: положить файлы
.github/skills/omni-cache/SKILL.md1Через Skills CLI (Vercel)
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a gemini-cli2Командой платформы
gemini skills install https://github.com/cheaper-inference/OmniRoute --path skills/omni-cacheВручную: положить файлы
.devin/skills/omni-cache/SKILL.mdСтарый путь .windsurf/skills/ тоже читается
Через Skills CLI (Vercel)
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a opencodeClaude.ai
Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills
Из того же набора34
Весь набор →Похожие
Вопросы о omni-cache
Как установить omni-cache в Claude Code?
Выполните в терминале npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-code. После установки скилл будет доступен в ~/.claude/skills/omni-cache/SKILL.md.
Что делает omni-cache?
Скилл управляет кешем ответов LLM: показывает статистику использования, позволяет очищать записи, настраивать время жизни кеша и пороги семантического сходства для оптимизации производительности.
Требуется ли аутентификация для работы со скиллом?
Да, все запросы требуют Bearer-токена. Получить токен можно через POST /api/auth/login или отключить проверку локально с помощью REQUIRE_API_KEY=false.
Исходный текст
SKILL.md · MIT
--- name: omni-cache description: Manage the LLM response cache. View cache statistics, clear entries, configure TTL policies, and control semantic-similarity caching thresholds. --- <!-- generated by src/lib/agentSkills/generator.ts; manual edits will be overwritten --> ## Overview Manage the LLM response cache. View cache statistics, clear entries, configure TTL policies, and control semantic-similarity caching thresholds. ## Authentication All requests require a valid Bearer token or session cookie. Obtain a token via `POST /api/auth/login` or configure `REQUIRE_API_KEY=false` for local development. ## Endpoints ### GET /api/cache Get cache statistics ```bash curl http://localhost:20128/api/cache \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### DELETE /api/cache Clear all caches ```bash curl -X DELETE http://localhost:20128/api/cache \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### GET /api/cache/stats Get detailed cache statistics Returns detailed statistics for all cache layers. ```bash curl http://localhost:20128/api/cache/stats \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### DELETE /api/cache/stats Clear cache statistics ```bash curl -X DELETE http://localhost:20128/api/cache/stats \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### GET /api/cache/entries GET cache › entries ```bash curl http://localhost:20128/api/cache/entries \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### DELETE /api/cache/entries DELETE cache › entries ```bash curl -X DELETE http://localhost:20128/api/cache/entries \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### GET /api/cache/reasoning GET cache › reasoning ```bash curl http://localhost:20128/api/cache/reasoning \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ### DELETE /api/cache/reasoning DELETE cache › reasoning ```bash curl -X DELETE http://localhost:20128/api/cache/reasoning \ -H "Authorization: Bearer $OMNIROUTE_TOKEN" ``` ## Payloads See the full OpenAPI specification at `GET /api/openapi/spec` or `docs/openapi.yaml` for detailed request/response schemas.
© cheaper-inference · MIT · cheaper-inference/OmniRoute