К основному содержанию
скилл Claude Code CX Codex Cursor GitHub Copilot

omni-cache — скилл для Claude Code: управление кешем ответов

Скилл для просмотра статистики кеша LLM, очистки записей, настройки политик TTL и контроля порогов семантического сходства. Пригодится, если вам нужно оптимизировать использование кеша и мониторить его состояние.

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-code
Открыть на GitHub

Что делает omni-cache

omni-cache предоставляет API для управления кешем ответов модели. Вы можете получать детальную статистику по всем слоям кеша, очищать отдельные записи или весь кеш целиком, а также настраивать TTL-политики и пороги семантического сходства для кеширования.

Скилл работает через REST-эндпоинты: /api/cache для основной статистики, /api/cache/stats для детальной информации, /api/cache/entries и /api/cache/reasoning для управления конкретными типами записей. Все запросы требуют Bearer-токена аутентификации. Для локальной разработки можно отключить проверку ключа через переменную REQUIRE_API_KEY=false.

Скилл работает на базе OmniRoute и интегрируется со всеми популярными IDE для ИИ-кодинга: Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI и OpenCode.

Какие задачи решает

  • мониторить использование кеша в реальном времени
  • очищать закешированные ответы, если они устарели
  • настраивать время жизни кеша для разных типов данных
  • контролировать пороги семантического сходства при кешировании

Примеры запросов агенту

  • Покажи статистику кеша и сколько памяти занято
  • Очисти весь кеш ответов модели
  • Получи детальную информацию о состоянии всех слоев кеша

Как установить omni-cache

1Через Skills CLI (Vercel)

npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-code

2Вручную: положить файлы

~/.claude/skills/omni-cache/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/omni-cache/

Из того же набора34

Весь набор →
cli-setup cheaper-inference Помогает агенту настроить OmniRoute, управлять автозапуском демона, обновлять CLI и менять параметры текущей сессии. Claude Code CX Codex Cursor +1 1 200установок omni-combos-routing cheaper-inference Скилл создаёт и настраивает связки моделей с разными стратегиями маршрутизации, цепочками fallback и метриками. Пригодится для управления OmniRoute через API. Claude Code CX Codex Cursor +1 1 200установок omni-inference cheaper-inference Скилл подключает эндпоинты для чат-комплишенов, эмбеддингов, аудио и изображений в стиле OpenAI. Пригодится агентам для прямого доступа к API вывода моделей. Claude Code CX Codex Cursor +1 1 100установок cli-providers cheaper-inference Помогает управлять подключениями провайдеров через OmniRoute: смотреть список, проверять настройки и менять ключи. Пригодится для работы с подключениями из терминала. Claude Code CX Codex Cursor +1 1 100установок omni-auth cheaper-inference Скилл для управления API-ключами и сессиями в OmniRoute. Настраивает Bearer-токены для запросов, получает сессионные куки и конфигурирует вход в Dashboard через пароль или OIDC. Claude Code CX Codex Cursor +1 1 100установок cli-routing cheaper-inference Скилл помогает настраивать маршрутизацию языковых моделей через утилиту omniroute прямо из терминала. Позволяет создавать комбинации и переключать цепочки вызовов. Claude Code CX Codex Cursor +1 1 100установок omni-mcp cheaper-inference Подключает MCP-сервер OmniRoute к агенту для маршрутизации запросов, работы с памятью, кэшем и аудитом. Нужен, когда эти операции требуется вызывать через MCP-инструменты. Claude Code CX Codex Cursor +1 1 100установок omni-providers cheaper-inference Управляет подключениями к 375 AI-провайдерам через REST API: добавляет ключи, тестирует соединения, синхронизирует модели. Claude Code CX Codex Cursor +1 1 100установок

Похожие

ctx-search mksglu Ищет информацию в сохранённой базе проекта без перечитывания исходников в контекст. Работает с индексированным контентом, документацией и истории сессий через FTS5. Claude Code CX Codex Cursor +1 1 100установок ctx-index mksglu Скилл индексирует файлы проекта в локальную базу FTS5 для context-mode. Это избавляет ассистента от повторного чтения сырых файлов при поиске фрагментов. Claude Code CX Codex Cursor +1 1 100установок careful garrytan Скилл проверяет команды терминала перед запуском и блокирует опасные операции вроде удаления баз данных или сброса веток Git. Пригодится при выдаче агенту доступа к терминалу. Claude Code CX Codex Cursor +1 375установок summarize-interview phuryn Скилл преобразует стенограмму интервью в структурированный отчёт с выделением задач, которые решает клиент, уровня его удовлетворённости и списка действий. Экономит время на ручном разборе записей и помогает выстроить найденные инсайты. Claude Code CX Codex Cursor +1 2 800установок setup-matt-pocock-skills Matt Pocock Скилл настраивает репозиторий для инженерных скиллов Matt Pocock: задаёт трекер задач, метки триажа и расположение доменной документации. Запустите его перед первым использованием остальных скиллов. Claude Code 1 052 851установок to-tickets Matt Pocock Разбивает план, спецификацию или переписку на небольшие сквозные задачи и отмечает, какие из них блокируют остальные. Пригодится, когда нужно согласовать порядок работы до публикации задач в трекере. Claude Code 711 230установок writing-plans Jesse Vincent Скилл превращает требования к многошаговой задаче в подробный план реализации до начала работы с кодом. Пригодится, когда исполнителю нужно зафиксировать файлы, интерфейсы и проверки. Claude Code CX Codex 282 859установок stitch-loop официальный google-labs-code Организует автономную сборку страниц через Stitch MCP. Агент берёт задачу из файла-эстафеты, создаёт экран, переносит код в проект и сразу пишет задание для следующей итерации. Claude Code CX Codex Cursor +1 56 300установок

Вопросы о omni-cache

Как установить omni-cache в Claude Code?

Выполните в терминале npx skills add cheaper-inference/OmniRoute --skill omni-cache -a claude-code. После установки скилл будет доступен в ~/.claude/skills/omni-cache/SKILL.md.

Что делает omni-cache?

Скилл управляет кешем ответов LLM: показывает статистику использования, позволяет очищать записи, настраивать время жизни кеша и пороги семантического сходства для оптимизации производительности.

Требуется ли аутентификация для работы со скиллом?

Да, все запросы требуют Bearer-токена. Получить токен можно через POST /api/auth/login или отключить проверку локально с помощью REQUIRE_API_KEY=false.

Исходный текст

SKILL.md · MIT
---
name: omni-cache
description: Manage the LLM response cache. View cache statistics, clear entries, configure TTL policies, and control semantic-similarity caching thresholds.
---
<!-- generated by src/lib/agentSkills/generator.ts; manual edits will be overwritten -->

## Overview

Manage the LLM response cache. View cache statistics, clear entries, configure TTL policies, and control semantic-similarity caching thresholds.

## Authentication

All requests require a valid Bearer token or session cookie. Obtain a token via `POST /api/auth/login` or configure `REQUIRE_API_KEY=false` for local development.

## Endpoints

### GET /api/cache

Get cache statistics

```bash
curl http://localhost:20128/api/cache \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### DELETE /api/cache

Clear all caches

```bash
curl -X DELETE http://localhost:20128/api/cache \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### GET /api/cache/stats

Get detailed cache statistics

Returns detailed statistics for all cache layers.

```bash
curl http://localhost:20128/api/cache/stats \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### DELETE /api/cache/stats

Clear cache statistics

```bash
curl -X DELETE http://localhost:20128/api/cache/stats \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### GET /api/cache/entries

GET cache › entries

```bash
curl http://localhost:20128/api/cache/entries \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### DELETE /api/cache/entries

DELETE cache › entries

```bash
curl -X DELETE http://localhost:20128/api/cache/entries \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### GET /api/cache/reasoning

GET cache › reasoning

```bash
curl http://localhost:20128/api/cache/reasoning \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

### DELETE /api/cache/reasoning

DELETE cache › reasoning

```bash
curl -X DELETE http://localhost:20128/api/cache/reasoning \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
```

## Payloads

See the full OpenAPI specification at `GET /api/openapi/spec` or `docs/openapi.yaml` for detailed request/response schemas.

© cheaper-inference · MIT · cheaper-inference/OmniRoute

Смотрите также

Спонсоры проекта

Компании, которые помогают держать аналитику открытой