LLM Latency Tracker — MCP-сервер для Claude Code: обзор и установка
Отслеживает задержку TTFB, время генерации первого токена и аптайм нейросетевых API по регионам мира. Помогает агенту выбирать быстрых провайдеров.
claude mcp add --transport http llm-latency-tracker https://llmlatency.dev/mcpЧто делает LLM Latency Tracker
Сервер передаёт агенту открытую статистику задержек и доступности нейросетевых API. В базе собраны метрики сетевого отклика TTFB и времени до первого токена TTFT, разбитые по регионам с процентилями p50 и p95.
Инструменты сервера работают только на чтение. Доступны четыре функции: get_ai_api_latency для лидерборда по регионам, get_provider_latency для проверки одного провайдера, get_model_deprecations с календарём отключения старых моделей и get_coding_agent_health для мониторинга дрейфа скорости помощников.
Сетевой TTFB отражает доступность шлюза, а не скорость генерации текста. Для подключения к удалённому серверу по адресу https://llmlatency.dev/mcp собственные ключи API не нужны.
Какие задачи решает
- Сравнить время отклика AI-провайдеров в нужном регионе
- Проверить даты вывода старых нейросетевых моделей из эксплуатации
- Получить p50 и p95 задержки конкретного провайдера перед запросом
- Отследить изменения скорости и стабильности кодовых ассистентов
Примеры запросов агенту
- Выведи список самых быстрых провайдеров в регионе US через
get_ai_api_latency - Проверь даты отключения моделей с помощью
get_model_deprecations - Покажи статистику p50 и p95 для провайдера fireworks во всех регионах
Как установить LLM Latency Tracker
Командой платформы: удалённый сервер
claude mcp add --transport http llm-latency-tracker https://llmlatency.dev/mcpКомандой платформы: удалённый сервер
codex mcp add llm-latency-tracker --url https://llmlatency.dev/mcpФайл настроек
{
"mcpServers": {
"llm-latency-tracker": {
"url": "https://llmlatency.dev/mcp"
}
}
}Файл настроек
{
"servers": {
"llm-latency-tracker": {
"type": "http",
"url": "https://llmlatency.dev/mcp"
}
}
}Командой платформы: удалённый сервер
gemini mcp add -t http llm-latency-tracker https://llmlatency.dev/mcpПо шагам, с командами для каждой платформы: Как подключить MCP-сервер: Claude Code, Codex, Cursor, VS Code, Gemini CLI и другие
Вопросы о LLM Latency Tracker
Как установить LLM Latency Tracker в Claude Code?
Выполните команду claude mcp add --transport http llm-latency-tracker https://llmlatency.dev/mcp. Клиент сразу подключится к общедоступному удалённому серверу по протоколу HTTP.
Что делает LLM Latency Tracker?
Он предоставляет агенту доступ к замерам доступности, задержки TTFB и времени до первого токена для нескольких десятков провайдеров инференса.
Нужны ли ключи API для работы сервера?
Публичный MCP-сервер читает готовые открытые данные без ключей. Ключи понадобятся только при самостоятельном локальном запуске зондов инференса.
