Llm Routers banner
guru431 guru431

Llm Routers

AI community

Description

LLM routing toolkit for Claude Code & OpenAI-compatible clients: MCP council, ccr proxy, claude-agent-server, bench

Installation

This entry records only its repository, not the path inside it, so there is no exact command to give. Open the source below and copy the folder into ~/.claude/skills/, or the file into ~/.claude/agents/.

README

llm_routers

Зонтичный проект для MCP-серверов и прокси, маршрутизирующих запросы к разным LLM-провайдерам из Claude Code и OpenAI-совместимых клиентов.

Содержимое

Пакет Тип Назначение
`mcp-council/` MCP Единый router LLM-запросов. Tool council_ask — Karpathy 3-stage council (несколько моделей или подмножество ≥2). Tool model_ask — один прямой вызов конкретной модели. Плюс группа dialogue-tool'ов (model_debate / model_panel / model_socratic) для продолжительных диалогов между моделями с anti-convergence.
`claude-code-router/` HTTP-proxy Кастомизация `@musistudio/claude-code-router` (ccr): config.example.json + custom_router.js. Прокси Anthropic-API → произвольный OpenAI-совместимый upstream с per-project выбором модели.
`claude-agent-server/` HTTP-proxy Обёртка claude -p CLI в OpenAI-compatible HTTP API. Превращает подписку Claude Max/Pro в локальный API endpoint для n8n, чат-ботов и любых OpenAI-клиентов.
`codex-agent-server/` HTTP-proxy Обёртка codex exec CLI в OpenAI-compatible HTTP API на порту 8766. Превращает подписку ChatGPT в локальный API endpoint для Codex CLI; член совета 'codex' в mcp-council.
`bench/` benchmark Раннер LLM-бенчей: run.py (вызовы моделей с замером TTFT/quality), judge.py (LLM-as-judge), report.py (генерация markdown-отчёта).

Раньше существовали отдельные пакеты `mcp-deepseek/` и `mcp-minimax/`. Их функционал слит в `mcp-council/model_ask` через расширение `models.CATALOG`; каталоги удалены.

Shared lib политика

Python-пакетов теперь четыре (`mcp-council`, `claude-agent-server`, `codex-agent-server`, `bench`), но общая lib намеренно не выделяется:

  • mcp-council самодостаточен (sandbox.py / logger.py / openai_client.py живут внутри пакета).
  • Оба agent-сервера — независимые standalone-п