Skip to content

Navigation Menu

Sign in
Appearance settings

Search code, repositories, users, issues, pull requests...

Provide feedback

We read every piece of feedback, and take your input very seriously.

Saved searches

Use saved searches to filter your results more quickly

Sign up
Appearance settings

kunish/wheel

Repository files navigation

Wheel Logo

Wheel

LLM API Gateway — Aggregate, Balance, Observe.

统一多家 LLM 提供商接口,智能负载均衡与自动故障转移,完整的用量追踪与成本管理。

License: MIT

Deploy on Zeabur


Dashboard
更多截图 / More Screenshots Model Management Groups Request Logs Settings

Features

  • 多提供商聚合 — OpenAI / Anthropic / Gemini 统一为 OpenAI 兼容接口,协议自动转换
  • 智能路由 — 4 种负载均衡(Round Robin / Random / Failover / Weighted),3 轮重试,熔断器,会话保持
  • SSE 流式转发 — 首 token 超时检测,超时自动 failover
  • 通道管理 — 多 Base URL、模型自动发现与同步、自定义请求头与参数覆盖
  • 分组管理 — 通道-模型配对,优先级/权重,独立超时与会话保持配置
  • API Key 管理 — 模型白名单、用量配额、过期时间
  • 成本管理 — 从 models.dev 自动同步 9 家提供商定价,缓存 token 计费,请求级成本计算
  • 实时监控 — WebSocket 仪表盘,活跃度热力图,成本趋势,通道/模型/Key 多维统计
  • 请求日志 — 完整请求/响应记录,重试时间线,高级过滤,一键重放
  • 数据管理 — JSON 导入/导出,图形化系统配置
  • 双语 & 主题 — 中文 / English,亮色 / 暗色 / 跟随系统

Deploy

Zeabur

一键部署 Worker + Web,点击上方 Zeabur 按钮即可。

Docker Compose

volumes:
 worker-data:
services:
 worker:
 image: ghcr.io/kunish/wheel-worker
 restart: always
 environment:
 JWT_SECRET: ${JWT_SECRET:?Please set JWT_SECRET}
 ADMIN_PASSWORD: ${ADMIN_PASSWORD:-admin}
 DATA_PATH: /app/data
 volumes:
 - worker-data:/app/data
 web:
 image: ghcr.io/kunish/wheel-web
 restart: always
 depends_on:
 - worker
echo "JWT_SECRET=$(openssl rand -hex 32)" > .env
docker compose up -d

需要反向代理(Caddy / Nginx)将 /api/*/v1/* 转发到 worker:8787,其余转发到 web:3000。

手动构建

# Worker (Go >= 1.24)
cd apps/worker && go build -o wheel ./cmd/worker && JWT_SECRET=your-secret ./wheel
# Web (Node >= 22, pnpm >= 10)
pnpm install && pnpm --filter @wheel/web build
# 静态文件服务器托管 apps/web/dist

Environment Variables

变量 组件 描述 默认值
JWT_SECRET Worker JWT 签名密钥(必填)
ADMIN_USERNAME Worker 管理员用户名 admin
ADMIN_PASSWORD Worker 管理员密码 admin
DATA_PATH Worker 数据目录路径 ./data
PORT Worker HTTP 端口 8787
VITE_API_BASE_URL Web Worker API 地址(独立部署时必填)

Development

pnpm install
pnpm dev # 同时启动 Worker + Web

License

MIT

About

Wheel. LLM API Gateway — Aggregate, Balance, Observe.

Resources

License

Stars

Watchers

Forks

Packages

Contributors 5

AltStyle によって変換されたページ (->オリジナル) /