hack/tools/scripts/llm-key-hunter/results/_cache/content/apprentice217_ai-router.json

{"repo": "apprentice217/ai-router", "files": {"README.md": {"2068f591a9ba2965fd903e341df0c468351e220d": {"t": 1785746572.0467246, "n": 12871, "h": "7d02c0f101b45828", "c": "# AI-Router 🚀\n\n<p align=\"center\">\n  <strong>企业级 AI 网关平台 | Enterprise-Level AI Gateway</strong>\n</p>\n\n<p align=\"center\">\n  统一接口调用多个主流 AI 模型，支持智能路由、自动故障转移、实时监控\n</p>\n\n<p align=\"center\">\n  <img src=\"https://img.shields.io/badge/Python-3.12-blue\" alt=\"Python\"/>\n  <img src=\"https://img.shields.io/badge/FastAPI-0.104+-brightgreen\" alt=\"FastAPI\"/>\n  <img src=\"https://img.shields.io/badge/Vue-3.5-green\" alt=\"Vue\"/>\n  <img src=\"https://img.shields.io/badge/Docker-latest-blue\" alt=\"Docker\"/>\n  <img src=\"https://img.shields.io/badge/License-MIT-yellow\" alt=\"License\"/>\n</p>\n\n---\n\n## 📖 项目简介\n\nAI-Router 是一个参考 [OpenRouter.ai](https://openrouter.ai/) 设计的**企业级 AI 网关平台**，提供统一的 API 接口来访问多个主流 AI 模型（通义千问、智谱AI、DeepSeek、OpenAI 等），实现智能路由、自动故障转移、完善的监控体系和 Python SDK 支持。\n\n### 🎯 核心价值\n\n| 特性 | 说明 | 价值 |\n|------|------|------|\n| 🔌 **即插即用** | 兼容 OpenAI SDK 格式，一行代码切换模型 | 零学习成本 |\n| 🛡️ **高可用设计** | 智能重试 + 健康检查 + 自动 Fallback | 99.9% 可用性 |\n| 🎯 **智能路由** | 支持 auto 模式（成本/速度优先） | 成本降低 30%+ |\n| 📊 **全链路监控** | Prometheus + Grafana + TraceId 追踪 | 秒级定位问题 |\n| 🚀 **开发者友好** | Python SDK + 完整文档 + 示例代码 | 5 分钟上手 |\n| 💰 **消耗透明** | 实时统计 Token 消耗与费用 | 成本可控 |\n\n---\n\n## ✨ 功能特性\n\n### 核心功能\n\n- **🤖 多模型接入**：支持通义千问、智谱AI、DeepSeek 等主流大模型\n- **💬 在线对话**：支持流式响应、多轮对话、上下文管理\n- **🔑 API Key 管理**：创建、查看、撤销 API Key，支持调用统计\n- **📊 Token 统计**：实时统计每次请求的 Token 消耗\n- **🖼️ AI 绘图**：支持通义万相、智谱 CogView 等文生图模型\n- **💳 在线充值**：Stripe 支付集成，支持余额管理\n\n### 高级特性\n\n- **🔀 智能路由**：成本优先 / 速度优先 / 轮询策略\n- **♻️ 自动 Fallback**：模型故障自动切换到备用模型\n- **⏱️ 智能重试**：指数退避重试策略\n- **🔒 安全防护**：IP 黑名单、请求限流、TraceId 追踪\n- **🔌 插件系统**：Web 搜索、PDF 解析、图片识别\n- **🗝️ BYOK 支持**：用户自带 API Key，直连模型\n\n### 监控告警\n\n- **📈 实时监控**：QPS、成功率、错误率、延迟分布\n- **📉 Prometheus 指标**：完整的业务指标导出\n- **📊 Grafana 大盘**：预置监控仪表盘\n\n---\n\n## 🛠️ 技术栈\n\n### 后端技术\n\n| 技术 | 版本 | 说明 |\n|------|------|------|\n| Python | 3.12+ | 编程语言 |\n| FastAPI | 0.104+ | 异步 Web 框架 |\n| SQLAlchemy | 2.0+ | ORM 框架 |\n| Pydantic | 2.0+ | 数据验证 |\n| httpx | 0.25+ | 异步 HTTP 客户端 |\n| aiomysql | 0.2.0+ | 异步 MySQL 驱动 |\n| Redis | 7+ | 缓存 / Session / 分布式锁 |\n| LangChain | 0.1+ | AI 模型集成框架 |\n| Stripe | 10+ | 在线支付 |\n| Prometheus | 2.48+ | 指标收集 |\n\n### 前端技术\n\n| 技术 | 版本 | 说明 |\n|------|------|------|\n| Vue | 3.5.17 | 前端框架 |\n| Vite | 7.0.0 | 构建工具 |\n| Ant Design Vue | 4.2.6 | UI 组件库 |\n| Pinia | 3.0.3 | 状态管理 |\n| ECharts | 5.5.0 | 图表组件 |\n| Axios | 1.11.0 | HTTP 客户端 |\n| TypeScript | 5.8.0 | 类型安全 |\n\n### 基础设施\n\n| 组件 | 说明 |\n|------|------|\n| Docker + Docker Compose | 容器化部署 |\n| Nginx | 反向代理 / 负载均衡 |\n| Prometheus | 指标存储 |\n| Grafana | 监控可视化 |\n\n---\n\n## 🏗️ 系统架构\n\n```\n┌─────────────────────────────────────────────────────────────────┐\n│                        客户端层                                  │\n│   ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌──────────┐        │\n│   │ Java SDK │  │ 前端应用  │  │ HTTP API │  │  其他SDK  │        │\n│   └────┬─────┘  └────┬─────┘  └────┬─────┘  └────┬─────┘        │\n└────────┼─────────────┼─────────────┼─────────────┼──────────────┘\n         │             │             │             │\n         ▼             ▼             ▼             ▼\n┌─────────────────────────────────────────────────────────────────┐\n│                     API 网关层                                   │\n│  ┌─────────────────────────────────────────────────────────┐    │\n│  │                   认证 & 鉴权层                           │    │\n│  │     • API Key 验证    • 权限检查    • 配额控制              │   │\n│  └──────────────────────────┬──────────────────────────────┘    │\n│                              │                                  │\n│  ┌──────────────────────────▼──────────────────────────────┐    │\n│  │                    智能路由层                             │    │\n│  │  • 成本优先路由    • 速度优先路由    • 健康检查              │    │\n│  │  • 自动 Fallback   • 负载均衡      • 模型映射              │    │\n│  └──────────────────────────┬──────────────────────────────┘    │\n│                              │                                  │\n│  ┌──────────────────────────▼──────────────────────────────┐    │\n│  │                   模型调用层 (Spring AI)                  │    │\n│  │  • 统一接口封装    • 流式响应    • 智能重试                 │    │\n│  │  • 超时控制        • 响应缓存    • 错误处理                 │    │\n│  └───────┬────────────────┬────────────────┬───────────────┘    │\n└──────────┼────────────────┼────────────────┼────────────────────┘\n           │                │                │\n           ▼                ▼                ▼\n    ┌──────────┐     ┌──────────┐     ┌──────────┐\n    │ 通义千问  │     │  智谱AI   │     │ DeepSeek │  ...更多模型\n    └──────────┘     └──────────┘     └──────────┘\n```\n\n---\n\n## 📁 项目结构\n\n```\nai-router/\n├── frontend/                        # 前端项目 (Vue.js)\n│   ├── src/\n│   │   ├── api/                     # API 接口定义\n│   │   ├── components/              # 公共组件\n│   │   ├── layouts/                 # 布局组件\n│   │   ├── pages/                   # 页面\n│   │   │   ├── admin/               # 管理员页面\n│   │   │   └── user/                # 用户页面\n│   │   ├── router/                  # 路由配置\n│   │   └── stores/                  # Pinia 状态管理\n│   ├── Dockerfile                   # 前端 Docker 配置\n│   └── package.json\n├── python-backend/                  # Python 后端项目\n│   ├── app/\n│   │   ├── adapter/                 # 模型适配器\n│   │   │   ├── dashscope_adapter.py    # 通义千问适配器\n│   │   │   ├── deepseek_adapter.py     # DeepSeek 适配器\n│   │   │   ├── openai_adapter.py       # OpenAI 适配器\n│   │   │   ├── zhipu_adapter.py        # 智谱AI 适配器\n│   │   │   └── adapter_factory.py      # 适配器工厂\n│   │   ├── api/                     # API 路由 (Controllers)\n│   │   │   ├── apikey.py            # API Key 管理\n│   │   │   ├── chat.py              # 对话接口 (OpenAI 兼容)\n│   │   │   ├── image.py             # AI 绘图接口\n│   │   │   └── ...\n│   │   ├── models/                  # 数据模型\n│   │   │   ├── schemas/             # Pydantic 数据模型\n│   │   │   └── db/                  # 数据库实体\n│   │   ├── services/                # 业务逻辑\n│   │   │   ├── chat_service.py      # 对话服务\n│   │   │   ├── routing_service.py   # 路由服务\n│   │   │   ├── health_service.py    # 健康检查服务\n│   │   │   └── billing_service.py   # 计费服务\n│   │   ├── strategy/                # 路由策略\n│   │   ├── middleware/              # 中间件 (认证、限流等)\n│   │   ├── task/                    # 异步任务 (健康检查等)\n│   │   └── utils/                   # 工具类\n│   ├── Dockerfile                   # 后端 Docker 配置\n│   ├── requirements.txt             # Python 依赖\n│   ├── run.py                       # 启动脚本\n│   └── main.py                      # FastAPI 主文件\n├── yu-ai-router-sdk/                # Python SDK\n│   ├── yu_ai_router_sdk/\n│   │   ├── client.py                # 客户端\n│   │   ├── models.py                # 数据模型\n│   │   └── config.py                # 配置\n│   ├── examples/                    # 示例代码\n│   └── pyproject.toml               # Python 项目配置\n├── sql/                             # SQL 脚本\n│   └── create_table.sql             # 建表语句\n├── grafana/                         # Grafana 配置\n│   ├── provisioning/\n│   │   ├── dashboards/              # 监控仪表板\n│   │   └── datasources/             # 数据源配置\n├── docker-compose.yml               # Docker Compose 配置\n├── prometheus.yml                   # Prometheus 配置\n└── README.md                        # 项目文档\n```\n\n---\n\n## 🚀 快速开始\n\n### 环境要求\n\n- Python 3.12+\n- Node.js 22+\n- MySQL 8.0+\n- Redis 7.0+\n\n### 本地开发\n\n#### 1. 克隆项目\n\n```bash\ngit clone https://github.com/your-repo/ai-router.git\ncd ai-router\n```\n\n#### 2. 初始化数据库\n\n```bash\n# 执行 SQL 脚本创建数据库和表\nmysql -u root -p < sql/create_table.sql\n```\n\n#### 3. 配置 Python 后端\n\n进入后端目录并创建虚拟环境：\n\n```bash\ncd python-backend\npython -m venv venv\nsource venv/bin/activate  # Windows: venv\\Scripts\\activate\npip install -r requirements.txt\n```\n\n配置环境变量，创建 `.env` 文件：\n\n```bash\n# 数据库配置\nDATABASE_URL=mysql+aiomysql://root:123456@localhost:3306/yu_ai_router\nREDIS_URL=redis://localhost:6379\n\n# AI 模型配置\nDASHSCOPE_API_KEY=your-qwen-api-key\nDEEPSEEK_API_KEY=your-deepseek-api-key\nZHIPU_API_KEY=your-zhipu-api-key\nOPENAI_API_KEY=your-openai-api-key\n\n# Stripe 配置\nSTRIPE_API_KEY=your-stripe-api-key\n```\n\n#### 4. 启动后端服务\n\n```bash\npython run.py\n```\n\n访问 API：http://localhost:8123/api\n\n#### 5. 启动前端\n\n```bash\ncd frontend\nnpm install\nnpm run dev\n```\n\n访问前端页面：http://localhost:5173\n\n---\n\n## 🐳 Docker 部署\n\n### 一键部署（推荐）\n\n```bash\ndocker-compose up -d\n```\n\n服务访问地址：\n\n| 服务 | 地址 |\n|------|------|\n| 前端页面 | http://localhost |\n| 后端 API | http://localhost:8123/api |\n| Prometheus | http://localhost:9090 |\n| Grafana | http://localhost:3000 (admin/admin) |\n\n### 单独构建\n\n```bash\n# 构建后端镜像\ncd python-backend\ndocker build -t ai-router-backend .\n\n# 构建前端镜像\ncd ../frontend\ndocker build -t ai-router-frontend .\n```\n\n---\n\n## 📡 API 使用\n\n### 对话接口（兼容 OpenAI 格式）\n\n```bash\ncurl -X POST \"http://localhost:8123/api/v1/chat/completions\" \\\n  -H \"Content-Type: application/json\" \\\n  -H \"Authorization: Bearer sk-your-api-key\" \\\n  -d '{\n    \"model\": \"qwen-plus\",\n    \"messages\": [\n      {\"role\": \"user\", \"content\": \"你好\"}\n    ],\n    \"stream\": true\n  }'\n```\n\n### 支持的模型\n\n| 模型标识 | 提供商 | 说明 |\n|----------|--------|------|\n| `qwen-plus` | 通义千问 | 增强版，性能更强 |\n| `qwen-turbo` | 通义千问 | 快速版，响应更快 |\n| `qwen-max` | 通义千问 | 旗舰版，支持深度思考 |\n| `glm-4.7` | 智谱AI | 高智能旗舰模型 |\n| `glm-4.6` | 智谱AI | 超强性能模型 |\n| `glm-4.7-flash` | 智谱AI | 免费模型 |\n| `deepseek-chat` | DeepSeek | 对话模型 |\n| `deepseek-reasoner` | DeepSeek | 支持深度思考 |\n| `deepseek-coder` | DeepSeek | 代码模型 |\n\n### 智能路由\n\n```bash\n# 使用 auto 模式，自动选择最优模型\ncurl -X POST \"http://localhost:8123/api/v1/chat/completions\" \\\n  -H \"Authorization: Bearer sk-your-api-key\" \\\n  -d '{\n    \"model\": \"auto\",\n    \"messages\": [{\"role\": \"user\", \"content\": \"你好\"}],\n    \"routing_strategy\": \"cost_first\"\n  }'\n```\n\n路由策略：\n- `cost_first`：成本优先，选择最便宜的健康模型\n- `latency_first`：速度优先，选择响应最快的模型\n- `round_robin`：轮询所有健康模型\n\n---\n\n## 📦 Python SDK\n\n### 安装\n\n```bash\npip install yu-ai-router-sdk\n```\n\n或本地安装：\n\n```bash\ncd yu-ai-router-sdk\npip install -e .\n```\n\n### 使用示例\n\n```python\nfrom yu_ai_router_sdk import AIRouter\n\n# 创建客户端\nclient = AIRouter(\n    api_key=\"sk-your-api-key\",\n    base_url=\"http://localhost:8123/api\"\n)\n\n# 同步调用\nresponse = client.chat(\"你好\")\nprint(response)\n\n# 指定模型\nresponse = client.chat(\"你好\", model=\"qwen-plus\")\nprint(response)\n\n# 流式调用\nfor chunk in client.chat_stream(\"讲一个故事\"):\n    print(chunk, end=\"\", flush=True)\n\n# 指定路由策略\nresponse = client.chat(\n    \"你好\",\n    model=\"auto\",\n    routing_strategy=\"cost_first\"\n)\nprint(response)\n```\n\n---\n\n## 📊 监控指标\n\n### Prometheus 指标\n\n| 指标名称 | 类型 | 说明 |\n|----------|------|------|\n| `ai_gateway_requests_total` | Counter | 请求总数 |\n| `ai_gateway_request_duration` | Histogram | 请求延迟分布 |\n| `ai_gateway_tokens_total` | Counter | Token 消耗总数 |\n| `ai_gateway_model_health` | Gauge | 模型健康状态 |\n\n### Grafana 仪表盘\n\n项目提供预置的 Grafana 仪表盘（`grafana-dashboard.json`），包含：\n\n- 实时 QPS 曲线\n- 各模型成功率/错误率\n- Token 消耗趋势\n- 平均延迟分布\n- 模型健康状态\n\n---\n\n## 🔧 配置说明\n\n### 应用配置\n\n在 `python-backend/.env` 文件中配置：\n\n```bash\n# 服务器配置\nHOST=0.0.0.0\nPORT=8123\n\n# 数据库配置\nDATABASE_URL=mysql+aiomysql://root:123456@localhost:3306/yu_ai_router\n\n# Redis 配置\nREDIS_URL=redis://localhost:6379\n\n# AI 模型 API Key\nDASHSCOPE_API_KEY=your-qwen-api-key\nDEEPSEEK_API_KEY=your-deepseek-api-key\nZHIPU_API_KEY=your-zhipu-api-key\nOPENAI_API_KEY=your-openai-api-key\n\n# 路由策略\nDEFAULT_ROUTING_STRATEGY=cost_first\nFALLBACK_ENABLED=true\nRETRY_TIMES=3\n\n# Stripe 支付\nSTRIPE_API_KEY=your-stripe-api-key\n```\n\n### 环境变量\n\n| 变量名 | 说明 | 默认值 |\n|--------|------|--------|\n| `DATABASE_URL` | 数据库连接 | - |\n| `REDIS_URL` | Redis 地址 | redis://localhost:6379 |\n| `DASHSCOPE_API_KEY` | 通义千问 Key | - |\n| `DEEPSEEK_API_KEY` | DeepSeek Key | - |\n| `ZHIPU_API_KEY` | 智谱 AI Key | - |\n| `OPENAI_API_KEY` | OpenAI Key | - |\n| `DEFAULT_ROUTING_STRATEGY` | 默认路由策略 | cost_first |\n| `FALLBACK_ENABLED` | 启用自动 Fallback | true |\n| `RETRY_TIMES` | 重试次数 | 3 |\n\n---\n\n## 🗃️ 数据库设计\n\n### 核心表\n\n| 表名 | 说明 |\n|------|------|\n| `user` | 用户表 |\n| `api_key` | API Key 表 |\n| `model_provider` | 模型提供者表 |\n| `model` | 模型表 |\n| `request_log` | 请求日志表 |\n| `plugin_config` | 插件配置表 |\n| `user_provider_key` | 用户自带密钥表（BYOK） |\n\n---\n\n## 🔐 安全特性\n\n- **API Key 认证**：所有 API 请求需携带有效的 API Key\n- **请求限流**：支持 API Key 级别和 IP 级别的限流\n- **IP 黑名单**：可配置 IP 黑名单，防止恶意请求\n- **TraceId 追踪**：全链路追踪，便于问题排查\n- **HTTPS 支持**：建议生产环境启用 HTTPS\n\n---\n\n## 📝 开发计划\n\n- [x] 基础功能（用户系统、对话、API Key 管理）\n- [x] 多模型接入（通义千问、智谱AI、DeepSeek、OpenAI）\n- [x] 智能路由与 Fallback\n- [x] 请求限流与 IP 黑名单\n- [x] Python SDK\n- [x] Prometheus + Grafana 监控\n- [x] Stripe 在线支付\n- [x] AI 绘图功能\n- [x] 插件系统（Web 搜索、PDF 解析）\n- [x] BYOK（用户自带密钥）\n- [ ] Function Calling 支持\n- [ ] Go/Node.js SDK\n\n---\n\n## 🤝 贡献指南\n\n欢迎贡献代码！请遵循以下步骤：\n\n1. Fork 本仓库\n2. 创建特性分支 (`git checkout -b feature/AmazingFeature`)\n3. 提交更改 (`git commit -m 'Add some AmazingFeature'`)\n4. 推送到分支 (`git push origin feature/AmazingFeature`)\n5. 发起 Pull Request\n\n---\n\n## 📄 开源协议\n\n本项目采用 MIT 协议开源，详见 [LICENSE](LICENSE) 文件。\n\n---\n\n## 🙏 致谢\n\n- [FastAPI](https://fastapi.tiangolo.com/) - 异步 Web 框架\n- [LangChain](https://www.langchain.com/) - AI 模型集成框架\n- [OpenRouter](https://openrouter.ai/) - 产品设计参考\n- [Ant Design Vue](https://antdv.com/) - UI 组件库\n- [Prometheus](https://prometheus.io/) - 监控指标收集\n- [Grafana](https://grafana.com/) - 可视化仪表板\n\n---\n\n<p align=\"center\">\n  Made with ❤️ by AI Router Contributors\n</p>\n"}, "0e9fd3aa182d290a25ab7d2d8c442d65467aeaba": {"t": 1785765870.811875, "n": 12871, "h": "7d02c0f101b45828", "c": "# AI-Router 🚀\n\n<p align=\"center\">\n  <strong>企业级 AI 网关平台 | Enterprise-Level AI Gateway</strong>\n</p>\n\n<p align=\"center\">\n  统一接口调用多个主流 AI 模型，支持智能路由、自动故障转移、实时监控\n</p>\n\n<p align=\"center\">\n  <img src=\"https://img.shields.io/badge/Python-3.12-blue\" alt=\"Python\"/>\n  <img src=\"https://img.shields.io/badge/FastAPI-0.104+-brightgreen\" alt=\"FastAPI\"/>\n  <img src=\"https://img.shields.io/badge/Vue-3.5-green\" alt=\"Vue\"/>\n  <img src=\"https://img.shields.io/badge/Docker-latest-blue\" alt=\"Docker\"/>\n  <img src=\"https://img.shields.io/badge/License-MIT-yellow\" alt=\"License\"/>\n</p>\n\n---\n\n## 📖 项目简介\n\nAI-Router 是一个参考 [OpenRouter.ai](https://openrouter.ai/) 设计的**企业级 AI 网关平台**，提供统一的 API 接口来访问多个主流 AI 模型（通义千问、智谱AI、DeepSeek、OpenAI 等），实现智能路由、自动故障转移、完善的监控体系和 Python SDK 支持。\n\n### 🎯 核心价值\n\n| 特性 | 说明 | 价值 |\n|------|------|------|\n| 🔌 **即插即用** | 兼容 OpenAI SDK 格式，一行代码切换模型 | 零学习成本 |\n| 🛡️ **高可用设计** | 智能重试 + 健康检查 + 自动 Fallback | 99.9% 可用性 |\n| 🎯 **智能路由** | 支持 auto 模式（成本/速度优先） | 成本降低 30%+ |\n| 📊 **全链路监控** | Prometheus + Grafana + TraceId 追踪 | 秒级定位问题 |\n| 🚀 **开发者友好** | Python SDK + 完整文档 + 示例代码 | 5 分钟上手 |\n| 💰 **消耗透明** | 实时统计 Token 消耗与费用 | 成本可控 |\n\n---\n\n## ✨ 功能特性\n\n### 核心功能\n\n- **🤖 多模型接入**：支持通义千问、智谱AI、DeepSeek 等主流大模型\n- **💬 在线对话**：支持流式响应、多轮对话、上下文管理\n- **🔑 API Key 管理**：创建、查看、撤销 API Key，支持调用统计\n- **📊 Token 统计**：实时统计每次请求的 Token 消耗\n- **🖼️ AI 绘图**：支持通义万相、智谱 CogView 等文生图模型\n- **💳 在线充值**：Stripe 支付集成，支持余额管理\n\n### 高级特性\n\n- **🔀 智能路由**：成本优先 / 速度优先 / 轮询策略\n- **♻️ 自动 Fallback**：模型故障自动切换到备用模型\n- **⏱️ 智能重试**：指数退避重试策略\n- **🔒 安全防护**：IP 黑名单、请求限流、TraceId 追踪\n- **🔌 插件系统**：Web 搜索、PDF 解析、图片识别\n- **🗝️ BYOK 支持**：用户自带 API Key，直连模型\n\n### 监控告警\n\n- **📈 实时监控**：QPS、成功率、错误率、延迟分布\n- **📉 Prometheus 指标**：完整的业务指标导出\n- **📊 Grafana 大盘**：预置监控仪表盘\n\n---\n\n## 🛠️ 技术栈\n\n### 后端技术\n\n| 技术 | 版本 | 说明 |\n|------|------|------|\n| Python | 3.12+ | 编程语言 |\n| FastAPI | 0.104+ | 异步 Web 框架 |\n| SQLAlchemy | 2.0+ | ORM 框架 |\n| Pydantic | 2.0+ | 数据验证 |\n| httpx | 0.25+ | 异步 HTTP 客户端 |\n| aiomysql | 0.2.0+ | 异步 MySQL 驱动 |\n| Redis | 7+ | 缓存 / Session / 分布式锁 |\n| LangChain | 0.1+ | AI 模型集成框架 |\n| Stripe | 10+ | 在线支付 |\n| Prometheus | 2.48+ | 指标收集 |\n\n### 前端技术\n\n| 技术 | 版本 | 说明 |\n|------|------|------|\n| Vue | 3.5.17 | 前端框架 |\n| Vite | 7.0.0 | 构建工具 |\n| Ant Design Vue | 4.2.6 | UI 组件库 |\n| Pinia | 3.0.3 | 状态管理 |\n| ECharts | 5.5.0 | 图表组件 |\n| Axios | 1.11.0 | HTTP 客户端 |\n| TypeScript | 5.8.0 | 类型安全 |\n\n### 基础设施\n\n| 组件 | 说明 |\n|------|------|\n| Docker + Docker Compose | 容器化部署 |\n| Nginx | 反向代理 / 负载均衡 |\n| Prometheus | 指标存储 |\n| Grafana | 监控可视化 |\n\n---\n\n## 🏗️ 系统架构\n\n```\n┌─────────────────────────────────────────────────────────────────┐\n│                        客户端层                                  │\n│   ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌──────────┐        │\n│   │ Java SDK │  │ 前端应用  │  │ HTTP API │  │  其他SDK  │        │\n│   └────┬─────┘  └────┬─────┘  └────┬─────┘  └────┬─────┘        │\n└────────┼─────────────┼─────────────┼─────────────┼──────────────┘\n         │             │             │             │\n         ▼             ▼             ▼             ▼\n┌─────────────────────────────────────────────────────────────────┐\n│                     API 网关层                                   │\n│  ┌─────────────────────────────────────────────────────────┐    │\n│  │                   认证 & 鉴权层                           │    │\n│  │     • API Key 验证    • 权限检查    • 配额控制              │   │\n│  └──────────────────────────┬──────────────────────────────┘    │\n│                              │                                  │\n│  ┌──────────────────────────▼──────────────────────────────┐    │\n│  │                    智能路由层                             │    │\n│  │  • 成本优先路由    • 速度优先路由    • 健康检查              │    │\n│  │  • 自动 Fallback   • 负载均衡      • 模型映射              │    │\n│  └──────────────────────────┬──────────────────────────────┘    │\n│                              │                                  │\n│  ┌──────────────────────────▼──────────────────────────────┐    │\n│  │                   模型调用层 (Spring AI)                  │    │\n│  │  • 统一接口封装    • 流式响应    • 智能重试                 │    │\n│  │  • 超时控制        • 响应缓存    • 错误处理                 │    │\n│  └───────┬────────────────┬────────────────┬───────────────┘    │\n└──────────┼────────────────┼────────────────┼────────────────────┘\n           │                │                │\n           ▼                ▼                ▼\n    ┌──────────┐     ┌──────────┐     ┌──────────┐\n    │ 通义千问  │     │  智谱AI   │     │ DeepSeek │  ...更多模型\n    └──────────┘     └──────────┘     └──────────┘\n```\n\n---\n\n## 📁 项目结构\n\n```\nai-router/\n├── frontend/                        # 前端项目 (Vue.js)\n│   ├── src/\n│   │   ├── api/                     # API 接口定义\n│   │   ├── components/              # 公共组件\n│   │   ├── layouts/                 # 布局组件\n│   │   ├── pages/                   # 页面\n│   │   │   ├── admin/               # 管理员页面\n│   │   │   └── user/                # 用户页面\n│   │   ├── router/                  # 路由配置\n│   │   └── stores/                  # Pinia 状态管理\n│   ├── Dockerfile                   # 前端 Docker 配置\n│   └── package.json\n├── python-backend/                  # Python 后端项目\n│   ├── app/\n│   │   ├── adapter/                 # 模型适配器\n│   │   │   ├── dashscope_adapter.py    # 通义千问适配器\n│   │   │   ├── deepseek_adapter.py     # DeepSeek 适配器\n│   │   │   ├── openai_adapter.py       # OpenAI 适配器\n│   │   │   ├── zhipu_adapter.py        # 智谱AI 适配器\n│   │   │   └── adapter_factory.py      # 适配器工厂\n│   │   ├── api/                     # API 路由 (Controllers)\n│   │   │   ├── apikey.py            # API Key 管理\n│   │   │   ├── chat.py              # 对话接口 (OpenAI 兼容)\n│   │   │   ├── image.py             # AI 绘图接口\n│   │   │   └── ...\n│   │   ├── models/                  # 数据模型\n│   │   │   ├── schemas/             # Pydantic 数据模型\n│   │   │   └── db/                  # 数据库实体\n│   │   ├── services/                # 业务逻辑\n│   │   │   ├── chat_service.py      # 对话服务\n│   │   │   ├── routing_service.py   # 路由服务\n│   │   │   ├── health_service.py    # 健康检查服务\n│   │   │   └── billing_service.py   # 计费服务\n│   │   ├── strategy/                # 路由策略\n│   │   ├── middleware/              # 中间件 (认证、限流等)\n│   │   ├── task/                    # 异步任务 (健康检查等)\n│   │   └── utils/                   # 工具类\n│   ├── Dockerfile                   # 后端 Docker 配置\n│   ├── requirements.txt             # Python 依赖\n│   ├── run.py                       # 启动脚本\n│   └── main.py                      # FastAPI 主文件\n├── yu-ai-router-sdk/                # Python SDK\n│   ├── yu_ai_router_sdk/\n│   │   ├── client.py                # 客户端\n│   │   ├── models.py                # 数据模型\n│   │   └── config.py                # 配置\n│   ├── examples/                    # 示例代码\n│   └── pyproject.toml               # Python 项目配置\n├── sql/                             # SQL 脚本\n│   └── create_table.sql             # 建表语句\n├── grafana/                         # Grafana 配置\n│   ├── provisioning/\n│   │   ├── dashboards/              # 监控仪表板\n│   │   └── datasources/             # 数据源配置\n├── docker-compose.yml               # Docker Compose 配置\n├── prometheus.yml                   # Prometheus 配置\n└── README.md                        # 项目文档\n```\n\n---\n\n## 🚀 快速开始\n\n### 环境要求\n\n- Python 3.12+\n- Node.js 22+\n- MySQL 8.0+\n- Redis 7.0+\n\n### 本地开发\n\n#### 1. 克隆项目\n\n```bash\ngit clone https://github.com/your-repo/ai-router.git\ncd ai-router\n```\n\n#### 2. 初始化数据库\n\n```bash\n# 执行 SQL 脚本创建数据库和表\nmysql -u root -p < sql/create_table.sql\n```\n\n#### 3. 配置 Python 后端\n\n进入后端目录并创建虚拟环境：\n\n```bash\ncd python-backend\npython -m venv venv\nsource venv/bin/activate  # Windows: venv\\Scripts\\activate\npip install -r requirements.txt\n```\n\n配置环境变量，创建 `.env` 文件：\n\n```bash\n# 数据库配置\nDATABASE_URL=mysql+aiomysql://root:123456@localhost:3306/yu_ai_router\nREDIS_URL=redis://localhost:6379\n\n# AI 模型配置\nDASHSCOPE_API_KEY=your-qwen-api-key\nDEEPSEEK_API_KEY=your-deepseek-api-key\nZHIPU_API_KEY=your-zhipu-api-key\nOPENAI_API_KEY=your-openai-api-key\n\n# Stripe 配置\nSTRIPE_API_KEY=your-stripe-api-key\n```\n\n#### 4. 启动后端服务\n\n```bash\npython run.py\n```\n\n访问 API：http://localhost:8123/api\n\n#### 5. 启动前端\n\n```bash\ncd frontend\nnpm install\nnpm run dev\n```\n\n访问前端页面：http://localhost:5173\n\n---\n\n## 🐳 Docker 部署\n\n### 一键部署（推荐）\n\n```bash\ndocker-compose up -d\n```\n\n服务访问地址：\n\n| 服务 | 地址 |\n|------|------|\n| 前端页面 | http://localhost |\n| 后端 API | http://localhost:8123/api |\n| Prometheus | http://localhost:9090 |\n| Grafana | http://localhost:3000 (admin/admin) |\n\n### 单独构建\n\n```bash\n# 构建后端镜像\ncd python-backend\ndocker build -t ai-router-backend .\n\n# 构建前端镜像\ncd ../frontend\ndocker build -t ai-router-frontend .\n```\n\n---\n\n## 📡 API 使用\n\n### 对话接口（兼容 OpenAI 格式）\n\n```bash\ncurl -X POST \"http://localhost:8123/api/v1/chat/completions\" \\\n  -H \"Content-Type: application/json\" \\\n  -H \"Authorization: Bearer sk-your-api-key\" \\\n  -d '{\n    \"model\": \"qwen-plus\",\n    \"messages\": [\n      {\"role\": \"user\", \"content\": \"你好\"}\n    ],\n    \"stream\": true\n  }'\n```\n\n### 支持的模型\n\n| 模型标识 | 提供商 | 说明 |\n|----------|--------|------|\n| `qwen-plus` | 通义千问 | 增强版，性能更强 |\n| `qwen-turbo` | 通义千问 | 快速版，响应更快 |\n| `qwen-max` | 通义千问 | 旗舰版，支持深度思考 |\n| `glm-4.7` | 智谱AI | 高智能旗舰模型 |\n| `glm-4.6` | 智谱AI | 超强性能模型 |\n| `glm-4.7-flash` | 智谱AI | 免费模型 |\n| `deepseek-chat` | DeepSeek | 对话模型 |\n| `deepseek-reasoner` | DeepSeek | 支持深度思考 |\n| `deepseek-coder` | DeepSeek | 代码模型 |\n\n### 智能路由\n\n```bash\n# 使用 auto 模式，自动选择最优模型\ncurl -X POST \"http://localhost:8123/api/v1/chat/completions\" \\\n  -H \"Authorization: Bearer sk-your-api-key\" \\\n  -d '{\n    \"model\": \"auto\",\n    \"messages\": [{\"role\": \"user\", \"content\": \"你好\"}],\n    \"routing_strategy\": \"cost_first\"\n  }'\n```\n\n路由策略：\n- `cost_first`：成本优先，选择最便宜的健康模型\n- `latency_first`：速度优先，选择响应最快的模型\n- `round_robin`：轮询所有健康模型\n\n---\n\n## 📦 Python SDK\n\n### 安装\n\n```bash\npip install yu-ai-router-sdk\n```\n\n或本地安装：\n\n```bash\ncd yu-ai-router-sdk\npip install -e .\n```\n\n### 使用示例\n\n```python\nfrom yu_ai_router_sdk import AIRouter\n\n# 创建客户端\nclient = AIRouter(\n    api_key=\"sk-your-api-key\",\n    base_url=\"http://localhost:8123/api\"\n)\n\n# 同步调用\nresponse = client.chat(\"你好\")\nprint(response)\n\n# 指定模型\nresponse = client.chat(\"你好\", model=\"qwen-plus\")\nprint(response)\n\n# 流式调用\nfor chunk in client.chat_stream(\"讲一个故事\"):\n    print(chunk, end=\"\", flush=True)\n\n# 指定路由策略\nresponse = client.chat(\n    \"你好\",\n    model=\"auto\",\n    routing_strategy=\"cost_first\"\n)\nprint(response)\n```\n\n---\n\n## 📊 监控指标\n\n### Prometheus 指标\n\n| 指标名称 | 类型 | 说明 |\n|----------|------|------|\n| `ai_gateway_requests_total` | Counter | 请求总数 |\n| `ai_gateway_request_duration` | Histogram | 请求延迟分布 |\n| `ai_gateway_tokens_total` | Counter | Token 消耗总数 |\n| `ai_gateway_model_health` | Gauge | 模型健康状态 |\n\n### Grafana 仪表盘\n\n项目提供预置的 Grafana 仪表盘（`grafana-dashboard.json`），包含：\n\n- 实时 QPS 曲线\n- 各模型成功率/错误率\n- Token 消耗趋势\n- 平均延迟分布\n- 模型健康状态\n\n---\n\n## 🔧 配置说明\n\n### 应用配置\n\n在 `python-backend/.env` 文件中配置：\n\n```bash\n# 服务器配置\nHOST=0.0.0.0\nPORT=8123\n\n# 数据库配置\nDATABASE_URL=mysql+aiomysql://root:123456@localhost:3306/yu_ai_router\n\n# Redis 配置\nREDIS_URL=redis://localhost:6379\n\n# AI 模型 API Key\nDASHSCOPE_API_KEY=your-qwen-api-key\nDEEPSEEK_API_KEY=your-deepseek-api-key\nZHIPU_API_KEY=your-zhipu-api-key\nOPENAI_API_KEY=your-openai-api-key\n\n# 路由策略\nDEFAULT_ROUTING_STRATEGY=cost_first\nFALLBACK_ENABLED=true\nRETRY_TIMES=3\n\n# Stripe 支付\nSTRIPE_API_KEY=your-stripe-api-key\n```\n\n### 环境变量\n\n| 变量名 | 说明 | 默认值 |\n|--------|------|--------|\n| `DATABASE_URL` | 数据库连接 | - |\n| `REDIS_URL` | Redis 地址 | redis://localhost:6379 |\n| `DASHSCOPE_API_KEY` | 通义千问 Key | - |\n| `DEEPSEEK_API_KEY` | DeepSeek Key | - |\n| `ZHIPU_API_KEY` | 智谱 AI Key | - |\n| `OPENAI_API_KEY` | OpenAI Key | - |\n| `DEFAULT_ROUTING_STRATEGY` | 默认路由策略 | cost_first |\n| `FALLBACK_ENABLED` | 启用自动 Fallback | true |\n| `RETRY_TIMES` | 重试次数 | 3 |\n\n---\n\n## 🗃️ 数据库设计\n\n### 核心表\n\n| 表名 | 说明 |\n|------|------|\n| `user` | 用户表 |\n| `api_key` | API Key 表 |\n| `model_provider` | 模型提供者表 |\n| `model` | 模型表 |\n| `request_log` | 请求日志表 |\n| `plugin_config` | 插件配置表 |\n| `user_provider_key` | 用户自带密钥表（BYOK） |\n\n---\n\n## 🔐 安全特性\n\n- **API Key 认证**：所有 API 请求需携带有效的 API Key\n- **请求限流**：支持 API Key 级别和 IP 级别的限流\n- **IP 黑名单**：可配置 IP 黑名单，防止恶意请求\n- **TraceId 追踪**：全链路追踪，便于问题排查\n- **HTTPS 支持**：建议生产环境启用 HTTPS\n\n---\n\n## 📝 开发计划\n\n- [x] 基础功能（用户系统、对话、API Key 管理）\n- [x] 多模型接入（通义千问、智谱AI、DeepSeek、OpenAI）\n- [x] 智能路由与 Fallback\n- [x] 请求限流与 IP 黑名单\n- [x] Python SDK\n- [x] Prometheus + Grafana 监控\n- [x] Stripe 在线支付\n- [x] AI 绘图功能\n- [x] 插件系统（Web 搜索、PDF 解析）\n- [x] BYOK（用户自带密钥）\n- [ ] Function Calling 支持\n- [ ] Go/Node.js SDK\n\n---\n\n## 🤝 贡献指南\n\n欢迎贡献代码！请遵循以下步骤：\n\n1. Fork 本仓库\n2. 创建特性分支 (`git checkout -b feature/AmazingFeature`)\n3. 提交更改 (`git commit -m 'Add some AmazingFeature'`)\n4. 推送到分支 (`git push origin feature/AmazingFeature`)\n5. 发起 Pull Request\n\n---\n\n## 📄 开源协议\n\n本项目采用 MIT 协议开源，详见 [LICENSE](LICENSE) 文件。\n\n---\n\n## 🙏 致谢\n\n- [FastAPI](https://fastapi.tiangolo.com/) - 异步 Web 框架\n- [LangChain](https://www.langchain.com/) - AI 模型集成框架\n- [OpenRouter](https://openrouter.ai/) - 产品设计参考\n- [Ant Design Vue](https://antdv.com/) - UI 组件库\n- [Prometheus](https://prometheus.io/) - 监控指标收集\n- [Grafana](https://grafana.com/) - 可视化仪表板\n\n---\n\n<p align=\"center\">\n  Made with ❤️ by AI Router Contributors\n</p>\n"}}}}