1 line
27 KiB
JSON
1 line
27 KiB
JSON
{"repo": "ayun07/cloud-book", "files": {"docs/LLM_PROVIDERS.md": {"64b8aee913a50404087d1d0285877545a2debbf2": {"t": 1785768188.0781338, "n": 22813, "h": "26e187934637640b", "c": "# Cloud Book 大模型接口支持文档\n\n## 一、概述\n\nCloud Book 是一款全能AI小说创作引擎，支持国内外 **26+ 大模型提供商**，**280+ 大模型**，涵盖文本生成、嵌入向量、智能推理等多种能力。本文档详细介绍所有已支持的大模型接口、本地部署方案以及自定义模型配置方式。\n\n---\n\n## 二、支持的模型提供商（26+）\n\n### 2.1 国际主流模型\n\n| 提供商 | 模型数量 | 主要特点 | 官方地址 |\n|--------|----------|----------|----------|\n| **OpenAI** | 27 | GPT-4o、GPT-4、O1推理系列 | https://platform.openai.com |\n| **Anthropic** | 9 | Claude 3.5/3/2系列 | https://www.anthropic.com |\n| **Google** | 11 | Gemini 2.0/1.5/Pro | https://ai.google.dev |\n| **DeepSeek** | 5 | DeepSeek-V3/Chat/Coder | https://platform.deepseek.com |\n| **Mistral** | 14 | Mistral Large/Nemo/H砆欻欻欻 | https://mistral.ai |\n| **Cohere** | 13 | Command R+/R系列 | https://cohere.com |\n| **Groq** | 14 | LLaMA/Mixtral高速推理 | https://console.groq.com |\n| **Together AI** | 19 | 开源模型聚合平台 | https://together.ai |\n| **Perplexity** | 6 | Sonar在线搜索模型 | https://perplexity.ai |\n| **Fireworks AI** | 9 | 高性能推理平台 | https://fireworks.ai |\n| **Cloudflare Workers AI** | 12 | @CF边缘AI推理 | https://developers.cloudflare.com/workers-ai |\n| **Replicate** | 6 | 云端模型推理 | https://replicate.com |\n| **HuggingFace** | 12 | 开源模型Hub | https://huggingface.co |\n| **AI21** | 6 | Jurassic系列 | https://ai21.com |\n| **Voyage AI** | 7 | 专用嵌入模型 | https:// voyage.ai |\n| **Nomic** | 2 | 开源嵌入模型 | https://nomic.ai |\n\n### 2.2 国内大模型\n\n| 提供商 | 模型数量 | 主要特点 | 官方地址 |\n|--------|----------|----------|----------|\n| **百度文心一言** | 10 | ERNIE 4.0/3.5/4 | https://console.bce.baidu.com |\n| **阿里通义千问** | 16 | Qwen-Max/Plus/Turbo | https://dashscope.console.aliyun.com |\n| **腾讯混元** | 7 | Hunyuan-千亿/Pro/Std | https://cloud.tencent.com |\n| **字节豆包** | 8 | Doubao-Pro/Lite | https://console.volcengine.com |\n| **华为云** | 4 | 盘古系列 | https://www.huaweicloud.com |\n| **智谱GLM** | 13 | GLM-4/3系列 | https://open.bigmodel.cn |\n| **MiniMax** | 7 | ABAB系列 | https://www.minimax.io |\n| **Moonshot** | 3 | Kimi长上下文 | https://platform.moonshot.cn |\n\n### 2.3 本地部署模型\n\n| 提供商 | 模型数量 | 主要特点 | 配置难度 |\n|--------|----------|----------|----------|\n| **Ollama** | 23 | 支持所有Llama/开源模型 | ⭐ 简单 |\n| **KoboldCPP** | 1 | 本地小说生成优化 | ⭐ 简单 |\n\n### 2.4 企业级模型\n\n| 提供商 | 模型数量 | 主要特点 | 官方地址 |\n|--------|----------|----------|----------|\n| **Azure OpenAI** | - | 企业级GPT部署 | https://azure.microsoft.com |\n| **Custom** | 无限 | 支持所有OpenAI兼容接口 | ⭐⭐ 中等 |\n\n---\n\n## 三、详细模型列表\n\n### 3.1 OpenAI 系列（27个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **gpt-4o** | 128K | ✅ | 最新旗舰模型，支持视觉 |\n| **gpt-4o-2024-11-20** | 128K | ✅ | GPT-4o 最新版本 |\n| **gpt-4o-2024-08-06** | 128K | ✅ | GPT-4o 稳定版本 |\n| **gpt-4o-mini** | 128K | ✅ | 高性价比轻量版 |\n| **gpt-4o-mini-2024-07-18** | 128K | ✅ | GPT-4o Mini 指定版本 |\n| **gpt-4.1** | 1M | ✅ | 超大上下文版本 |\n| **gpt-4.1-mini** | 1M | ✅ | GPT-4.1 平衡版 |\n| **gpt-4.1-nano** | 1M | ✅ | GPT-4.1 轻量版 |\n| **gpt-4-turbo** | 128K | ✅ | GPT-4 Turbo 快速强大 |\n| **gpt-4-turbo-2024-04-09** | 128K | ✅ | Turbo 指定版本 |\n| **gpt-4** | 8K | ✅ | GPT-4 原始版本 |\n| **gpt-4-32k** | 32K | ✅ | GPT-4 32K上下文 |\n| **gpt-3.5-turbo** | 16K | ✅ | GPT-3.5 Turbo 轻量快速 |\n| **gpt-3.5-turbo-16k** | 16K | ✅ | GPT-3.5 Turbo 16K |\n| **o1** | 200K | ✅ | O1 深度推理模型 |\n| **o1-preview** | 128K | ✅ | O1 Preview 推理预览版 |\n| **o1-mini** | 128K | ✅ | O1 Mini 轻量推理 |\n| **chatgpt-4o-latest** | 128K | ✅ | ChatGPT最新版本 |\n| **gpt-4-turbo-preview** | 128K | ✅ | Turbo预览版 |\n| **gpt-4-0613** | 8K | ✅ | GPT-4 固定版本 |\n| **gpt-4-32k-0613** | 32K | ✅ | GPT-4 32K固定版本 |\n| **gpt-3.5-turbo-0613** | 16K | ✅ | GPT-3.5固定版本 |\n| **gpt-3.5-turbo-16k-0613** | 16K | ✅ | GPT-3.5 16K固定版本 |\n| **text-embedding-3-large** | - | ❌ | OpenAI 嵌入模型（大） |\n| **text-embedding-3-small** | - | ❌ | OpenAI 嵌入模型（小） |\n| **text-embedding-ada-002** | - | ❌ | OpenAI 嵌入模型（经典） |\n| **o3** | 200K | ✅ | O3 深度推理升级版 |\n| **o3-mini** | 200K | ✅ | O3 Mini 轻量推理 |\n\n### 3.2 Anthropic Claude 系列（9个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **claude-sonnet-4-20250514** | 200K | ✅ | Claude Sonnet 4 最新版 |\n| **claude-sonnet-4** | 200K | ✅ | Claude Sonnet 4 |\n| **claude-3-5-sonnet-latest** | 200K | ✅ | Claude 3.5 Sonnet |\n| **claude-3-5-sonnet-20241022** | 200K | ✅ | Claude 3.5 Sonnet 稳定版 |\n| **claude-3-5-sonnet-20240620** | 200K | ✅ | Claude 3.5 Sonnet 早期版 |\n| **claude-3-opus-latest** | 200K | ✅ | Claude 3 Opus 最强版 |\n| **claude-3-opus-20240229** | 200K | ✅ | Claude 3 Opus |\n| **claude-3-haiku-20240307** | 200K | ✅ | Claude 3 Haiku 轻量版 |\n| **claude-3-sonnet-20240229** | 200K | ✅ | Claude 3 Sonnet |\n\n### 3.3 Google Gemini 系列（11个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **gemini-2.0-flash-exp** | 1M | ✅ | Gemini 2.0 экспериментальная |\n| **gemini-2.0-flash** | 1M | ✅ | Gemini 2.0 Flash |\n| **gemini-1.5-flash-8b** | 1M | ✅ | Gemini 1.5 Flash 8B |\n| **gemini-1.5-flash** | 1M | ✅ | Gemini 1.5 Flash |\n| **gemini-1.5-flash-002** | 1M | ✅ | Gemini 1.5 Flash v2 |\n| **gemini-1.5-flash-001** | 1M | ✅ | Gemini 1.5 Flash v1 |\n| **gemini-1.5-pro** | 2M | ✅ | Gemini 1.5 Pro |\n| **gemini-1.5-pro-002** | 2M | ✅ | Gemini 1.5 Pro v2 |\n| **gemini-1.5-pro-001** | 2M | ✅ | Gemini 1.5 Pro v1 |\n| **gemini-1.5-pro-exp** | 2M | ✅ | Gemini 1.5 Pro экспериментальная |\n| **gemini-exp-1206** | 1M | ✅ | Gemini 实验版本 |\n\n### 3.4 DeepSeek 系列（5个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **deepseek-chat** | 64K | ✅ | DeepSeek 通用对话 |\n| **deepseek-coder** | 64K | ✅ | DeepSeek 代码模型 |\n| **deepseek-v3** | 64K | ✅ | DeepSeek V3 最新版 |\n| **deepseek-chat-v2** | 64K | ✅ | DeepSeek V2 |\n| **deepseek-chat-v1** | 64K | ✅ | DeepSeek V1 |\n\n### 3.5 百度文心一言（10个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **ernie-4.0-8k-latest** | 8K | ✅ | ERNIE 4.0 最新版 |\n| **ernie-4.0-8k** | 8K | ✅ | ERNIE 4.0 8K版 |\n| **ernie-4.0-4k** | 4K | ✅ | ERNIE 4.0 4K版 |\n| **ernie-3.5-8k** | 8K | ✅ | ERNIE 3.5 8K版 |\n| **ernie-3.5-8k-v2** | 8K | ✅ | ERNIE 3.5 V2 |\n| **ernie-3.5-4k** | 4K | ✅ | ERNIE 3.5 4K版 |\n| **ernie-speed-8k** | 8K | ✅ | ERNIE Speed 8K |\n| **ernie-speed-128k** | 128K | ✅ | ERNIE Speed 128K |\n| **ernie-lite-8k** | 8K | ✅ | ERNIE Lite 轻量版 |\n| **ernie-bot** | 8K | ✅ | ERNIE Bot 经典版 |\n\n### 3.6 阿里通义千问（16个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **qwen-max** | 8K | ✅ | Qwen Max 最强版 |\n| **qwen-max-longcontext** | 30K | ✅ | Qwen Max 长上下文 |\n| **qwen-plus** | 131K | ✅ | Qwen Plus 大杯版 |\n| **qwen-plus-nuxt** | 131K | ✅ | Qwen Plus 新版 |\n| **qwen-turbo** | 131K | ✅ | Qwen Turbo 快速版 |\n| **qwen-turbo-nuxt** | 131K | ✅ | Qwen Turbo 新版 |\n| **qwen-72b-chat** | 32K | ✅ | Qwen 72B 对话版 |\n| **qwen-14b-chat** | 8K | ✅ | Qwen 14B 对话版 |\n| **qwen-7b-chat** | 8K | ✅ | Qwen 7B 对话版 |\n| **qwen-moe** | 32K | ✅ | Qwen MoE 专家混合 |\n| **qwen-coder-plus** | 128K | ✅ | Qwen Coder Plus |\n| **qwen-coder-turbo** | 128K | ✅ | Qwen Coder Turbo |\n| **qwen-vl-plus** | 128K | ✅ | Qwen VL 多模态 |\n| **qwen-vl-max** | 128K | ✅ | Qwen VL Max |\n| **qwen-audio** | 128K | ✅ | Qwen Audio 音频 |\n| **qwen2-72b-instruct** | 32K | ✅ | Qwen2 72B |\n\n### 3.7 腾讯混元（7个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **hunyuan** | 128K | ✅ | 混元通用版 |\n| **hunyuan-pro** | 128K | ✅ | 混元 Pro 专业版 |\n| **hunyuan-standard** | 128K | ✅ | 混元 Standard |\n| **hunyuan-lite** | 128K | ✅ | 混元 Lite 轻量版 |\n| **hunyuan-code** | 128K | ✅ | 混元 Code 代码版 |\n| **hunyuan-functioncall** | 128K | ✅ | 混元函数调用版 |\n| **hunyuan-air** | 128K | ✅ | 混元 Air 极速版 |\n\n### 3.8 字节豆包（8个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **doubao-pro-32k** | 32K | ✅ | 豆包 Pro 32K |\n| **doubao-pro-4k** | 4K | ✅ | 豆包 Pro 4K |\n| **doubao-lite-32k** | 32K | ✅ | 豆包 Lite 32K |\n| **doubao-lite-4k** | 4K | ✅ | 豆包 Lite 4K |\n| **doubao-beta** | 32K | ✅ | 豆包 Beta 测试版 |\n| **doubao-functioncall** | 32K | ✅ | 豆包函数调用版 |\n| **doubao-endpoint** | 32K | ✅ | 豆包端点版 |\n| **ENDPOINT** | - | ✅ | 火山引擎端点 |\n\n### 3.9 华为云盘古（4个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **pangu-4** | 128K | ✅ | 盘古大模型 4 |\n| **pangu-api** | 128K | ✅ | 盘古 API 版本 |\n| **pangu-alpha** | 128K | ✅ | 盘古 Alpha 版 |\n| **ext_pangu** | 128K | ✅ | 盘古扩展版本 |\n\n### 3.10 智谱GLM（13个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **glm-4** | 128K | ✅ | GLM-4 最新版 |\n| **glm-4v** | 128K | ✅ | GLM-4V 多模态 |\n| **glm-4-plus** | 128K | ✅ | GLM-4 Plus |\n| **glm-4-flash** | 128K | ✅ | GLM-4 Flash 快速版 |\n| **glm-4-air** | 128K | ✅ | GLM-4 Air 轻量版 |\n| **glm-4-airx** | 128K | ✅ | GLM-4 AirX |\n| **glm-3-turbo** | 128K | ✅ | GLM-3 Turbo |\n| **glm-zero** | 128K | ✅ | GLM Zero 零样本 |\n| **glm-4-alltools** | 128K | ✅ | GLM-4 全工具版 |\n| **characterglm-6b** | 8K | ✅ | CharacterGLM 角色扮演 |\n| **codegeex-4** | 128K | ✅ | CodeGeeX-4 代码 |\n| **cogview-3** | - | ✅ | CogView-3 图像生成 |\n| **embedding-2** | - | ❌ | GLM 嵌入模型 |\n\n### 3.11 MiniMax（7个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **abab6-chat** | 245K | ✅ | ABAB6 聊天版 |\n| **abab5.5-chat** | 245K | ✅ | ABAB5.5 聊天版 |\n| **abab5-chat** | 245K | ✅ | ABAB5 聊天版 |\n| **abab6.5s-chat** | 245K | ✅ | ABAB6.5S 快速版 |\n| **MiniMax-Text-01** | 1000K | ✅ | MiniMax 超长文本 |\n| **MiniMax-Embedding-01** | - | ❌ | MiniMax 嵌入模型 |\n| **speech-02-hd** | - | ✅ | MiniMax 语音 HD |\n\n### 3.12 Moonshot Kimi（3个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **moonshot-v1-8k** | 8K | ✅ | Moonshot 8K |\n| **moonshot-v1-32k** | 32K | ✅ | Moonshot 32K |\n| **moonshot-v1-128k** | 128K | ✅ | Moonshot 128K 超长上下文 |\n\n### 3.13 Mistral AI（14个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **mistral-large** | 128K | ✅ | Mistral Large 最新版 |\n| **mistral-large-2407** | 128K | �� | Mistral Large 2407 |\n| **mistral-large-2405** | 128K | ✅ | Mistral Large 2405 |\n| **mistral-nemo** | 128K | ✅ | Mistral Nemo |\n| **mistral-small** | 128K | ✅ | Mistral Small |\n| **mistral-tiny** | 128K | ✅ | Mistral Tiny |\n| **codestral** | 128K | ✅ | Codestral 代码模型 |\n| **mistral-7b-instruct** | 8K | ✅ | Mistral 7B 指导版 |\n| **mixtral-8x22b-instruct** | 64K | ✅ | Mixtral 8x22B |\n| **mixtral-8x7b-instruct** | 32K | ✅ | Mixtral 8x7B |\n| **open-mistral-7b** | 8K | ✅ | Open Mistral 7B |\n| **open-mixtral-8x7b** | 32K | ✅ | Open Mixtral 8x7B |\n| **open-mixtral-8x22b** | 64K | ✅ | Open Mixtral 8x22B |\n| **open-codestral-mamba** | 256K | ✅ | Open Codestral Mamba |\n\n### 3.14 Groq 系列（14个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **llama-3.3-70b-versatile** | 128K | ✅ | LLaMA 3.3 70B |\n| **llama-3.2-90b-vision-preview** | 128K | ✅ | LLaMA 3.2 90B 视觉 |\n| **llama-3.2-11b-vision-preview** | 128K | ✅ | LLaMA 3.2 11B 视觉 |\n| **llama-3.1-70b-versatile** | 128K | ✅ | LLaMA 3.1 70B |\n| **llama-3.1-8b-instant** | 128K | ✅ | LLaMA 3.1 8B 快速 |\n| **llama-3-70b-versatile** | 8K | ✅ | LLaMA 3 70B |\n| **llama-3-8b-instant** | 8K | ✅ | LLaMA 3 8B |\n| **mixtral-8x7b-32768** | 32K | ✅ | Mixtral 8x7B 32K |\n| **gemma2-9b-it** | 8K | ✅ | Gemma 2 9B 指导 |\n| **gemma2-7b-it** | 8K | ✅ | Gemma 2 7B 指导 |\n| **llama-guard-3-8b** | 8K | ✅ | LLaMA Guard 3 安全 |\n| **llama-3.2-1b-preview** | 128K | ✅ | LLaMA 3.2 1B 预览 |\n| **llama-3.2-3b-preview** | 128K | ✅ | LLaMA 3.2 3B 预览 |\n| **distil-whisper-large-v3-en** | - | ✅ | Distil-Whisper 语音 |\n\n### 3.15 Together AI（19个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **deepseek-ai/DeepSeek-V3** | 64K | ✅ | DeepSeek V3 |\n| **deepseek-ai/DeepSeek-Coder-V2** | 64K | ✅ | DeepSeek Coder V2 |\n| **meta-llama/Llama-3.3-70B-Instruct** | 128K | ✅ | LLaMA 3.3 70B |\n| **meta-llama/Llama-3.2-90B-Vision** | 128K | ✅ | LLaMA 3.2 90B 视觉 |\n| **meta-llama/Llama-3.2-11B-Vision** | 128K | ✅ | LLaMA 3.2 11B 视觉 |\n| **meta-llama/Llama-3.1-405B-Instruct** | 128K | ✅ | LLaMA 3.1 405B |\n| **meta-llama/Llama-3.1-70B-Instruct** | 128K | ✅ | LLaMA 3.1 70B |\n| **meta-llama/Llama-3.1-8B-Instruct** | 128K | ✅ | LLaMA 3.1 8B |\n| **mistralai/Mistral-Large-Instruct** | 128K | ✅ | Mistral Large |\n| **mistralai/Mixtral-8x22B-Instruct** | 64K | ✅ | Mixtral 8x22B |\n| **mistralai/Mixtral-8x7B-Instruct** | 32K | ✅ | Mixtral 8x7B |\n| **Qwen/Qwen2-72B-Instruct** | 128K | ✅ | Qwen2 72B |\n| **Qwen/Qwen2.5-72B-Instruct** | 32K | ✅ | Qwen2.5 72B |\n| **Qwen/Qwen2.5-32B-Instruct** | 32K | ✅ | Qwen2.5 32B |\n| **NousResearch/Nous-Hermes-2-Mixtral** | 32K | ✅ | Nous Hermes 2 |\n| **cognitivecomputations/dolphin-mixtral** | 32K | ✅ | Dolphin Mixtral |\n| **WizardLM/WizardLM-2-8x22B** | 64K | ✅ | WizardLM 2 |\n| **allenai/OLMo-7B-Instruct** | 4K | ✅ | OLMo 7B |\n| **Austism/chronos-grad-13b** | 8K | ✅ | Chronos Grad |\n\n### 3.16 Cohere 系列（13个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **command-r-plus** | 128K | ✅ | Command R+ 最强版 |\n| **command-r-plus-08-2024** | 128K | ✅ | Command R+ 08-2024 |\n| **command-r7b-12-2024** | 128K | ✅ | Command R 7B |\n| **command-r** | 128K | ✅ | Command R 基础版 |\n| **command** | 4K | ✅ | Command 经典版 |\n| **command-light** | 4K | ✅ | Command Light |\n| **c4ai-command-r-plus** | 128K | ✅ | C4AI Command R+ |\n| **c4ai-command-r-plus-08-2024** | 128K | ✅ | C4AI Command R+ 08-2024 |\n| **c4ai-command-r-01-2025** | 128K | ✅ | C4AI Command R 01-2025 |\n| **embed-english-v3.0** | - | ❌ | Cohere 英文嵌入 |\n| **embed-english-light-v3.0** | - | ❌ | Cohere 英文轻量嵌入 |\n| **embed-multilingual-v3.0** | - | ❌ | Cohere 多语言嵌入 |\n| **embed-multilingual-light-v3.0** | - | ❌ | Cohere 多语言轻量嵌入 |\n\n### 3.17 HuggingFace 系列（12个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **meta-llama/Meta-Llama-3.1-405B-Instruct** | 128K | ✅ | LLaMA 3.1 405B |\n| **meta-llama/Meta-Llama-3.1-70B-Instruct** | 128K | ✅ | LLaMA 3.1 70B |\n| **meta-llama/Meta-Llama-3.1-8B-Instruct** | 128K | ✅ | LLaMA 3.1 8B |\n| **meta-llama/Meta-Llama-3-70B-Instruct** | 8K | ✅ | LLaMA 3 70B |\n| **meta-llama/Meta-Llama-3-8B-Instruct** | 8K | ✅ | LLaMA 3 8B |\n| **mistralai/Mistral-7B-Instruct-v0.3** | 32K | ✅ | Mistral 7B v0.3 |\n| **mistralai/Mixtral-8x22B-Instruct-v0.1** | 64K | ✅ | Mixtral 8x22B |\n| **Qwen/Qwen2-72B-Instruct** | 128K | ✅ | Qwen2 72B |\n| **Qwen/Qwen2-57B-A14B-Instruct** | 128K | ✅ | Qwen2 57B A14B |\n| **Qwen/Qwen2-7B-Instruct** | 128K | ✅ | Qwen2 7B |\n| **Qwen/Qwen2.5-72B-Instruct** | 32K | ✅ | Qwen2.5 72B |\n| **Qwen/Qwen2.5-7B-Instruct** | 32K | ✅ | Qwen2.5 7B |\n\n### 3.18 Voyage AI 嵌入系列（7个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **voyage-3** | - | ❌ | Voyage 3 最新版 |\n| **voyage-3-lite** | - | ❌ | Voyage 3 Lite |\n| **voyage-code-2** | - | ❌ | Voyage Code 2 |\n| **voyage-lite-2** | - | ❌ | Voyage Lite 2 |\n| **voyage-2** | - | ❌ | Voyage 2 |\n| **voyage-multimodal-3** | - | ❌ | Voyage 多模态 3 |\n| **voyage-finance-2** | - | ❌ | Voyage Finance 2 |\n\n### 3.19 Cloudflare Workers AI（11个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **@cf/meta/llama-3.3-70b-instruct-fewshot** | 128K | ✅ | LLaMA 3.3 70B |\n| **@cf/meta/llama-3.1-8b-instruct-fewshot** | 128K | ✅ | LLaMA 3.1 8B |\n| **@cf/deepseek-ai/deepseek-v3-671b** | 128K | ✅ | DeepSeek V3 671B |\n| **@cf/qwen/qwen2.5-72b-instruct** | 32K | ✅ | Qwen2.5 72B |\n| **@cf/qwen/qwen2.5-32b-instruct** | 32K | ✅ | Qwen2.5 32B |\n| **@cf/qwen/qwen2.5-7b-instruct** | 32K | ✅ | Qwen2.5 7B |\n| **@cf/mistral/mistral-7b-instruct** | 32K | ✅ | Mistral 7B |\n| **@cf/thebloke/mistral-7b-instruct-lora** | 8K | ✅ | Mistral 7B LoRA |\n| **@cf/thebloke/openhermes-7b-v3** | 8K | ✅ | OpenHermes 7B |\n| **@cf/google/gemma-2-7b-it** | 8K | ✅ | Gemma 2 7B |\n| **@cf/meta-llama/Llama-3.2-11B-Vision** | 128K | ✅ | LLaMA 3.2 11B 视觉 |\n\n### 3.20 本地部署 Ollama（23个模型）\n\n| 模型名称 | 上下文 | 流式支持 | 说明 |\n|----------|--------|----------|------|\n| **llama3.3** | 128K | ✅ | LLaMA 3.3 最新版 |\n| **llama3.2** | 128K | ✅ | LLaMA 3.2 |\n| **llama3.2-vision** | 128K | ✅ | LLaMA 3.2 视觉版 |\n| **llama3.1** | 128K | ✅ | LLaMA 3.1 |\n| **llama3** | 8K | ✅ | LLaMA 3 |\n| **llama2** | 4K | ✅ | LLaMA 2 经典版 |\n| **llama2-uncensored** | 4K | ✅ | LLaMA 2 无审查版 |\n| **codellama** | 16K | ✅ | Code LLaMA 代码 |\n| **codellama:34b** | 16K | ✅ | Code LLaMA 34B |\n| **mistral** | 8K | ✅ | Mistral 7B |\n| **mixtral** | 32K | ✅ | Mixtral 8x7B |\n| **phi4** | 128K | ✅ | Phi-4 最新版 |\n| **phi3** | 128K | ✅ | Phi-3 |\n| **qwen2.5** | 128K | ✅ | Qwen 2.5 |\n| **qwen2.5-coder** | 128K | ✅ | Qwen 2.5 Coder |\n| **qwen2.5-math** | 128K | ✅ | Qwen 2.5 Math |\n| **nomic-embed-text** | - | ❌ | Nomic 嵌入模型 |\n| **mxbai-embed-large** | - | ❌ | MXBai 嵌入大模型 |\n| **snowflake-arctic-embed** | - | ❌ | Snowflake 北极嵌入 |\n| **gemma2** | 8K | ✅ | Gemma 2 |\n| **command-r** | 128K | ✅ | Command R |\n| **command-r-plus** | 128K | ✅ | Command R+ |\n| **deepseek-coder-v2** | 64K | ✅ | DeepSeek Coder V2 |\n\n---\n\n## 四、API配置方式\n\n### 4.1 OpenAI 配置\n\n```typescript\nimport { CloudBook } from '@cloud-book/core';\n\nconst cloudBook = new CloudBook({\n llmProviders: {\n openai: {\n apiKey: process.env.OPENAI_API_KEY,\n // 可选配置\n baseURL: 'https://api.openai.com/v1', // 默认值\n organization: 'org-xxx', // 组织ID（可选）\n defaultModel: 'gpt-4o',\n timeout: 60000,\n maxRetries: 3\n }\n }\n});\n```\n\n### 4.2 Anthropic Claude 配置\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n anthropic: {\n apiKey: process.env.ANTHROPIC_API_KEY,\n // 可选配置\n baseURL: 'https://api.anthropic.com', // 默认值\n defaultModel: 'claude-sonnet-4',\n timeout: 60000,\n maxRetries: 3\n }\n }\n});\n```\n\n### 4.3 国内模型配置\n\n#### 百度文心一言\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n baidu: {\n apiKey: process.env.BAIDU_API_KEY,\n secretKey: process.env.BAIDU_SECRET_KEY,\n defaultModel: 'ernie-4.0-8k-latest'\n }\n }\n});\n```\n\n#### 阿里通义千问\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n alibaba: {\n apiKey: process.env.ALI_API_KEY, // DashScope API Key\n defaultModel: 'qwen-max',\n // 可选配置\n baseURL: 'https://dashscope.aliyuncs.com/api/v1'\n }\n }\n});\n```\n\n#### 腾讯混元\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n tencent: {\n secretId: process.env.TENCENT_SECRET_ID,\n secretKey: process.env.TENCENT_SECRET_KEY,\n defaultModel: 'hunyuan'\n }\n }\n});\n```\n\n#### 字节豆包\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n bytedance: {\n apiKey: process.env.BYTEDANCE_API_KEY,\n defaultModel: 'doubao-pro-32k'\n }\n }\n});\n```\n\n#### 华为云盘古\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n huawei: {\n apiKey: process.env.HUAWEI_API_KEY,\n defaultModel: 'pangu-4'\n }\n }\n});\n```\n\n#### 智谱GLM\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n zhipu: {\n apiKey: process.env.ZHIPU_API_KEY,\n defaultModel: 'glm-4'\n }\n }\n});\n```\n\n#### MiniMax\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n minimax: {\n apiKey: process.env.MINIMAX_API_KEY,\n groupId: process.env.MINIMAX_GROUP_ID,\n defaultModel: 'abab6-chat'\n }\n }\n});\n```\n\n#### Moonshot Kimi\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n moonshot: {\n apiKey: process.env.MOONSHOT_API_KEY,\n defaultModel: 'moonshot-v1-128k'\n }\n }\n});\n```\n\n### 4.4 本地部署配置\n\n#### Ollama 本地配置\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n ollama: {\n baseURL: 'http://localhost:11434/v1',\n apiKey: 'ollama', // Ollama 不需要真实API Key\n defaultModel: 'llama3.3',\n // 可选配置\n timeout: 120000 // 本地模型可能需要更长超时\n }\n }\n});\n```\n\n#### KoboldCPP 本地配置\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n koboldcpp: {\n baseURL: 'http://localhost:5000/v1',\n apiKey: 'kobold', // KoboldCPP 不需要真实API Key\n defaultModel: 'local-model'\n }\n }\n});\n```\n\n### 4.5 Azure OpenAI 配置\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n azure: {\n endpoint: process.env.AZURE_OPENAI_ENDPOINT,\n apiKey: process.env.AZURE_OPENAI_KEY,\n apiVersion: '2024-02-01',\n deployment: 'gpt-4o', // 你的部署名称\n defaultModel: 'gpt-4o'\n }\n }\n});\n```\n\n### 4.6 自定义 OpenAI 兼容接口\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: {\n custom: {\n baseURL: 'https://your-custom-api.com/v1',\n apiKey: process.env.CUSTOM_API_KEY,\n defaultModel: 'your-model-name',\n // 支持任何兼容 OpenAI API 格式的服务\n }\n }\n});\n```\n\n---\n\n## 五、环境变量配置\n\n推荐使用环境变量配置敏感信息：\n\n```bash\n# OpenAI\nexport OPENAI_API_KEY=sk-xxxx\n\n# Anthropic\nexport ANTHROPIC_API_KEY=sk-ant-xxxx\n\n# 国内模型\nexport BAIDU_API_KEY=xxxx\nexport BAIDU_SECRET_KEY=xxxx\nexport ALI_API_KEY=sk-xxxx\nexport ZHIPU_API_KEY=xxxx\nexport MINIMAX_API_KEY=xxxx\nexport MOONSHOT_API_KEY=sk-xxxx\nexport TENCENT_SECRET_ID=xxxx\nexport TENCENT_SECRET_KEY=xxxx\nexport BYTEDANCE_API_KEY=xxxx\nexport HUAWEI_API_KEY=xxxx\n\n# 本地部署\nexport OLLAMA_BASE_URL=http://localhost:11434/v1\nexport KOBOLDCPP_BASE_URL=http://localhost:5000/v1\n\n# Azure\nexport AZURE_OPENAI_ENDPOINT=https://xxx.openai.azure.com\nexport AZURE_OPENAI_KEY=xxxx\n```\n\n---\n\n## 六、模型选择建议\n\n### 6.1 按用途选择\n\n| 用途 | 推荐模型 | 理由 |\n|------|----------|------|\n| 通用写作 | GPT-4o、Claude 3.5 Sonnet、Qwen Max | 平衡性能和成本 |\n| 长篇小说 | Kimi 128K、GLM-4、MiniMax | 超长上下文支持 |\n| 快速草稿 | GPT-4o-mini、Qwen Turbo | 速度快、成本低 |\n| 中文创作 | 通义千问、文心一言、智谱GLM | 中文优化 |\n| 代码相关 | DeepSeek Coder、CodeLLaMA | 代码能力最强 |\n| 本地部署 | Ollama LLaMA/Mistral | 隐私保护、离线可用 |\n| 嵌入向量化 | Voyage-3、Nomic、OpenAI Embed | 专业嵌入模型 |\n\n### 6.2 按成本选择\n\n| 预算 | 推荐方案 |\n|------|----------|\n| 免费/低成本 | Ollama 本地部署 + Nomic 嵌入 |\n| 低预算 | GPT-4o-mini、Groq LLaMA |\n| 中等预算 | GPT-4o、Claude 3.5 Sonnet |\n| 高端需求 | GPT-4.1、Claude 3 Opus、Qwen Max |\n\n---\n\n## 七、高级功能\n\n### 7.1 模型路由\n\nCloud Book 支持根据任务类型自动选择最佳模型：\n\n```typescript\nconst cloudBook = new CloudBook({\n modelRoutes: {\n planning: { provider: 'openai', model: 'gpt-4o' },\n writing: { provider: 'anthropic', model: 'claude-3-5-sonnet-latest' },\n audit: { provider: 'openai', model: 'gpt-4o' },\n style: { provider: 'alibaba', model: 'qwen-max' }\n }\n});\n```\n\n### 7.2 模型自动降级\n\n当首选模型不可用时，自动切换到备用模型：\n\n```typescript\nconst cloudBook = new CloudBook({\n modelFallbacks: {\n 'gpt-4o': ['claude-3-5-sonnet-latest', 'gemini-1.5-pro'],\n 'claude-3-5-sonnet-latest': ['gpt-4o', 'gemini-1.5-pro']\n }\n});\n```\n\n### 7.3 成本追踪\n\nCloud Book 内置成本追踪功能：\n\n```typescript\nconst costTracker = cloudBook.getCostTracker();\nconsole.log(costTracker.getTotalCost());\nconsole.log(costTracker.getCostByProvider());\nconsole.log(costTracker.getCostByModel());\n```\n\n---\n\n## 八、故障排除\n\n### 8.1 常见问题\n\n| 问题 | 可能原因 | 解决方案 |\n|------|----------|----------|\n| API Key 无效 | 环境变量未设置 | 检查并设置正确的 API Key |\n| 请求超时 | 网络问题或模型繁忙 | 增加 timeout 或重试 |\n| 配额超限 | API 配额用尽 | 升级计划或等待配额重置 |\n| 本地模型连接失败 | Ollama 未启动 | 运行 `ollama serve` 启动服务 |\n| 模型不支持流式 | 该模型不支持流式输出 | 使用非流式模式 |\n\n### 8.2 调试模式\n\n```typescript\nconst cloudBook = new CloudBook({\n llmProviders: { /* ... */ },\n debug: true, // 启用调试模式\n logLevel: 'verbose'\n});\n```\n\n---\n\n## 九、总结\n\nCloud Book 提供业界最全面的 AI 大模型支持：\n\n- **26+ 国际国内模型提供商**\n- **280+ 预配置模型**\n- **2 本地部署方案**（Ollama、KoboldCPP）\n- **无限 自定义 OpenAI 兼容接口**\n- **1 企业级 Azure 部署方案**\n\n无论您是个人创作者还是企业团队，Cloud Book 都能提供最适合您需求的 AI 写作解决方案。\n\n---\n\n*文档版本：1.0.0*\n*最后更新：2026-05-14*\n"}}}} |