1 line
17 KiB
JSON
1 line
17 KiB
JSON
{"repo": "bssm-oss/free-api", "files": {"docs/PROVIDERS.md": {"a57f2425c66e2768b455175fde4ad6d0a993335c": {"t": 1785747219.0932436, "n": 4484, "h": "fa436a05bb0fbefb", "c": "# Provider 가이드\n\n## CLI Provider\n\n설치된 AI CLI 도구를 자동으로 감지해서 래핑합니다. API 키가 필요 없습니다.\n\n### Gemini CLI\n\n```bash\n# 설치\nnpm install -g @google/gemini-cli\n# 또는\nbrew install gemini-cli\n\n# freeapi 내부 호출\ngemini --yolo <prompt>\n```\n\n- Google Gemini 모델 사용\n- 무료, Google 계정만 필요\n- `gemini` 명령어 첫 실행 시 인증 안내\n\n### Claude Code\n\n```bash\n# 설치\nnpm i -g @anthropic-ai/claude-code\n\n# freeapi 내부 호출\nclaude --dangerously-skip-permissions --print <prompt>\n```\n\n- Anthropic Claude 모델 사용\n- Anthropic 계정 필요 (무료 한도 있음)\n\n### Codex CLI\n\n```bash\n# 설치\nbrew install codex\n# 또는\ncargo install codex-cli\n\n# freeapi 내부 호출\ncodex exec --full-auto <prompt>\n```\n\n- OpenAI 모델 사용\n- OpenAI 계정 + 크레딧 필요\n\n### Copilot CLI\n\n```bash\n# 설치\n# 공식 설치 가이드 참고\n\n# freeapi 내부 호출\ncopilot -p <prompt> --allow-all-tools\n```\n\n- GitHub Copilot 구독 필요\n\n### OpenCode\n\n```bash\n# 설치\ncurl -fsSL https://opencode.ai/install | bash\n\n# freeapi 내부 호출\nopencode run <prompt>\n```\n\n---\n\n## API Provider\n\nHTTP API를 직접 호출합니다. API 키가 필요하지만 더 빠르고 안정적입니다.\n\n### Google Gemini API\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `generativelanguage.googleapis.com/v1beta` |\n| 기본 모델 | `gemini-2.5-flash` |\n| 무료 한도 | 10 RPM, 250 RPD, 250K TPM |\n| 환경변수 | `GEMINI_API_KEY` 또는 `GOOGLE_API_KEY` |\n| 키 발급 | https://ai.google.dev |\n| 컨텍스트 | 최대 1M 토큰 |\n\n사용 가능한 모델:\n```\ngemini-2.5-flash (기본, 10 RPM, 250 RPD)\ngemini-2.5-flash-lite (15 RPM, 1000 RPD)\ngemini-2.0-flash (5 RPM, 100 RPD)\ngemini-2.5-pro (5 RPM, 100 RPD)\ngemini-1.5-flash (15 RPM, 1500 RPD)\n```\n\n### Groq\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.groq.com/openai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b-versatile` |\n| 무료 한도 | 30 RPM, 1,000 RPD, 12K TPM |\n| 환경변수 | `GROQ_API_KEY` |\n| 키 발급 | https://console.groq.com/keys |\n| 특징 | 300+ tok/s, 가장 빠른 무료 추론 |\n\n사용 가능한 모델:\n```\nllama-3.3-70b-versatile (기본, 30 RPM)\nllama-3.1-8b-instant (30 RPM, 14400 RPD)\nllama-4-scout-17b-16e-instruct (30 RPM)\nqwen-qwq-32b (30 RPM)\n```\n\n### Cerebras\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cerebras.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b` |\n| 무료 한도 | 30 RPM, 14,400 RPD, 60K TPM, 1M tok/day |\n| 환경변수 | `CEREBRAS_API_KEY` |\n| 키 발급 | https://cloud.cerebras.ai |\n| 특징 | 가장 많은 일일 무료 토큰 |\n\n### Mistral\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.mistral.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `mistral-small-latest` |\n| 무료 한도 | 1 RPS, 500K TPM, 10억 tok/월 |\n| 환경변수 | `MISTRAL_API_KEY` |\n| 키 발급 | https://console.mistral.ai/api-keys |\n| 특징 | 월 토큰 한도가 가장 큼 |\n\n### OpenRouter\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `openrouter.ai/api/v1` (OpenAI 호환) |\n| 기본 모델 | `deepseek/deepseek-r1:free` |\n| 무료 한도 | 20 RPM, 50 RPD |\n| 환경변수 | `OPENROUTER_API_KEY` |\n| 키 발급 | https://openrouter.ai/keys |\n| 특징 | 27+ 무료 모델, 모델 다양성 최고 |\n\n무료 모델 예시:\n```\ndeepseek/deepseek-r1:free\nqwen/qwen3-coder-480b:free\nmeta-llama/llama-3.3-70b-instruct:free\ngoogle/gemma-3-27b-it:free\nmistralai/mistral-small-3.1-24b-instruct:free\n```\n\n### Cohere\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cohere.ai/v2` |\n| 기본 모델 | `command-r-plus` |\n| 무료 한도 | 20 RPM, 1,000 요청/월 |\n| 환경변수 | `COHERE_API_KEY` 또는 `CO_API_KEY` |\n| 키 발급 | https://dashboard.cohere.com/api-keys |\n| 스트리밍 | SSE 스트리밍 지원 |\n\n### GitHub Models\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `models.inference.ai.azure.com` (OpenAI 호환) |\n| 기본 모델 | `gpt-4o` |\n| 무료 한도 | 10 RPM, 50 RPD |\n| 환경변수 | `GITHUB_TOKEN` |\n| 키 발급 | `gh auth token` (GitHub CLI) 또는 https://github.com/settings/tokens |\n| 특징 | GPT-4o, GPT-5 등 프리미엄 모델 무료 테스트 |\n\n### Cloudflare Workers AI\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1` (OpenAI 호환) |\n| 기본 모델 | `@cf/meta/llama-3.3-70b-instruct-fp8-fast` |\n| 환경변수 | `CLOUDFLARE_API_TOKEN` + `CLOUDFLARE_ACCOUNT_ID` |\n| 키 발급 | https://dash.cloudflare.com/profile/api-tokens |\n| 특징 | Cloudflare 계정의 Workers AI 모델을 직접 fallback 체인에 포함 가능 |\n\n사용 가능한 모델 예시:\n```\n@cf/meta/llama-3.3-70b-instruct-fp8-fast\n@cf/meta/llama-3.1-8b-instruct\n@cf/openai/gpt-oss-120b\n```\n\n---\n\n## Rate Limit 감지\n\n### HTTP 429 감지\n모든 API provider는 HTTP 429 응답 시 자동으로 rate limited로 표시됩니다.\n\n파싱하는 헤더:\n- `Retry-After` (초 단위)\n- `X-Ratelimit-Remaining-Requests`\n- `X-Ratelimit-Reset-Requests`\n\n기본 대기 시간: 60초\n\n### CLI Quota 감지\nCLI provider의 stderr/stdout에서 키워드로 감지:\n- `rate limit`, `quota exceeded`, `too many requests`\n- `429`, `resource exhausted`, `throttl`\n\n감지 시 해당 CLI를 60초간 비활성화하고 다음 provider로 전환합니다.\n\n## 멀티턴 컨텍스트\n\nAPI provider는 role 기반 메시지 배열을 그대로 전달합니다.\n\nCLI provider는 대화 히스토리를 transcript prompt로 합성해서 전달합니다:\n- `System instructions:`\n- `Conversation:`\n- `User:` / `Assistant:` 순서\n"}, "a6f9b16b866933783376cffb5d8eb5de99c8445e": {"t": 1785771451.6504984, "n": 4484, "h": "fa436a05bb0fbefb", "c": "# Provider 가이드\n\n## CLI Provider\n\n설치된 AI CLI 도구를 자동으로 감지해서 래핑합니다. API 키가 필요 없습니다.\n\n### Gemini CLI\n\n```bash\n# 설치\nnpm install -g @google/gemini-cli\n# 또는\nbrew install gemini-cli\n\n# freeapi 내부 호출\ngemini --yolo <prompt>\n```\n\n- Google Gemini 모델 사용\n- 무료, Google 계정만 필요\n- `gemini` 명령어 첫 실행 시 인증 안내\n\n### Claude Code\n\n```bash\n# 설치\nnpm i -g @anthropic-ai/claude-code\n\n# freeapi 내부 호출\nclaude --dangerously-skip-permissions --print <prompt>\n```\n\n- Anthropic Claude 모델 사용\n- Anthropic 계정 필요 (무료 한도 있음)\n\n### Codex CLI\n\n```bash\n# 설치\nbrew install codex\n# 또는\ncargo install codex-cli\n\n# freeapi 내부 호출\ncodex exec --full-auto <prompt>\n```\n\n- OpenAI 모델 사용\n- OpenAI 계정 + 크레딧 필요\n\n### Copilot CLI\n\n```bash\n# 설치\n# 공식 설치 가이드 참고\n\n# freeapi 내부 호출\ncopilot -p <prompt> --allow-all-tools\n```\n\n- GitHub Copilot 구독 필요\n\n### OpenCode\n\n```bash\n# 설치\ncurl -fsSL https://opencode.ai/install | bash\n\n# freeapi 내부 호출\nopencode run <prompt>\n```\n\n---\n\n## API Provider\n\nHTTP API를 직접 호출합니다. API 키가 필요하지만 더 빠르고 안정적입니다.\n\n### Google Gemini API\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `generativelanguage.googleapis.com/v1beta` |\n| 기본 모델 | `gemini-2.5-flash` |\n| 무료 한도 | 10 RPM, 250 RPD, 250K TPM |\n| 환경변수 | `GEMINI_API_KEY` 또는 `GOOGLE_API_KEY` |\n| 키 발급 | https://ai.google.dev |\n| 컨텍스트 | 최대 1M 토큰 |\n\n사용 가능한 모델:\n```\ngemini-2.5-flash (기본, 10 RPM, 250 RPD)\ngemini-2.5-flash-lite (15 RPM, 1000 RPD)\ngemini-2.0-flash (5 RPM, 100 RPD)\ngemini-2.5-pro (5 RPM, 100 RPD)\ngemini-1.5-flash (15 RPM, 1500 RPD)\n```\n\n### Groq\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.groq.com/openai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b-versatile` |\n| 무료 한도 | 30 RPM, 1,000 RPD, 12K TPM |\n| 환경변수 | `GROQ_API_KEY` |\n| 키 발급 | https://console.groq.com/keys |\n| 특징 | 300+ tok/s, 가장 빠른 무료 추론 |\n\n사용 가능한 모델:\n```\nllama-3.3-70b-versatile (기본, 30 RPM)\nllama-3.1-8b-instant (30 RPM, 14400 RPD)\nllama-4-scout-17b-16e-instruct (30 RPM)\nqwen-qwq-32b (30 RPM)\n```\n\n### Cerebras\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cerebras.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b` |\n| 무료 한도 | 30 RPM, 14,400 RPD, 60K TPM, 1M tok/day |\n| 환경변수 | `CEREBRAS_API_KEY` |\n| 키 발급 | https://cloud.cerebras.ai |\n| 특징 | 가장 많은 일일 무료 토큰 |\n\n### Mistral\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.mistral.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `mistral-small-latest` |\n| 무료 한도 | 1 RPS, 500K TPM, 10억 tok/월 |\n| 환경변수 | `MISTRAL_API_KEY` |\n| 키 발급 | https://console.mistral.ai/api-keys |\n| 특징 | 월 토큰 한도가 가장 큼 |\n\n### OpenRouter\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `openrouter.ai/api/v1` (OpenAI 호환) |\n| 기본 모델 | `deepseek/deepseek-r1:free` |\n| 무료 한도 | 20 RPM, 50 RPD |\n| 환경변수 | `OPENROUTER_API_KEY` |\n| 키 발급 | https://openrouter.ai/keys |\n| 특징 | 27+ 무료 모델, 모델 다양성 최고 |\n\n무료 모델 예시:\n```\ndeepseek/deepseek-r1:free\nqwen/qwen3-coder-480b:free\nmeta-llama/llama-3.3-70b-instruct:free\ngoogle/gemma-3-27b-it:free\nmistralai/mistral-small-3.1-24b-instruct:free\n```\n\n### Cohere\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cohere.ai/v2` |\n| 기본 모델 | `command-r-plus` |\n| 무료 한도 | 20 RPM, 1,000 요청/월 |\n| 환경변수 | `COHERE_API_KEY` 또는 `CO_API_KEY` |\n| 키 발급 | https://dashboard.cohere.com/api-keys |\n| 스트리밍 | SSE 스트리밍 지원 |\n\n### GitHub Models\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `models.inference.ai.azure.com` (OpenAI 호환) |\n| 기본 모델 | `gpt-4o` |\n| 무료 한도 | 10 RPM, 50 RPD |\n| 환경변수 | `GITHUB_TOKEN` |\n| 키 발급 | `gh auth token` (GitHub CLI) 또는 https://github.com/settings/tokens |\n| 특징 | GPT-4o, GPT-5 등 프리미엄 모델 무료 테스트 |\n\n### Cloudflare Workers AI\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1` (OpenAI 호환) |\n| 기본 모델 | `@cf/meta/llama-3.3-70b-instruct-fp8-fast` |\n| 환경변수 | `CLOUDFLARE_API_TOKEN` + `CLOUDFLARE_ACCOUNT_ID` |\n| 키 발급 | https://dash.cloudflare.com/profile/api-tokens |\n| 특징 | Cloudflare 계정의 Workers AI 모델을 직접 fallback 체인에 포함 가능 |\n\n사용 가능한 모델 예시:\n```\n@cf/meta/llama-3.3-70b-instruct-fp8-fast\n@cf/meta/llama-3.1-8b-instruct\n@cf/openai/gpt-oss-120b\n```\n\n---\n\n## Rate Limit 감지\n\n### HTTP 429 감지\n모든 API provider는 HTTP 429 응답 시 자동으로 rate limited로 표시됩니다.\n\n파싱하는 헤더:\n- `Retry-After` (초 단위)\n- `X-Ratelimit-Remaining-Requests`\n- `X-Ratelimit-Reset-Requests`\n\n기본 대기 시간: 60초\n\n### CLI Quota 감지\nCLI provider의 stderr/stdout에서 키워드로 감지:\n- `rate limit`, `quota exceeded`, `too many requests`\n- `429`, `resource exhausted`, `throttl`\n\n감지 시 해당 CLI를 60초간 비활성화하고 다음 provider로 전환합니다.\n\n## 멀티턴 컨텍스트\n\nAPI provider는 role 기반 메시지 배열을 그대로 전달합니다.\n\nCLI provider는 대화 히스토리를 transcript prompt로 합성해서 전달합니다:\n- `System instructions:`\n- `Conversation:`\n- `User:` / `Assistant:` 순서\n"}, "3869e0fede31fd81926c37a72495d40130108168": {"t": 1785771452.9992325, "n": 3806, "h": "f99a358888e30565", "c": "# Provider 가이드\n\n## CLI Provider\n\n설치된 AI CLI 도구를 자동으로 감지해서 래핑합니다. API 키가 필요 없습니다.\n\n### Gemini CLI\n\n```bash\n# 설치\nnpm i -g @anthropic-ai/gemini-cli\n# 또는\nbrew install gemini\n\n# freeapi 내부 호출\ngemini --yolo <prompt>\n```\n\n- Google Gemini 모델 사용\n- 무료, Google 계정만 필요\n- `gemini` 명령어 첫 실행 시 인증 안내\n\n### Claude Code\n\n```bash\n# 설치\nnpm i -g @anthropic-ai/claude-code\n\n# freeapi 내부 호출\nclaude --dangerously-skip-permissions --print <prompt>\n```\n\n- Anthropic Claude 모델 사용\n- Anthropic 계정 필요 (무료 한도 있음)\n\n### Codex CLI\n\n```bash\n# 설치\nbrew install codex\n# 또는\ncargo install codex-cli\n\n# freeapi 내부 호출\ncodex exec --full-auto <prompt>\n```\n\n- OpenAI 모델 사용\n- OpenAI 계정 + 크레딧 필요\n\n### Copilot CLI\n\n```bash\n# 설치\nnpm i -g @anthropic-ai/copilot-cli\n\n# freeapi 내부 호출\ncopilot -p <prompt> --allow-all-tools\n```\n\n- GitHub Copilot 구독 필요\n\n### OpenCode\n\n```bash\n# 설치\ncurl -fsSL https://opencode.ai/install | bash\n\n# freeapi 내부 호출\nopencode run <prompt>\n```\n\n---\n\n## API Provider\n\nHTTP API를 직접 호출합니다. API 키가 필요하지만 더 빠르고 안정적입니다.\n\n### Google Gemini API\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `generativelanguage.googleapis.com/v1beta` |\n| 기본 모델 | `gemini-2.5-flash` |\n| 무료 한도 | 10 RPM, 250 RPD, 250K TPM |\n| 환경변수 | `GEMINI_API_KEY` 또는 `GOOGLE_API_KEY` |\n| 키 발급 | https://ai.google.dev |\n| 컨텍스트 | 최대 1M 토큰 |\n\n사용 가능한 모델:\n```\ngemini-2.5-flash (기본, 10 RPM, 250 RPD)\ngemini-2.5-flash-lite (15 RPM, 1000 RPD)\ngemini-2.0-flash (5 RPM, 100 RPD)\ngemini-2.5-pro (5 RPM, 100 RPD)\ngemini-1.5-flash (15 RPM, 1500 RPD)\n```\n\n### Groq\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.groq.com/openai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b-versatile` |\n| 무료 한도 | 30 RPM, 1,000 RPD, 12K TPM |\n| 환경변수 | `GROQ_API_KEY` |\n| 키 발급 | https://console.groq.com/keys |\n| 특징 | 300+ tok/s, 가장 빠른 무료 추론 |\n\n사용 가능한 모델:\n```\nllama-3.3-70b-versatile (기본, 30 RPM)\nllama-3.1-8b-instant (30 RPM, 14400 RPD)\nllama-4-scout-17b-16e-instruct (30 RPM)\nqwen-qwq-32b (30 RPM)\n```\n\n### Cerebras\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cerebras.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `llama-3.3-70b` |\n| 무료 한도 | 30 RPM, 14,400 RPD, 60K TPM, 1M tok/day |\n| 환경변수 | `CEREBRAS_API_KEY` |\n| 키 발급 | https://cloud.cerebras.ai |\n| 특징 | 가장 많은 일일 무료 토큰 |\n\n### Mistral\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.mistral.ai/v1` (OpenAI 호환) |\n| 기본 모델 | `mistral-small-latest` |\n| 무료 한도 | 1 RPS, 500K TPM, 10억 tok/월 |\n| 환경변수 | `MISTRAL_API_KEY` |\n| 키 발급 | https://console.mistral.ai/api-keys |\n| 특징 | 월 토큰 한도가 가장 큼 |\n\n### OpenRouter\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `openrouter.ai/api/v1` (OpenAI 호환) |\n| 기본 모델 | `deepseek/deepseek-r1:free` |\n| 무료 한도 | 20 RPM, 50 RPD |\n| 환경변수 | `OPENROUTER_API_KEY` |\n| 키 발급 | https://openrouter.ai/keys |\n| 특징 | 27+ 무료 모델, 모델 다양성 최고 |\n\n무료 모델 예시:\n```\ndeepseek/deepseek-r1:free\nqwen/qwen3-coder-480b:free\nmeta-llama/llama-3.3-70b-instruct:free\ngoogle/gemma-3-27b-it:free\nmistralai/mistral-small-3.1-24b-instruct:free\n```\n\n### Cohere\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `api.cohere.ai/v2` |\n| 기본 모델 | `command-r-plus` |\n| 무료 한도 | 20 RPM, 1,000 요청/월 |\n| 환경변수 | `COHERE_API_KEY` 또는 `CO_API_KEY` |\n| 키 발급 | https://dashboard.cohere.com/api-keys |\n\n### GitHub Models\n\n| 항목 | 값 |\n|------|-----|\n| 엔드포인트 | `models.inference.ai.azure.com` (OpenAI 호환) |\n| 기본 모델 | `gpt-4o` |\n| 무료 한도 | 10 RPM, 50 RPD |\n| 환경변수 | `GITHUB_TOKEN` |\n| 키 발급 | `gh auth token` (GitHub CLI) 또는 https://github.com/settings/tokens |\n| 특징 | GPT-4o, GPT-5 등 프리미엄 모델 무료 테스트 |\n\n---\n\n## Rate Limit 감지\n\n### HTTP 429 감지\n모든 API provider는 HTTP 429 응답 시 자동으로 rate limited로 표시됩니다.\n\n파싱하는 헤더:\n- `Retry-After` (초 단위)\n- `X-Ratelimit-Remaining-Requests`\n- `X-Ratelimit-Reset-Requests`\n\n기본 대기 시간: 60초\n\n### CLI Quota 감지\nCLI provider의 stderr/stdout에서 키워드로 감지:\n- `rate limit`, `quota exceeded`, `too many requests`\n- `429`, `resource exhausted`, `throttl`\n\n감지 시 해당 CLI를 60초간 비활성화하고 다음 provider로 전환합니다.\n"}}}} |