Docs

开始接入

Python、JavaScript 与开发工具接入

使用官方 SDK、自定义 Base URL、Codex 与 Claude Code 接入 Token4AI Cloud。

更新于

Python SDK

安装 openai 包后显式传入 Token4AI 密钥和 base_url。环境变量中的 TOKEN4AI_MODEL 应来自当前密钥的模型目录。下面使用较短超时和一次 SDK 重试作为起点,请根据任务耗时调整,不要在外层再无限重试。

Install
python -m pip install openai
Python
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKEN4AI_API_KEY"],
    base_url="https://api.token4ai.cloud/v1",
    timeout=60.0,
    max_retries=1,
)
reply = client.chat.completions.create(
    model=os.environ["TOKEN4AI_MODEL"],
    messages=[{"role": "user", "content": "Explain API authentication."}],
)
print(reply.choices[0].message.content)

JavaScript / TypeScript

在 Node.js 服务端安装 openai。JavaScript 使用 baseURL,Python 使用 base_url,参数名不能混用。下面的流式示例只输出文本增量;生产应用还应处理工具调用、终止状态和异常。

Install
npm install openai
JavaScript
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKEN4AI_API_KEY,
  baseURL: "https://api.token4ai.cloud/v1",
  timeout: 60_000,
  maxRetries: 1,
});
const stream = await client.chat.completions.create({
  model: process.env.TOKEN4AI_MODEL,
  messages: [{ role: "user", content: "Explain streaming." }],
  stream: true,
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Codex

推荐直接运行 token4ai agent setup --agent codex:它会复用或创建 API Key,合并 ~/.codex/config.toml 与 auth.json,并在写入前备份。手动配置时,把下方 config.toml 合并到现有文件,并把 API Key 写入 ~/.codex/auth.json 的 OPENAI_API_KEY;保留已有配置备份,模型名替换为当前分组支持 Responses 的模型。HTTP 请求默认最多重试 4 次,SSE 中断最多重试 5 次;重试耗尽后当前 turn 会结束。

~/.codex/config.toml
model_provider = "token4aicloud"
model = "YOUR_MODEL_ID"

[model_providers.token4aicloud]
name = "Token4AI Cloud"
base_url = "https://api.token4ai.cloud/v1"
wire_api = "responses"
requires_openai_auth = true
request_max_retries = 4
stream_max_retries = 5
stream_idle_timeout_ms = 300000
~/.codex/auth.json
{
  "OPENAI_API_KEY": "YOUR_API_KEY"
}

Claude Code 与 Anthropic SDK

Claude Code 使用 Anthropic 原生流式协议。请把下方四个 env 键合并到用户级 ~/.claude/settings.json,并保留已有的 hooks、permissions、theme、plugins 及其他 env,使所有项目使用同一套 Token4AI 设置。ANTHROPIC_BASE_URL 必须是 https://api.token4ai.cloud,末尾不要追加 /v1;显式设置 ANTHROPIC_MODEL,避免客户端别名解析到分组不支持的模型。

  • 只使用 ANTHROPIC_API_KEY。不要同时设置 ANTHROPIC_AUTH_TOKEN;启动前清理当前 shell 和 ~/.zshrc、~/.bashrc、PowerShell Profile 中旧的 ANTHROPIC_* 覆盖值,然后重启终端。
  • macOS / Linux 手工合并后执行 chmod 600 ~/.claude/settings.json,使配置文件只对当前用户可读写。token4ai agent setup --agent claude-code 会自动合并配置、写入密钥并收紧权限。
  • 进入 Claude Code 后用 /status 检查生效的 Base URL 与模型,再运行下方最小请求。只有真实响应携带 usage,才说明供应商链路完整接通。
  • 上游 400 表示供应商实际拒绝了请求;紧随其后的 provider_circuit_open 503 是网关熔断后的短路响应,并不表示供应商返回了 503。排查时请保留 fg- 开头的 request id。
  • Polaris 的供应商连接测试是简单的非流式探针,不能替代 Claude Code 的真实流式请求验证。Vega 的客户端配置和 CC Switch 导入包含敏感凭证,只应交给可信的本地工具。
Merge into ~/.claude/settings.json
{
  "env": {
    "ANTHROPIC_BASE_URL": "https://api.token4ai.cloud",
    "ANTHROPIC_API_KEY": "YOUR_API_KEY",
    "ANTHROPIC_MODEL": "claude-opus-5",
    "CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC": "1"
  }
}
Verify a real request
claude --version
claude --model claude-opus-5 -p "Reply with exactly OK" --output-format json

官方参考与兼容边界

官方 SDK 文档说明客户端行为;Token4AI 当前文档和目录说明本网关实际接入范围。不要把厂商原站的所有产品、管理接口或内置工具能力视为本网关已经开放。

继续阅读