适用于通过控制台「服务组」或「接口快捷接入」调用智能路由的场景。按量计费域支持三种路由策略、自选基准模型,并提供成本总览。
候选模型集
候选模型集由平台统一维护,当前共 11 个模型。其中仅 glm-5.2 和 glm-5.3-flash 两个模型可作为基准模型,其余模型只参与路由、不能被选为基准模型。
| 序号 | 模型名称 | 是否可设为基准模型 |
| 1 | deepseek-v4-pro-0817 | 不可 |
| 2 | glm-5.2 | 可 |
| 3 | kimi-k2.7-code | 不可 |
| 4 | kimi-k2.6 | 不可 |
| 5 | minimax-m3 | 不可 |
| 6 | minimax-m2.7 | 不可 |
| 7 | deepseek-v4-flash-0731-new | 不可 |
| 8 | deepseek-v4.1-flash | 不可 |
| 9 | glm-5.3-flash | 可 |
| 10 | qwen3.8-flash | 不可 |
| 11 | qwen3.5-flash | 不可 |
说明
候选模型集会随模型上下架调整,实际可选范围以控制台展示为准。不可设为基准模型的模型仍会正常参与路由选型。
选择基准模型
创建服务组时必须选择 1 个基准模型。基准模型可用于:
参与比价:基准模型本身也在候选范围内,成本优先策略下会与其余候选模型一起比较价格,在效果达标的模型中价格更低者被选中,基准模型同样可能命中;
成本测算的参照系:成本总览中的“节约成本”“成本对比”,都以“如果全部请求都用基准模型”作为对照;
故障兜底:命中的模型不可用时,请求优先转到基准模型。
因此基准模型应选您原本打算固定使用的那个模型——这样“节约了多少”才对您有意义。
说明
基准模型选定后不可变更,路由策略同样在创建时选定。如需更换,请新建服务组;这样做的目的是保证节约测算口径前后可比。
操作步骤
| 步骤 | 操作 | 位置 |
| 1 | 开启智能路由服务、开通候选模型 | 控制台 · 在线推理 / 模型广场 |
| 2 | 创建智能路由服务组 | 控制台 · 服务组 |
| 3 | 获取应用密钥(App Key) | 控制台 · 服务组详情 |
| 4 | 发起调用 | 您的应用 / 接口快捷接入 |
| 5 | 查看成本与路由效果 | 控制台 · 调用监控 |
步骤一:开启智能路由服务、开通候选模型
使用智能路由前,需要先开启智能路由服务,再开通要使用的候选模型:
进入控制台「在线推理」页面,找到智能路由服务,点击「开启服务」;未开启时服务组只能使用普通直连模式。
进入「模型广场」,确认候选模型是否已开通,未开通的点击「开通」。
说明
不确定需要开通哪些模型时,可直接进入下一步创建服务组,保存时页面会列出未开通的模型;未开通的模型不参与路由选型,也不会阻断创建。建议优先开通常用模型,避免可用模型过少触发降级。
步骤二:创建智能路由服务组
进入控制台「服务组」页面,点击「创建服务组」。
填写基本信息:
| 配置项 | 是否必填 | 说明 |
| 服务组名称 | 必填 | 建议体现业务用途,便于后续区分 |
| 描述 | 选填 | 用途备注 |
| 有效期类型 | 必填 | 选择自定义有效期时,需填写到期时间 |
在服务组类型中选择「智能路由」,页面随后显示路由策略与基准模型配置区。
选择路由策略:成本优先 / 质量优先 / 均衡模式,三选一。
选择基准模型:只能从 5.1 表中标记为“可”的模型中选择。系统会弹出确认提示——基准模型选定后不可变更。
确认候选模型集:该区域为只读展示,未开通的模型会标注状态,不参与路由选型。
点击保存。存在未开通模型时页面会提示,可直接保存。
步骤三:获取应用密钥
在服务组列表中点击目标服务组,进入详情页。
在应用密钥区域创建或查看密钥。密钥默认掩码显示,需要时再明文查看。
复制密钥并妥善保存,不要写入前端代码或公开仓库。
步骤四:发起调用
调用方式与普通模型一致,把 model 填为 ctyun-smart-router 即可。
curl -X POST "<Base URL>/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <您的App Key>" \
-d '{
"model": "ctyun-smart-router",
"messages": [
{"role": "user", "content": "请用一句话介绍天翼云。"}
],
"stream": false
}'from openai import OpenAI
client = OpenAI(
api_key="<您的App Key>",
base_url="<Base URL>/v1"
)
resp = client.chat.completions.create(
model="ctyun-smart-router",
messages=[{"role": "user", "content": "请用一句话介绍天翼云。"}],
)
print(resp.model) # 实际命中的模型
print(resp.choices[0].message.content)说明
Base URL 以控制台「接口快捷接入」抽屉中展示的地址为准。使用 Anthropic 兼容协议时,请求路径为 /v1/messages,鉴权头为 x-api-key。建议直接使用接入抽屉生成的示例代码。
步骤五:查看成本与路由效果
进入控制台「调用监控」→「成本总览」。
选择时间范围与粒度(小时 / 天 / 周 / 月),可按路由策略或具体服务组筛选。
查看四类数据:
| 模块 | 内容 | 怎么用 |
| 核心指标 | 总计节约成本(预估)、总调用成本 | 快速判断路由是否划算 |
| 成本对比 | 基准模型成本 vs 智能路由实际成本 | 评估策略选择是否合理 |
| 调用成本趋势 | 按时间的成本曲线 | 发现异常波动 |
| 累计节省趋势 | 累计节省金额 | 观察长期收益 |
计费与抵扣
按实际路由到的模型计费,计费规则与该模型的标准价一致,按缓存命中输入、缓存未命中输入、输出 token 分别计价;
内测期间路由模型本身不收费,您只需为实际命中的模型付费;
发生故障切换时按最终成功响应的模型与 token 用量计费,不重复计费;
抵扣顺序:优先使用命中模型的免费试用额度、购买的 Tokens 量包,超出后按量付费。
说明
抵扣按上述顺序自动进行,无需手动选择;免费试用额度与量包均已用尽时,超出部分按量计费。