功能概述
更新时间 2026-11-03 18:27:00
最近更新时间: 2026-11-03 18:27:00
什么是智能路由
大模型的能力和价格差异很大:同一个问题,用旗舰模型回答可能“贵而慢”,用轻量模型回答又可能“不够准”。传统做法是人工评测后固定调用某一个模型,或者由开发者在代码里写 if-else 分流。
智能路由把这层判断交给平台。您把请求发给统一入口 ctyun-smart-router,平台会分析这次请求属于什么任务、有多复杂,再从候选模型集中挑出一个最合适的模型来完成推理:
简单任务(如日常问答、摘要、分类)交给轻量、低价的模型;
复杂任务(如多步推理、代码生成、长文创作)交给能力更强的模型。
对您的应用来说,调用方式与普通模型完全一致——只需把 model 参数填成 ctyun-smart-router,其余代码不用改。
能解决什么问题
常见问题 | 智能路由的做法 |
模型太多,不知道选哪个 | 平台按请求内容自动选型,无需人工评测和对比 |
全部用旗舰模型,成本居高不下 | 简单请求自动分流到低价模型,避免“大材小用” |
为了省钱换小模型,效果明显下降 | 按任务类型匹配能力足够的模型,在效果可接受的前提下才降本 |
某个模型故障,业务直接中断 | 内置故障自动切换与兜底,请求自动转到可用模型 |
不知道省了多少钱、省在哪里 | 成本总览提供节约成本、成本对比与趋势,效果可量化 |
与直接调用模型的区别
对比项 | 直接调用指定模型 | 调用智能路由 |
model 参数 | 具体模型标识,如某个模型的 ID | 固定为 ctyun-smart-router |
选型方式 | 由您预先指定,请求之间不变化 | 平台按每次请求内容自动选择 |
计费对象 | 该模型 | 按需计费:实际命中的模型;套餐计费:套餐积分 |
故障处理 | 需自行重试或切换模型 | 平台自动切换,业务无感 |
响应中的模型名 | 返回该模型 | 返回实际命中的模型 |
适用场景 | 效果已确定、需固定行为 | 流量复杂度混合、成本敏感、要求高可用 |