路由管理 Model API支持自定义路由管理,您可以自定义路由匹配规则,实现路由的精细化管理。 创建路由 1. 登录 云原生API网关控制台,在顶部菜单栏选择资源池。 2. 在左侧导航栏,选择 "AI网关实例" ,进入实例概览。 3. 在左侧导航栏,选择"Model API",然后单击目标API名称进入API详情页面。 4. 单击路由列表,然后单击创建路由,在创建路由面板填入路由配置,并单击保存按钮。 配置 说明 路由名称 自定义路由名称 路由描述 添加路由描述 路径(Path) 选择路径,支持当前LLM协议下的路由 更多匹配规则 自定义匹配规则,创建多个相同路径路由时,支持配置方法、请求头、请求参数、Cookie,来区分不同路由 场景 单模型服务:选择一个LLM服务,并可以按需选择透传或指定模型名称 多模型服务:可选择多个LLM服务,并支持流量比例配置 后端服务 选择后端服务 更新路由 1. 登录云原生API网关控制台,在顶部菜单栏选择资源池。 2. 在左侧导航栏,选择 "AI网关实例" ,进入实例概览。 3. 在左侧导航栏,选择"Model API",然后单击目标API名称进入API详情页面。 4. 单击路由列表,单击目标路由,进入路由详情页。 5. 单击路由详情页右上角编辑按钮,在路由编辑面板中填入编辑内容,并单击保存。 删除路由 1. 登录云原生API网关控制台,在顶部菜单栏选择资源池。 2. 在左侧导航栏,选择 "AI网关实例" ,进入实例概览。 3. 在左侧导航栏,选择"Model API",然后单击目标API名称进入API详情页面。 4. 单击路由列表,单击目标路由,进入路由详情页。 5. 单击路由详情页右上角删除按钮,并在弹窗中单击确认。