创建智能路由 2、查看智能路由状态 智能路由创建完成后,点击右上角刷新按钮,查看状态,如下图所示: 后台资源就绪约5s左右 ,智能路由状态处于运行中即可对外提供服务。 3、查看智能路由日志信息 通过切换Pod列表查看不同网关实例的日志信息。 4. 查看智能路由监控信息 注意 需要有访问记录才能生成智能路由监控指标信息。 5、访问智能路由 调用信息 创建智能路由成功后,会生成调用信息,如下图所示: 调用信息跟选择的网关实例有关,若网关绑定公网访问型的负载均衡,则会显示公网调用地址和VPC调用地址,否则只会显示VPC调用地址。 Host配置 由于网关可关联多个智能路由,为了区分后端服务,采用如下命名规则: shell Host: ${inferenceName}scheduler.${namespace}.inference.cn 服务调用 VPC内访问 (1)访问示例 shell curl H "Host: inferencero04orscheduler.ir.inference.cn" H "ContentType: application/json" d '{ "model": "inferencero04or", "prompt": "San Francisco is a", "maxtokens": 7, "temperature": 0 }' (2)访问结果 PortForward访问 (1)本地映射网关实例服务端口 进入主菜单:网络>服务,选择命名空间icce,输入实例名称进行搜索 (2)端口映射 shell