概述
您需要完成将已有的服务创建为路由备选服务,网关在进行转发时会根据路由规则将请求转发至备选服务。
创建服务
AI网关支持创建LLM服务、Agent服务、容器服务、MSE Nacos、固定地址、函数计算和DNS域名。
LLM服务
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击创建服务。
配置基本信息。
● 在弹窗中先选择服务来源为“LLM服务”,随后编辑其余配置。
● 服务名称: 自定义服务名称。
● 大模型供应商: 支持息壤、DeepSeek、OpenAI兼容(OpenAI Compatible)、百炼。
注意:本AI服务背后的大模型技术由第三方提供,并非由我们直接运营。在使用前,请务必根据自身需求独立判断该服务的适用性与可靠性,并严格遵守所有适用的法律法规及本平台的服务条款。如因您违反上述要求而引发任何问题或损失,我们将不承担任何责任。
● 服务地址(base_url):大模型服务的BaseURL。
● API-KEY:访问大模型需要的API-KEY凭证。API-KEY的获取请咨询对应服务供应商。
配置完成后单击确定,完成创建。
Agent服务
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击创建服务。
配置基本信息。
在弹窗中先选择服务来源为“Agent服务”,随后编辑其余配置。
● 服务名称: 自定义服务名称。
● 服务供应商: 支持选择百炼、自定义。
注意:本Agent服务背后的智能体能力由第三方提供,并非由我们直接运营。在使用前,请务必根据自身需求独立判断该服务的适用性与可靠性,并严格遵守所有适用的法律法规及本平台的服务条款。如因您违反上述要求而引发任何问题或损失,我们将不承担任何责任。
● 服务地址(base_url):Agent服务的BaseURL。
● API-KEY:访问Agent服务需要的API-KEY凭证。API-KEY的获取请咨询对应服务供应商。
配置完成后单击确定,完成创建。
容器服务
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击服务来源。
单击创建来源,在创建来源面板中,配置以下参数:
● 来源类型:选择容器服务,通过K8s Server发现后端服务。
● 容器集群:选择后端服务所在的集群。
注意:只能添加同VPC内的容器集群,不支持跨VPC的服务来源。
配置完成后单击确定,完成服务来源创建。
单击服务管理页签,然后单击创建服务,配置以下参数:
● 服务来源:选择容器服务。
● 命名空间:选择服务所在的命名空间。
● 服务列表:命名空间下的服务列表。
配置完成后单击确定,完成服务创建。
MSE Nacos
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击服务来源。
单击创建来源,在创建来源面板中,配置以下参数:
● 来源类型:选择MSE Nacos,通过 MSE Nacos 注册中心发现后端服务。
● 集群名称:选择后端服务所在的MSE Nacos集群。
注意:只能添加同VPC内的MSE Nacos集群,不支持跨VPC的服务来源。
● 拉取间隔:网关节点定时从来源实例同步服务注册信息的间隔,取值范围为15s~60s。
配置完成后单击确定,完成服务来源创建。
单击服务管理页签,然后单击创建服务,配置以下参数:
● 服务来源:选择MSE Nacos集群。
● 命名空间:选择服务所在的命名空间。
● 服务列表:命名空间下的服务列表。
配置完成后单击确定,完成服务创建。
固定地址
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击创建服务。
配置基本信息。
● 在弹窗中先选择服务来源为“固定地址”,随后编辑其余配置。
● 服务名称: 自定义服务名称。
● 服务地址:单击添加, 输入后端节点主机地址和端口,支持同时添加多个服务地址。存在多个服务地址时,优先路由到优先级高的服务地址,若优先级相同,则按照权重按比例路由到服务地址。
● 请求协议:转发至后端服务的请求协议,支持HTTP、HTTPS、GRPC、GRPCS和DUBBO。
配置完成后单击确定,完成服务创建。
函数计算
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击创建服务。
配置基本信息。
在弹窗中先选择服务来源为“函数计算”,随后编辑其余配置。
● 函数:从函数列表中选择函数。
● 版本/别名:选择函数的版本或别名。
● 请求协议:函数的请求协议,支持HTTP。
配置完成后单击确定,完成服务创建。
DNS域名
打开AI网关控制台实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例ID。
在左侧导航栏,单击服务,然后单击创建服务。
配置基本信息。
● 在弹窗中先选择服务来源为“DNS域名”,随后编辑其余配置。
● 服务名称: 自定义服务名称。
● 域名: 后端服务的域名地址。
注意:如果指定的是外网地址,需要配置NAT网关。
● 端口: 后端服务的端口。
● 请求协议: 后端服务的请求协议,支持HTTP、HTTPS、GRPC、GRPCS和DUBBO。