网关代理的作用是在大模型防护系统开启一个代理端口，原请求大模型的请求需主动请求代理端口，由代理服务判定输入内容合规后再转发到真正的大模型接口，并按照配置决定是否对大模型返回的响应进行合规性检测。

主要用于无法使用透明代理的场景，如

• 非自建大模型，如使用的云厂商提供的API接口。

• 大模型节点使用严格，禁止安装其他服务。

内容安全代理

内容安全代理主要用于代理大模型的对话接口，如“/v1/chat/completions”接口，从而对用户的提问和大模型的回答进行合规性检查。

1. 登录大模型安全卫士实例。

2. 在菜单栏选择“资产中心 > 模型代理 > 网关代理”，单击“新建代理”。

   

3. 配置代理参数。

   参数	说明
   代理名称	按照个人习惯填写语义化文本。
   代理类型	内容安全请选择“大语言模型”。
   描述	（可选）填写代理的描述信息。
   监听地址	默认“0.0.0.0”。
   监听端口	选择一个未被占用的端口（例如：11436）。
   大模型API地址	根据实际情况填写被代理模型的地址。
   模型Key	（可选）默认的模型名称。
   策略	按需选择如“默认策略”，更多关于策略的内容见内容安全。
   心跳检测	（可选）周期性检查被代理模型的存活状态，推荐开启。
   启用API Key	（可选）按需选择是否启用大模型防护系统的API认证机制。 当启用API Key时，还需配置API Key标签。API Key标签为模型认证配置中配置的标签。

4. 单击“确定”。

语料安全代理

1. 登录大模型安全卫士实例。

2. 在菜单栏选择“资产中心 > 模型代理 > 网关代理”，单击“新建代理”。

   

3. 输入代理名称、监听地址（0.0.0.0）、监听端口（11439）、大模型API地址，代理类型选择“检索增强生成”，选择“默认策略”，单击“确定”。

   

4. 客户的代理模型上传文件，再点击“内容安全 > 语料安全 > 文件检测”。该页面展示上传的文件，说明代理模型设置成功。