配置网关代理
更新时间 2025-11-14 15:17:06
最近更新时间: 2025-11-14 15:17:06
网关代理的作用是在大模型防护系统开启一个代理端口,原请求大模型的请求需主动请求代理端口,由代理服务判定输入内容合规后再转发到真正的大模型接口,并按照配置决定是否对大模型返回的响应进行合规性检测。
主要用于无法使用透明代理的场景,如
非自建大模型,如使用的云厂商提供的API接口。
大模型节点使用严格,禁止安装其他服务。
配置内容安全网关代理
内容安全代理主要用于代理大模型的对话接口,如“/v1/chat/completions”接口,从而对用户的提问和大模型的回答进行合规性检查。
登录大模型安全卫士实例。
在菜单栏选择“资产中心 > 模型代理 > 网关代理”,单击“新建代理”。
配置代理参数。
单击“确定”。
验证配置效果
将原本访问大模型的地址改为代理地址。
发送“你好”进行测试,可以发现请求成功。
发送一些不合规内容,可以发现请求被拦截。