网关代理 本节介绍如何配置网关代理。 网关代理的作用是在大模型防护系统开启一个代理端口,原请求大模型的请求需主动请求代理端口,由代理服务判定输入内容合规后再转发到真正的大模型接口,并按照配置决定是否对大模型返回的响应进行合规性检测。主要用于无法使用透明代理的场景,如非自建大模型,如使用的云厂商提供的API接口。大模型节点使用严格,禁止安装其他服务。内容安全代理内容安全代理主要用于代理大模型的对话接口,如“/v1/chat/completions”接口,从而对用户的提问和大模型的回答进行合规性检查。