什么是智算安全专区

智算安全专区是为云上智算基础设施构建的一站式安全防护平台，提供从开发、训练、部署到运营的全生命周期的智算安全解决方案。

功能特性

大模型安全卫士

• 内容检测三道防线

  大模型安全卫士采用了三层内容检测防线：敏感词匹配、语义分析和模型推理。

  • 敏感词匹配能够快速识别常规违规内容。

  • 语义分析则能够处理更复杂的语义绕过问题。

  • 模型推理则针对高级攻击手段，如藏头诗、谐音梗等进行检测。

• 语料输入安全

  语料安全网关代理rag业务系统请求，解析文件进行内容检测。保障语料库及生成内容的安全性、合规性，防止恶意攻击（如数据投毒、提示注入）、敏感信息泄露及生成有害内容。

• 敏感信息脱敏

  代理rag业务系统请求，解析文件发现敏感内容进行数据脱敏。