什么是智算安全专区

智算安全专区是为云上智算基础设施构建的一站式安全防护平台，提供从开发、训练、部署到运营的全生命周期的智算安全解决方案。

功能特性

大模型安全卫士

• 内容检测三道防线

  大模型安全卫士采用了三层内容检测防线：敏感词匹配、语义分析和模型推理。

  • 敏感词匹配能够快速识别常规违规内容。

  • 语义分析则能够处理更复杂的语义绕过问题。

  • 模型推理则针对高级攻击手段，如藏头诗、谐音梗等进行检测。

• 语料输入安全

  语料安全网关代理rag业务系统请求，解析文件进行内容检测。保障语料库及生成内容的安全性、合规性，防止恶意攻击（如数据投毒、提示注入）、敏感信息泄露及生成有害内容。

• 敏感信息脱敏

  代理rag业务系统请求，解析文件发现敏感内容进行数据脱敏。

大模型安全测评

大模型安全测评服务主要从以下方面对大模型应用服务进行全面评估：

• 内容安全防护

• 提示注入攻击防护

• 涉密防护

通过“以模治模”的理念由大模型自动构建测试用例数据集，并保持持续更新迭代确保测试用例的全面性和实时性，通过最终的测评报告让用户全面了解自身大模型应用的安全状况以及潜在风险。

大模型安全护栏

• 内容安全防护

  大模型安全护栏是天翼云面向大模型应用场景推出的内容安全防护产品。随着大模型（LLM）技术在各行业的广泛落地，大模型在为用户带来智能化服务的同时，也面临来自提示注入攻击、违规内容生成、敏感信息泄露等多维度的安全风险。

• 全链路实时检测

  大模型安全护栏通过对大模型的输入侧和输出侧进行全链路实时检测，帮助企业用户有效识别并拦截风险内容，确保大模型应用的合规性与安全性，降低业务风险与法律合规压力。

• 快速集成

  产品以API 调用方式对外提供服务，可快速与企业现有大模型应用集成，无需改造核心业务逻辑，即可实现安全防护能力的无缝叠加。

产品提供三大核心检测能力

各检测类型支持的风险识别维度详见风险类型说明。

产品架构