API接入
服务初期,开放四类API接入能力,包括:文本/代码生成模型、文本/代码补全模型、视频理解模型、视频生成模型,后续随技术迭代动态扩展。
Token鉴权功能
用户开通Token资源后,登录息壤智云平台服务接入模块创建服务组,即可生成APPkey,每个用户生成APPkey数量不限。
统一鉴权机制:基于API密钥(APPkey)实现调用身份认证与权限校验,所有API请求均需通过鉴权校验后方可执行,保障接口调用的合法性与安全性。
API密钥管理:支持按照业务需求创建、禁用、删除多个APP Key,并为不同密钥配置相应的调用权限,实现按业务线、按应用场景的维度权限隔离。
调用管理功能
限流控制:支持设置单接口/单模型的TPM、RPM、QPS性能上限,对超过阈值的请求自动拒绝,保障系统稳定性与资源合理分配。
多版本并存管理:支持同一模型的多个版本同时在线提供服务,用户可按需切换,保障业务升级的平滑过渡与兼容性。
运营管理功能
调用监控与告警:提供实时QPS、成功率、延迟、计量消耗等实时统计数据,支持对异常指标自动触发告警,保障业务运行状态可观测。
调用明细查询:支持按时间维度、按模型维度、按密钥维度查询调用明细记录,便于业务对账与运营分析。
计量计费功能
Token消耗计量:每次API调用返回实际消耗的Token数量,支持输入、输出与缓存命中分别统计。
成本控制:支持设置单接口/单模型的消费上限,对超过阈值自动拒绝请求或触发告警,帮助用户管控整体调用成本。
安全管理功能
数据安全:在模型调用请求中通过加密传输、权限隔离等方式保障用户数据安全。
安全围栏:对模型调用过程中的请求,尤其是文生图、文生视频请求进行前置隔离审核,涉政、涉黄、暴力等违规输入自动拦截。检测并阻断提示词注入(Prompt Injection)、越狱尝试(Jailbreak)等试图绕过模型安全对齐的攻击行为。
隐私数据识别与处理:识别用户请求中是否包含个人隐私数据(身份证号、手机号、银行卡号等),并可选择脱敏处理或直接拒绝,保障用户隐私合规。