本文为您介绍星辰TokenHub运营服务平台限额管理模块。
限额管理支持主用户管理主/子用户的服务调用额度控制,可从全局级别、账号级别和服务组级别配置多条限额规则(消费限额或Token限额),允许同时存在多层模式下的多条限额规则。在用户调用服务过程中,系统将依次校验各模式下全部限额规则,当触发任一规则的阈值时,都将停止对应用户下的对应服务调用。
前提条件
●当前用户属性为主用户。
●子用户不可见该菜单。
账号权限说明
主账号可查看其名下所有账号的用户信息和服务组信息,且支持对所有账号添加、修改和删除账号限额规则和服务组限额规则。
全局限额
场景说明
主用户可对所有用户下的所有服务组进行统一周期(日、自然月、自然年)下的合计调用额度限制(消费限额或Token限额),当满足所设置的限额告警阈值时可自动发送邮件、短信告知主用户,并在达到限额时停止所有用户下的服务调用。
示例:主用户想对所有用户(1个主用户+9个子用户)下的所有服务组(合计10个服务组)按照每月总消费金额合计1000元或每月消耗总Token量合计1000000进行额度控制,并希望在总消费金额或总Token消耗量达到90%时自动发送告警通知,当满足达到任一限额条件时停止所有用户下的服务调用。
配置步骤
1.主用户登录星辰TokenHub运营服务平台。
2.在左侧导航栏选择“限额管理”。
3.在“全局限额”卡片点击“配置全局限额”拉起右侧抽屉弹窗进行全局额度的限额周期(天、自然月、自然年)、消费限额、Token限额、告警阈值、发送通知的配置操作并点击“提交并生效”完成限额配置。
4.全局限额配置支持添加(最多三个)和删除限额周期配置,且每个周期配置中消费限额和Token限额至少设置一个。
配置说明:
1.全局限额:为主用户及其全部子用户下的所有服务组合计额度配置额度上限,执行额度管控
2.消费限额和Tokens限额至少需配置一项,可同时配置;若同一个限额周期内都配置时,优先达到触发阈值的先生效
3.超出任一配置限额后,服务组将自动暂停服务,请提前评估业务中断风险
4.生效范围:限额不包含免费体验额度、量包抵扣额度;Tokens限额不包含多模态模型;限额对专属服务不生效
5.若因限额配置导致服务停用,可以通过调高限额或等待周期重置便可自动恢复服务组启用
6.若因限额配置导致服务停用,可通过服务接入页面自助启用服务组或联系客户经理启用账号
7.用量统计存在5分钟左右时延,实际消耗可能略高于限额值。建议您在配置时适当降低限额阈值,预留一定的缓冲空间,以降低超额风险
停用/启用规则
主用户可对所创建的全局限额规则进行停用或启用规则,当停用后,全部用户下的所有服务组合计额度将不再受此限额限制,此配置立即失效;当启用后,全部用户下的所有服务组合计额度将受此限额限制,此配置立即生效。
编辑规则
支持主用户对单条全局限额规则进行消费限额、Token限额、发送通知、告警阈值的修改,提交后将生效新修改的规则内容。
删除规则
支持主用户删除全局限额规则,删除后,全部用户下的所有服务组合计额度将不再受此限额限制,此配置立即失效。
账号限额
场景说明
主用户可对部分用户(包括自己)下的所有服务组进行统一周期(日、自然月、自然年)下的合计调用额度限制(消费限额或Token限额),当满足所设置的限额告警阈值时可自动发送邮件、短信告知主用户,并在达到限额时停止对应用户下的服务调用。
示例:主用户想对用户A下的所有服务组(合计10个服务组)按照每月总消费金额合计1000元或每月消耗总Token量合计1000000进行额度控制,并希望在总消费金额或总Token消耗量达到90%时自动发送告警通知,当满足达到任一限额条件时停止对应用户下的服务调用。
配置步骤
1.主用户登录星辰TokenHub运营服务平台。
2.在左侧导航栏选择“限额管理”。
3.在页面下方点击“账号限额”选项卡,并点击“配置限额”拉起右侧抽屉弹窗,在选择任一用户后,进行账号额度的限额周期(天、自然月、自然年)、消费限额、Token限额、告警阈值、发送通知的配置操作并点击“提交并生效”完成限额配置。
4.账号限额配置支持添加(最多三个)和删除限额周期配置,且每个周期配置中消费限额和Token限额至少设置一个。
配置说明:
1.账号限额:为指定用户下的所有服务组合计额度配置额度上限,执行额度管控
2.消费限额和Tokens限额至少需配置一项,可同时配置;若同一个限额周期内都配置时,优先达到触发阈值的先生效
3.超出任一配置限额后,服务组将自动暂停服务,请提前评估业务中断风险
4.生效范围:限额不包含免费体验额度、量包抵扣额度;Tokens限额不包含多模态模型;限额对专属服务不生效
5.若因限额配置导致服务停用,可以通过调高限额或等待周期重置便可自动恢复服务组启用
6.若因限额配置导致服务停用,可通过服务接入页面自助启用服务组或联系客户经理启用账号
7.用量统计存在5分钟左右时延,实际消耗可能略高于限额值。建议您在配置时适当降低限额阈值,预留一定的缓冲空间,以降低超额风险
停用/启用规则
主用户可对所创建的账号限额规则进行停用或启用规则,当停用后,对应用户下的所有服务组合计额度将不再受此限额限制,此配置立即失效;当启用后,对应用户下的所有服务组合计额度将受此限额限制,此配置立即生效。
编辑规则
支持主用户对单条账号限额规则进行消费限额、Token限额、发送通知、告警阈值的修改,提交后将生效新修改的规则内容。
删除规则
支持主用户删除账号限额规则,删除后,对应用户下的所有服务组合计额度将不再受此限额限制,此配置立即失效。
查询规则
支持主用户按照主/子用户名称和限额周期进行相关规则筛选。
服务组限额
场景说明
主用户可对指定用户(包括自己)下的指定服务组进行统一周期(日、自然月、自然年)下的调用额度限制(消费限额或Token限额),当满足所设置的限额告警阈值时可自动发送邮件、短信告知主用户,并在达到限额时停止对应用户对应服务组下的服务调用。
示例:主用户想对用户A下的服务组1按照每月总消费金额合计1000元或每月消耗总Token量合计1000000进行额度控制,并希望在总消费金额或总Token消耗量达到90%时自动发送告警通知,当满足达到任一限额条件时停止用户A下的服务组1的服务调用(此功能等同于服务接入-服务组-额度控制)。
配置步骤
1.主用户登录星辰TokenHub运营服务平台。
2.在左侧导航栏选择“限额管理”。
3.在页面下方点击“服务组限额”选项卡,并点击“配置限额”拉起右侧抽屉弹窗,在选择任一用户及其对应的服务组后,进行服务组额度的限额周期(天、自然月、自然年)、消费限额、Token限额、告警阈值、发送通知的配置操作并点击“提交并生效”完成限额配置。
4.服务组限额配置支持添加(最多三个)和删除限额周期配置,且每个周期配置中消费限额和Token限额至少设置一个。
配置说明:
1.服务组限额:为指定用户下指定服务组配置额度上限,执行额度管控
2.消费限额和Tokens限额至少需配置一项,可同时配置;若同一个限额周期内都配置时,优先达到触发阈值的先生效
3.超出任一配置限额后,服务组将自动暂停服务,请提前评估业务中断风险
4.生效范围:限额不包含免费体验额度、量包抵扣额度;Tokens限额不包含多模态模型;限额对专属服务不生效
5.若因限额配置导致服务停用,可以通过调高限额或等待周期重置便可自动恢复服务组启用
6.若因限额配置导致服务停用,可通过服务接入页面自助启用服务组或联系客户经理启用账号
7.用量统计存在5分钟左右时延,实际消耗可能略高于限额值。建议您在配置时适当降低限额阈值,预留一定的缓冲空间,以降低超额风险
停用/启用规则
主用户可对所创建的服务组限额规则进行停用或启用规则,当停用后,对应用户下的对应服务组额度将不再受此限额限制,此配置立即失效;当启用后,对应用户下的对应服务组额度将受此限额限制,此配置立即生效。
编辑规则
支持主用户对单条服务组限额规则进行消费限额、Token限额、发送通知、告警阈值的修改,提交后将生效新修改的规则内容。
删除规则
支持主用户删除服务组限额规则,删除后,对应用户下的对应服务组额度将不再受此限额限制,此配置立即失效。
查询规则
支持主用户按照主/子用户名称、服务组名称和限额周期进行相关规则筛选。
说明:
主用户对子用户服务组级别的限额管理,子用户可在“服务接入”对应的服务组中查看到变化,子用户可修改和删除主用户的限额规则。