平台在线推理模块提供预置服务,预置服务是平台已部署好的服务,无等待时间,可直接调用。
预置服务
操作步骤
1. 登录星辰TokenHub运营服务平台。
2. 在左侧导航栏选择“在线推理”,在右侧页面中选择“预置服务”。
3. 主账号下在预置服务列表可查看目前平台预置的所有服务内容和对应的服务信息(服务名称、开启服务状态、使用状态、价格、关联服务组,子账号下在预置服务列表中仅可见主账号所授权的对应服务内容。
4. 所有预置服务需要主账号“开启服务”后才可使用,支持免费试用和付费使用。
5. 服务开启后可请求调用模型服务,并可在“调用监控”中查看对应服务的调用情况。
开启服务
1. 开启服务:开启对应服务后才可请求模型服务。
2. 仅主账号下有此权限。
3. 在开启服务弹窗中可查看开启后的计费规则,点击“确认开启”则开通对应服务。
关闭服务
1. 关闭已开启且正在使用中(含状态:按量计费中、免费试用、量包消耗中)的服务,仅主账号下有此权限。
2. 点击“关闭服务”将弹窗展示关闭服务后的后续影响:模型微调服务停止、按量计费停止、免费体验额度(若有)失效、子账号无法调用该服务,在确认后续影响后点击“确认关闭”,完成服务关闭。
免费体验
1. 每个模型被赋予不等的免费额度和免费试用期限,在开启的服务后点击“开启免费体验”可进行弹窗查看,仅主账号有此权限。
2. 可选择是否勾选“免费额度耗尽后或到期后,自动关闭服务”,若不勾选则免费体验结束后将对服务进行按量计费。
3. 点击“确认开启”后当前服务的使用状态变更为“免费试用”。
4. 免费试用期限从领取成功后开始计算。
5. 免费体验具有以下特点:
共享机制:主/子账号共用免费额度及有效期周期额度。
不可分配:不支持主账号向子账号分配额度。
有效期触发:主账号任一账号首次使用模型服务即启动2周有效期倒计时。
注意
若对应服务存在已经购买了Token量包,则Token量包不可与免费额度同时使用,若Token量包已经在使用中,则“开启免费体验”禁用,请在量包使用完毕后再开启免费体验。
购买量包
用户可根据实际开通服务的tokens消耗情况决定是否购买量包。
1. 未配置销售品的服务下“购买量包”暂不可用。
2. tokens量包与免费体验不可同时使用,若当前服务处于免费试用中,“购买量包”不可用。
3. 除外上述情况下点击对应服务的“购买量包”进入到购买量包详情页,仅主账号下有此权限。
4. 在详情页查看购买须知,根据实际情况选择合适的量包规格和购买数量(相同服务最多可购买2个)。
5. 根据实际情况选择是否开启服务(建议开启,若不开启则后续无法调用服务)、选择是否勾选“量包额度耗尽或到期后,自动停止服务”,查看对应的计费单价。
6. 购买量包具有以下特点:
购买限制:只允许主账号开通tokens量包,主账号及所有子账号共用资源。
购买记录:主账号可在订单管理处查询订单,主账号可在模型服务详情页和“Tokens量包”查看用量。
用量统计:各账号独立统计调用监控,主账号通过监控详情页筛选可见子账号用量。
统一扣费:主账号扣费。
计费策略:支持开通token量包的模型及对应价格参见包周期计费模式-Tokens量包。
举例:主账号A已开通Tokens包,子账号B、C、D可共享使用。
更多操作
1. 点击“API文档”跳转到对应服务的模型详情页。
2. 点击“调用监控”跳转到对应服务的监控服务详情页。