爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      ASR项目实战-任务队列在文件转写特性中的应用

      首页 知识中心 其他 文章详情页

      ASR项目实战-任务队列在文件转写特性中的应用

      2024-07-11 09:40:42 阅读次数:35

      机器学习

      转写时长超出60秒的语音文件,业界的竞品通常会使用创建异步转写任务的方式来提供支持。
      一个简单、直接的实现方案,即:

      • 网关服务接收到来自客户的转写请求时,将任务信息持久化至任务队列中。
      • 由算法服务的实例从任务队列中提取任务,并执行转写操作。
      • 待执行完毕之后,将转写结果保存至DB中,供调用方查询。

      本文主要针对介绍任务队列的要求和选型。

      在语音识别的文件转写的场景下,对于任务队列的常规诉求:

      1. 允许多个生产服务向队列中增加任务。
      2. 允许多个消费服务从队列中提取任务。
      3. 任务队列自身具备可靠性,避免自身成为影响整体系统可靠性的单点。
      4. 任务队列的读、写操作,效率满足业务要求,避免成为影响整体系统效率的单点。
      5. 单个任务,仅支持由一个消费服务提取和处理。
      6. 消费方在处理某指定的任务时,假如超时或者失败,则要求将任务重新放回到队列中,由其它消费服务的实例完成任务的处理。
      7. 消费方的实例异常重启后,该实例上当前正在处理的任务,需要重新被抓取至原实例或者新实例上,继续处理。

      对于5、6,一般可以理解为任务的事务性。

      关于实现任务队列的可选方案,一般有如下几种:

      • Redis
      • Kafka
      • DB(比如MySQL)

      一般而言,Kafka、Redis自身可以满足上述要求中的1、2、3、4,实现并不困难,但5、6,则存在一定的困难。
      而基于DB的方案,可以很好的满足1、2、5、6,但在提供3、4时存在一定的困难。此外,当消费方的实例的数量增加时,由于需要采用轮询的方式来提取任务,可能导致DB的CPU占用率有所提升。当任务的并发度提升时,容易出现死锁的现象,或者提升DB处理数据行锁的开销。

      语音识别业务中文件转写请求的特点:

      • 当前的用户调用总量相对比较低。
      • 同一时间,来自客户的请求的并发度比较低。
      • 用户对于时延的敏感度相对比较低。
      • 用户对转写任务的成功率有比较高的诉求。

      综合考虑项目组当前的人力情况、技术储备情况、交付进度的要求,选择了基于DB来实现任务队列的方案。

      在DB中新建任务队列表,包含如下字段:

      • 任务ID,唯一标识。
      • 创建时间,用于后续计算任务端到端转写时间。
      • 任务结束时间,用于后续计算任务端到端转写时间。
      • 任务状态,当前任务处于排队中、处理中、处理结束、失败。对于失败的任务,假如重试次数低于门限值,则需要重试。
      • 锁定时间,用于确定任务是否超时,超时的任务需要重试。超时时间的定义,需要综合文件转写的实时比和语音文件自身的时长,给出恰当的定义,避免失败后等待过长的时间才能触发重试。
      • 当前处理任务的实例的标识,用于确定任务当前由哪个实例在转写。当算法服务的实例重启时,可以加载本实例相关的任务,执行重试操作。
      • 重试次数,系统需要提供自动重试的能力,可以规避某特定实例自身的问题导致的失败的现象,降低运维人员主动介入处理时的工作量。但不能无限制重试,需要定义重试的次数。

      参考资料

      • 分布式定时任务调度框架选型
      • 浅谈分布式任务调度框架
      • 使用 MySQL 实现任务队列
      • 这些优秀的国产分布式任务调度系统,你用过几个?
      • Elastic-job 介绍与使用
      • elastic-job的原理简介和使用
      • elasticjob
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://jackieathome.blog.csdn.net/article/details/113790568,作者:小南家的青蛙,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:第6章 作业(346)【网络安全】

      下一篇:vmware下vmdk文件越来越大的解决方法探讨

      相关文章

      2025-04-09 09:16:56

      python四种抽样方法的使用:随机抽样、聚类抽样、系统抽样、分层抽样

      python四种抽样方法的使用:随机抽样、聚类抽样、系统抽样、分层抽样

      2025-04-09 09:16:56
      python , 代码 , 方法 , 机器学习 , 示例
      2024-11-19 09:36:19

      Java中的机器学习模型集成与训练

      随着人工智能和机器学习技术的发展,机器学习在各行各业的应用越来越广泛,而Java作为一门强大且广泛应用的编程语言,自然也成为了许多机器学习工程师的首选。

      2024-11-19 09:36:19
      Java , 机器学习 , 模型
      2024-10-24 07:45:52

      Python机器学习19——常用六种机器学习的异常值监测方法(孤立森林,数据支持描述,自编码器,高斯混合,DBSCAN,LOF)

      Python机器学习19——常用六种机器学习的异常值监测方法(孤立森林,数据支持描述,自编码器,高斯混合,DBSCAN,LOF)

      2024-10-24 07:45:52
      python , 数据分析 , 机器学习
      2024-10-18 09:52:58

      Python统计学13——回归的多重共线性、异方差、自相关的检验

      Python统计学13——回归的多重共线性、异方差、自相关的检验

      2024-10-18 09:52:58
      python , 回归 , 机器学习
      2024-10-18 09:52:34

      Python统计学12——加权最小二乘

      加权最小二乘 的思想是在最小二乘上进行了改进。从损失函数角度来看,就是在每个样本的误差平方和求和之前,给每个误差平方赋予了一个权重,这个权重有很多种取法。

      2024-10-18 09:52:34
      python , 机器学习
      2024-10-17 09:59:41

      Python数据分析案例08——预测泰坦尼克号乘员的生存(机器学习全流程)

      Python数据分析案例08——预测泰坦尼克号乘员的生存(机器学习全流程)

      2024-10-17 09:59:41
      python , 数据分析 , 机器学习
      2024-09-25 10:15:01

      支持向量机算法之鸢尾花特征分类【机器学习】

      支持向量机(SVM)是一种二元分类模型。它的基本模型是在特征空间中定义最大区间的线性分类器,这使它不同于感知器;支持向量机还包括核技术,这使得它本质上是一个非线性分类器。

      2024-09-25 10:15:01
      机器学习
      2024-09-24 06:31:02

      文本情感分类

      文本情感分类

      2024-09-24 06:31:02
      人工智能 , 机器学习
      2024-09-19 08:56:52

      决策树结合网格搜索交叉验证的例子

      决策树结合网格搜索交叉验证的例子

      2024-09-19 08:56:52
      决策树 , 机器学习
      2024-09-19 08:56:52

      Excel双样本T检验之成对检验

      Excel双样本T检验之成对检验

      2024-09-19 08:56:52
      Excel , 机器学习 , 样本
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5245279

      查看更多

      最新文章

      文本情感分类

      2024-09-24 06:31:02

      Excel双样本T检验之成对检验

      2024-09-19 08:56:52

      Excel双样本T检验之异方差检验

      2024-09-19 08:56:52

      机器学习、深度学习、和神经网络之间的联系

      2024-06-03 09:09:34

      抽取文档主题之gensim实现

      2024-05-28 08:41:37

      PyTorch是什么?

      2024-05-22 09:13:36

      查看更多

      热门文章

      解决dataframe报错ValueError: Cannot take a larger sample than population when ‘replace=False‘

      2024-04-16 08:57:13

      【机器学习、深度学习、和神经网络之间的联系】

      2024-04-19 07:48:08

      机器学习——SVM原理

      2024-04-17 08:51:50

      文本分类的目的和分类的方法

      2024-05-20 09:53:58

      文本情感分类

      2024-09-24 06:31:02

      PyTorch是什么?

      2024-05-22 09:13:36

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      机器学习——SVM原理

      文本分类的目的和分类的方法

      机器学习、深度学习、和神经网络之间的联系

      解决dataframe报错ValueError: Cannot take a larger sample than population when ‘replace=False‘

      【机器学习、深度学习、和神经网络之间的联系】

      Excel双样本T检验之异方差检验

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号