爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Elasticsearch Search流程

      首页 知识中心 其他 文章详情页

      Elasticsearch Search流程

      2023-05-15 10:03:24 阅读次数:488

      elasticsearch,search,流程

      GET操作只能对单个文档进行处理,由_index、_type和_id三元组来确定唯一文档。但搜索需要一种更复杂的模型,因为不知道查询会命中哪些文档。

      找到匹配文档仅仅完成了搜索流程的一半,因为多分片中的结果必须组合成单个排序列表。集群的任意节点都可以接收搜索请求,接收客户端请求的节点称为协调节点。在协调节点,搜索任务被执行成一个两阶段过程,即query then fetch。真正执行搜索任务的节点称为数据节点。

      需要两个阶段才能完成搜索的原因是,在查询的时候不知道文档位于哪个分片,因此索引的所有分片(某个副本)都要参与搜索,然后协调节点将结果合并,再根据文档ID获取文档内容。例如,有5个分片,查询返回前10个匹配度最高的文档,那么每个分片都查询出当前分片的TOP 10,协调节点将5×10 = 50的结果再次排序,返回最终TOP 10的结果给客户端。

      一个简单的搜索请求示例如下:
      Elasticsearch Search流程

      在上面的例子中,我们从所有字段搜索“first”关键词,返回信息中几个基本字段的含义如下:

      • took代表搜索执行时间(单位:毫秒);
      • total代表本次搜索命中的文档数量;
      • max_score为最大得分,代表文档匹配度;
      • hits为搜索命中的结果列表,默认为10条。

      1、索引和搜索

      ES中的数据可以分为两类:精确值和全文。

      • 精确值,比如日期和用户id、IP地址等。
      • 全文,指文本内容,比如一条日志,或者邮件的内容。
        这两种类型的数据在查询时是不同的:对精确值的比较是二进制的,查询要么匹配,要么不匹配;全文内容的查询无法给出“有”还是“没有”的结果,它只能找到结果是“看起来像”你要查询的东西,因此把查询结果按相似度排序,评分越高,相似度越大。

      对数据建立索引和执行搜索的原理如下图所示:
      Elasticsearch Search流程

      1.1 建立索引

      如果是全文数据,则对文本内容进行分析,这项工作在 ES 中由分析器实现。分析器实现如下功能:

      • 字符过滤器。主要是对字符串进行预处理,例如,去掉HTML,将&转换成and等。
      • 分词器(Tokenizer)。将字符串分割为单个词条,例如,根据空格和标点符号分割,输出的词条称为词元(Token)。
      • Token过滤器。根据停止词(Stop word)删除词元,例如,and、the等无用词,或者根据同义词表增加词条,例如,jump和leap。
      • 语言处理。对上一步得到的Token做一些和语言相关的处理,例如,转为小写,以及将单词转换为词根的形式。语言处理组件输出的结果称为词(Term)。分析完毕后,将分析器输出的词(Term)传递给索引组件,生成倒排和正排索引,再存储到文件系统中。

      1.2 执行搜索

      搜索调用Lucene完成,如果是全文检索,则:

      • 对检索字段使用建立索引时相同的分析器进行分析,产生Token列表;
      • 根据查询语句的语法规则转换成一棵语法树;
      • 查找符合语法树的文档;
      • 对匹配到的文档列表进行相关性评分,评分策略一般使用TF/IDF;
      • 根据评分结果进行排序。

      2、Search Type

      ES目前有两种搜索类型:

      • DFS_QUERY_THEN_FETCH;
      • QUERY_THEN_FETCH(默认)。

      两种不同的搜索类型的区别在于查询阶段,DFS查询阶段的流程要多一些,它使用全局信息来获取更准确的评分。

      本章的流程分析默认搜索类型。下面我们仍旧按照请求涉及的节点来分析流程,搜索流程涉及两个节点:协调节点和数据节点。

      3、分布式搜索过程

      一个搜索请求必须询问请求的索引中所有分片的某个副本来进行匹配。假设一个索引有5个主分片,每个主分片有1个副分片,共10个分片,一次搜索请求会由5个分片来共同完成,它们可能是主分片,也可能是副分片。也就是说,一次搜索请求只会命中所有分片副本中的一个。

      当搜索任务执行在分布式系统上时,整体流程如下图所示:
      Elasticsearch Search流程

      3.1 协调节点流程

      两阶段相应的实现位置:查询(Query)阶段:search.InitialSearchPhase;取回(Fetch)阶段:search.FetchSearchPhase。

      它们都继承自SearchPhase,如下图所示:
      Elasticsearch Search流程

      Query阶段

      在初始查询阶段,查询会广播到索引中每一个分片副本(主分片或副分片)。每个分片在本地执行搜索并构建一个匹配文档的优先队列。

      优先队列是一个存有topN匹配文档的有序列表。优先队列大小为分页参数from + size。

      分布式搜索的Query阶段(图片来自官网)如下图所示:
      Elasticsearch Search流程

      QUERY_THEN_FETCH搜索类型的查询阶段步骤如下:

      1. 客户端发送search请求到NODE 3。
      2. Node 3将查询请求转发到索引的每个主分片或副分片中。
      3. 每个分片在本地执行查询,并使用本地的Term/Document Frequency信息进行打分,添加结果到大小为from + size的本地有序优先队列中。
      4. 每个分片返回各自优先队列中所有文档的ID和排序值给协调节点,协调节点合并这些值到自己的优先队列中,产生一个全局排序后的列表。

      协调节点广播查询请求到所有相关分片时,可以是主分片或副分片,协调节点将在之后的请求中轮询所有的分片副本来分摊负载。

      查询阶段并不会对搜索请求的内容进行解析,无论搜索什么内容,只看本次搜索需要命中哪些shard,然后针对每个特定shard选择一个副本,转发搜索请求。

      Fetch阶段

      Query阶段知道了要取哪些数据,但是并没有取具体的数据,这就是Fetch阶段要做的。

      分布式搜索的Fetch阶段(图片来自官网)如下图所示:
      Elasticsearch Search流程
      Fetch阶段由以下步骤构成:

      1. 协调节点向相关NODE发送GET请求。
      2. 分片所在节点向协调节点返回数据。
        3.协调节点等待所有文档被取得,然后返回给客户端。

      分片所在节点在返回文档数据时,处理有可能出现的_source字段和高亮参数。

      协调节点首先决定哪些文档“确实”需要被取回,例如,如果查询指定了{ "from": 90, "size":10 },则只有从第91个开始的10个结果需要被取回。

      为了避免在协调节点中创建的number_of_shards * (from + size)优先队列过大,应尽量控制分页深度。

      3.2 执行搜索的数据节点流程(略)

      4、小结

      • 聚合是在ES中实现的,而非Lucene。
      • Query和Fetch请求之间是无状态的,除非是scroll方式。
      • 分页搜索不会单独“cache”,cache和分页没有关系。
      • 每次分页的请求都是一次重新搜索的过程,而不是从第一次搜索的结果中获取。看上去不太符合常规的做法,事实上互联网的搜索引擎都是重新执行了搜索过程:人们基本只看前几页,很少深度分页;重新执行一次搜索很快;如果缓存第一次搜索结果等待翻页命中,则这种缓存的代价较大,意义却不大,因此不如重新执行一次搜索。
      • 搜索需要遍历分片所有的Lucene分段,因此合并Lucene分段对搜索性能有好处。
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://jiankunking.blog.csdn.net/article/details/89202676,作者:衣舞晨风,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:elasticsearch实战三部曲之三:搜索操作

      下一篇:HasMap初始容量设置

      相关文章

      2025-05-09 08:20:32

      Maven之介绍

      Maven 是一个 Java 项目管理和构建工具。它可以定义项目结构、项目依赖,并使用统一的方式进行自动化构建,是Java项目不可缺少的工具。

      2025-05-09 08:20:32
      jar , Maven , 一个 , 文件夹 , 标准化 , 流程 , 项目
      2025-04-15 09:19:26

      awk实践_逻辑控制_流程控制

      awk实践_逻辑控制_流程控制

      2025-04-15 09:19:26
      基础知识 , 实践 , 控制 , 流程
      2025-03-24 08:53:15

      【漏洞复现】CVE-2015-5531 Arbitrary File Reading

      【漏洞复现】CVE-2015-5531 Arbitrary File Reading

      2025-03-24 08:53:15
      CVE , elasticsearch , https
      2025-02-25 08:57:42

      【Java面试题】Struts2

      【Java面试题】Struts2

      2025-02-25 08:57:42
      filter , servlet , SpringMVC , Struts2 , url , 流程
      2024-12-23 09:17:24

      优化企业员工管理的利器——ADManager Plus

      优化企业员工管理的利器——ADManager Plus

      2024-12-23 09:17:24
      Plus , 企业 , 员工 , 流程
      2024-12-17 08:34:36

      【第三章:流程控制语句】3.5 break, continue, 和 pass 语句

      在 Python 中,控制流程语句是程序设计的基础,它们决定了程序的执行路径。本文将重点介绍三种常用的控制流程语句:break, continue, 和 pass。这些语句可以帮助我们更灵活地控制循环的执行过程。

      2024-12-17 08:34:36
      break , continue , Python , 循环 , 流程 , 语句
      2024-11-26 09:47:29

      Filebeat基本介绍

      Filebeat基本介绍

      2024-11-26 09:47:29
      流程 , 组件
      2024-11-20 09:47:05

      ElasticSearch中的分页(size、from)

      ElasticSearch中的分页(size、from)

      2024-11-20 09:47:05
      elasticsearch , 分页
      2024-11-04 09:32:44

      构建Spring Boot应用的持续集成与持续部署(CI/CD)

      在现代软件开发流程中,持续集成(CI)和持续部署(CD)是提高开发效率、降低错误率的重要实践。

      2024-11-04 09:32:44
      CI , 流程 , 部署 , 集成
      2024-11-01 09:09:06

      Yarn命令使用及wordcount解析

      Yarn命令使用及wordcount解析

      2024-11-01 09:09:06
      流程
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5221039

      查看更多

      最新文章

      Maven之介绍

      2025-05-09 08:20:32

      【漏洞复现】CVE-2015-5531 Arbitrary File Reading

      2025-03-24 08:53:15

      优化企业员工管理的利器——ADManager Plus

      2024-12-23 09:17:24

      Filebeat基本介绍

      2024-11-26 09:47:29

      ElasticSearch中的分页(size、from)

      2024-11-20 09:47:05

      Yarn命令使用及wordcount解析

      2024-11-01 09:09:06

      查看更多

      热门文章

      Salesforce 批准过程

      2023-04-18 14:14:13

      elasticsearch报错:exceeds the [index.highlight.max_analyzed_offset] limit [1000000]

      2023-04-11 10:15:33

      Elasticsearch GET 流程

      2023-05-16 09:42:51

      postgres elasticsearch fdw 学习

      2024-09-25 10:14:34

      Elasticsearch聚合的嵌套桶如何排序

      2023-05-15 10:02:23

      cube.js 支持 elasticsearch

      2023-04-07 06:40:34

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      ES的复杂查询(三)

      elasticsearch分组

      ElasticSearch中常用的命令

      Elasticsearch 删除type

      Yarn命令使用及wordcount解析

      生成elasticsearch查询条件工具类

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号