爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      搜索引擎都在用的倒排索引——原理与实现

      首页 知识中心 其他 文章详情页

      搜索引擎都在用的倒排索引——原理与实现

      2024-10-21 09:43:12 阅读次数:29

      倒排,匹配

      什么是倒排索引

      倒排索引(Inverted index),个人理解倒排的意思是说,普通的搜索算法,是从文档里搜索一个关键词(文档→关键词),而倒排索引是首先知道了每个关键词都出现在了哪些文档里,从关键词搜文档(关键词→文档),正好目的反过来,和“颠倒搜索”没什么关系。

      倒排索引的好处

      想象一个场景,你要对一个很大的文件搜索其中是否有一个关键词,常规的做法是遍历整个文档,那么如果关键词在文档最后,就会非常慢

      倒排索引先记录了每个关键词出现在了哪些文档里,需要哪个关键词,把含有的文档直接拎出来就可以,这样就快多了

      主流的搜索工具,ElasticSearch都是基于倒排索引的方式

      如何建立一个倒排索引

      举个栗子,假设我们有如下0-4五个文档

      搜索引擎都在用的倒排索引——原理与实现

      分词后可以得到这16个关键词,倒排列表中记录的是那些文档包含这个关键词

      搜索引擎都在用的倒排索引——原理与实现

      实际使用的一些问题

      自己实现一个倒排,个人感觉需要注意一下模糊搜索的问题和匹配算法的设计,在使用ES时,虽然这些已经做好了,但是感觉有时效果不佳,具体实现机制还需要再研究。

      模糊匹配

      我们应该希望系统具有这样的能力

      • 匹配缩写:搜索 UK ,会返回包含 United Kindom 的文档
      • 匹配词根:搜索 jump ,会匹配 jumped , jumps
      • 匹配同义词:搜索 johnny walker 会匹配 Johnnie Walker , 搜索 people ,会返回包含 person 的文档
      • 理解语境:搜索fox news hunting 应该返回福克斯新闻( Foxs News )中关于狩猎的故事,而搜素so fox hunting news 应该返回关于猎狐的故事

      要使得系统能够坐到这一点,就需要在分词阶段,对词条进行规范,真实场景下,很多时候并不能实现两个token之间的完美匹配,这时基于token的匹配就失去的作用

      自己在使用ES的过程中,普通的匹配无法做到对单复数这种简单情况的处理,或许在建立索引是有一些操作,还需要继续研究

      匹配算法设计

      如何设计一个合理的匹配算法也是值得研究的问题,如何给搜索结果打分。

      例如一个文档,我们用大写字母表示词条,大写字母组成的字符串表示一个文档,对于一个关键词CDEF,匹配算法应该能够对于这几种情况给出不同的分数

      1. 匹配到不同数量的词条的得分应该是不一样的
        比如有的匹配到CDF三个,有的只匹配到CD两个,通常是匹配更多数量的分数应该更高
      2. 匹配到相同数量的词条得分应该是不一样的
        比如都是匹配到三个词条,一个是CDE,一个是DEF,如果C是一个类似频繁项的词条,F是一个对文档比较重要的词条,那么后者的的风应该更高

      匹配到相同的词条列表的得分应该是不一样的
      比如都是匹配到CDE三个词条,有的是连续出现的(ABCDEFG),有的是分开出现(ABCGDFE)或者顺序不同(ABCEDFG),他们的得分应该是不同的。

      另外从搜索的意图上看

      1. 如果搜索的关键词是一个专有名词
        一些专有名词本质上就是不可分割的(New York不能看成New和York)
        一些专有名词去掉其中一些token或改变顺序也并不影响词义(University of Pittsburgh和Pittsburgh university)。

      2. 如果搜索仅仅是几个关键词的组合,比如平时使用搜索引擎的场景,那么每个token都是独立的可以以任意顺序在文档中出现。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/tntxia/10682555,作者:虾王之王,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:Web的介绍

      下一篇:一文搞懂蓝绿发布、灰度发布和滚动发布

      相关文章

      2025-05-14 10:33:31

      【数据结构】详细介绍串的简单模式匹配——朴素模式匹配算法

      【数据结构】详细介绍串的简单模式匹配——朴素模式匹配算法

      2025-05-14 10:33:31
      下标 , 元素 , 匹配 , 子串 , 模式匹配 , 算法
      2025-05-14 10:33:16

      30天拿下Rust之模式与模式匹配

      Rust语言以其强大的类型系统和所有权模型而著称,而模式与模式匹配则是Rust中一种非常强大且灵活的工具,它允许我们在编译时根据数据的结构进行条件分支处理。

      2025-05-14 10:33:16
      match , 代码 , 匹配 , 模式 , 模式匹配 , 绑定
      2025-05-08 09:03:38

      正则表达式匹配

      给你一个字符串 s 和一个字符规律 p,请你来实现一个支持 '.' 和 '*' 的正则表达式匹配。

      2025-05-08 09:03:38
      匹配 , 字符串 , 正则表达式
      2025-05-06 09:19:39

      【30天玩转python】正则表达式

      正则表达式(Regular Expression,简称 regex 或 RE)是一种用来匹配字符串的强大工具。通过定义模式,正则表达式可以帮助我们查找、替换、或验证文本中的特定字符或字符串。在 Python 中,正则表达式通过 re 模块来实现。

      2025-05-06 09:19:39
      匹配 , 字符 , 字符串 , 正则表达式
      2025-04-22 09:24:51

      有效括号

      有效括号

      2025-04-22 09:24:51
      false , 入栈 , 匹配 , 括号 , 返回
      2025-04-18 07:10:38

      Js之前端实现模糊查询

      Js之前端实现模糊查询

      2025-04-18 07:10:38
      match , 匹配 , 字符串 , 方法 , 查询 , 正则表达式
      2025-04-01 10:28:07

      传统CV算法——基于 SIFT 特征点检测与匹配实现全景图像拼接

      传统CV算法——基于 SIFT 特征点检测与匹配实现全景图像拼接

      2025-04-01 10:28:07
      匹配 , 图像 , 拼接 , 特征 , 矩阵
      2025-03-31 08:57:06

      验证码识别之点选验证码识别——绪论

      验证码识别之点选验证码识别——绪论

      2025-03-31 08:57:06
      匹配 , 图像 , 识别 , 验证码
      2025-03-31 08:57:06

      传统CV算法——特征匹配算法

      Brute-Force蛮力匹配是一种简单直接的模式识别方法,经常用于计算机视觉和数字图像处理领域中的特征匹配。

      2025-03-31 08:57:06
      匹配 , 描述符 , 矩阵
      2025-03-24 08:53:31

      【动态规划】C++算法:44 通配符匹配

      【动态规划】C++算法:44 通配符匹配

      2025-03-24 08:53:31
      amp , const , false , int , length , return , 匹配
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5239607

      查看更多

      最新文章

      有效括号

      2025-04-22 09:24:51

      验证码识别之点选验证码识别——绪论

      2025-03-31 08:57:06

      【practise】栈的压入和弹出序列

      2025-03-10 09:52:54

      关于分支与循环的一些细节

      2025-02-13 08:27:04

      深度解析js递归函数的妙用技巧

      2024-12-20 07:45:21

      Lucene详解介绍以及底层原理说明

      2024-12-17 08:23:52

      查看更多

      热门文章

      python 倒排索引(Inverted Index)

      2023-04-18 14:16:25

      sed命令总结

      2023-06-25 07:12:33

      SEO整站优化值得注意的4个细节

      2024-06-05 09:49:00

      grep命令的使用方法及实用技巧详解

      2024-11-21 09:55:25

      搜索引擎-倒排索引基础知识

      2024-11-05 08:30:53

      grep命令详解及应用场景

      2024-12-06 06:02:59

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      关于分支与循环的一些细节

      python 倒排索引(Inverted Index)

      深度解析js递归函数的妙用技巧

      Linux通配符的使用技巧与文件操作实战

      java正则表达式语法

      django中路由匹配规则

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号