爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【实战问题】-- 缓存穿透之布隆过滤器(1)

      首页 知识中心 存储 文章详情页

      【实战问题】-- 缓存穿透之布隆过滤器(1)

      2024-04-22 06:40:24 阅读次数:47

      过滤器

      前面我们提到,在防止缓存穿透的情况(缓存穿透是指,缓存和数据库都没有的数据,被大量请求,比如订单号不可能为-1,但是用户请求了大量订单号为-1的数据,由于数据不存在,缓存就也不会存在该数据,所有的请求都会直接穿透到数据库。),我们可以考虑使用布隆过滤器,来过滤掉绝对不存于集合中的元素。

      布隆过滤器是什么呢?

      布隆过滤器(Bloom Filter)是由布隆(Burton Howard Bloom)在1970年提出的,它实际上是由一个很长的二进制向量和一系列随机hash映射函数组成(说白了,就是用二进制数组存储数据的特征)。可以使用它来判断一个元素是否存在于集合中,它的优点在于查询效率高,空间小,缺点是存在一定的误差,以及我们想要剔除元素的时候,可能会相互影响。

      也就是当一个元素被加入集合的时候,通过多个hash函数,将元素映射到位数组中的k个点,置为1。

      为什么需要布隆过滤器?

      一般情况下,我们想要判断是否存在某个元素,一开始考虑肯定是使用数组,但是使用数组的情况,查找的时候效率比较慢,要判断一个元素不存在于数组中,需要每次遍历完所有的元素。删除完一个元素后,还得把后面的其他元素往前面移动。

      【实战问题】-- 缓存穿透之布隆过滤器(1)

      其实可以考虑使用hash表,如果有hash表来存储,将是以下的结构:
      【实战问题】-- 缓存穿透之布隆过滤器(1)

      但是这种结构,虽然满足了大部分的需求,可能存在两点缺陷:

      • 只有一个hash函数,其实两个元素hash到一块,也就是产生hash冲突的可能性,还是比较高的。虽然可以用拉链法(后面跟着一个链表)的方式解决,但是操作时间复杂度可能有所升高。
      • 存储的时候,我们需要把元素引用给存储进去,要是上亿的数据,我们要将上亿的数据存储到一个hash表里面,不太建议这样操作。

      对于上面存在的缺陷,其实我们可以考虑,用多个hash函数来减少冲突(注意:冲突时不可以避免的,只能减少),用位来存储每一个hash值。这样既可以减少hash冲突,还可以减少存储空间。

      假设有三个hash函数,那么不同的元素,都会使用三个hash函数,hash到三个位置上。
      【实战问题】-- 缓存穿透之布隆过滤器(1)

      假设后面又来了一个张三,那么在hash的时候,同样会hash到以下位置,所有位都是1,我们就可以说张三已经存在在里面了。

      【实战问题】-- 缓存穿透之布隆过滤器(1)

      那么有没有可能出现误判的情况呢?这是有可能的,比如现在只有张三,李四,王五,蔡八,hash映射值如下:
      【实战问题】-- 缓存穿透之布隆过滤器(1)

      后面来了陈六,但是不凑巧的是,它hash的三个函数hash出来的位,刚刚好就是被别的元素hash之后,改成1了,判断它已经存在了,但是实际上,陈六之前是不存在的。

      【实战问题】-- 缓存穿透之布隆过滤器(1)

      上面的情况,就是误判,布隆过滤器都会不可避免的出现误判。但是它有一个好处是,布隆过滤器,判断存在的元素,可能不存在,但是判断不存在的元素,一定不存在。,因为判断不存在说明至少有一位hash出来是对不上的。

      也是由于会出现多个元素可能hash到一起,但有一个数据被踢出了集合,我们想把它映射的位,置为0,相当于删除该数据。这个时候,就会影响到其他的元素,可能会把别的元素映射的位,置为了0。这也就是为什么布隆过滤器不能删除的原因。

      具体步骤

      添加元素:

      1. 使用多个hash函数对元素item进行hash运算,得到多个hash值。
      1. 每一个hash值对bit位数组取模,得到位数组中的位置索引index。
      1. 如果index的位置不为1,那么就将该位置为1。

      判断元素是否存在:

      1. 使用多个hash函数对元素item进行hash运算,得到多个hash值。
      1. 每一个hash值对bit位数组取模,得到位数组中的位置索引index。
      1. 如果index所处的位置都为1,说明元素可能已经存在了。

      误判率推导

      庆幸的是,布隆过滤器的误判率是可以预测的,由上面的分析,也可以得知,其实是与位数组的大小,以及hash函数的个数等,这些都是息息相关的。

      假设位数组的大小是m,我们一共有k个hash函数,那么每一个hash函数,进行hash的时候,只能hash到m位中的一个位置,所以没有被hash到的概率是:
                                      1                         −                                  1                          m                                    1-\frac{1}{m}                 1−m1

      k个hash函数都hash之后,该位还是没有被hash到1的概率是:
                                      (                         1                         −                                  1                          m                                          )                          k                                    (1-\frac{1}{m})^k                 (1−m1)k

      如果我们插入了n个元素,也就是hash了n*k次,该位还是没有被hash成1的概率是:
                                      (                         1                         −                                  1                          m                                          )                                     k                               n                                              (1-\frac{1}{m})^{kn}                 (1−m1)kn

      那该位为1的概率就是:
                                      1                         −                         (                         1                         −                                  1                          m                                          )                                     k                               n                                              1-(1-\frac{1}{m})^{kn}                 1−(1−m1)kn

      如果需要检测某一个元素是不是在集合中,也就是该元素对应的k个hash元素hash出来的值,都需要设置为1。也就是该元素不存在,但是该元素对应的所有位都被hash成为1的概率是:
                                                          (                               1                               −                               (                               1                               −                                          1                                m                                                    )                                             k                                     n                                                     )                                    k                                 ≈                                             (                               1                               −                                          e                                             −                                     k                                     n                                     /                                     m                                                     )                                    k                                    {(1-(1-\frac{1}{m})^{kn})}^{k}\approx {(1-e^{-kn/m})}^k                 (1−(1−m1)kn)k≈(1−e−kn/m)k

      可以大致看出,随着位数组大小m和hash函数个数的增加,其实概率会下降,随着插入的元素n的增加,概率会有所上升。

      最后也可以通过自己期待的误判率P和期待添加的个数n,来大致计算出布隆过滤器的位数组的长度:
                                      m                         =                         −                         (                                             n                               I                               n                               P                                               (                               I                               n                               2                                          )                                2                                                     )                            m=-(\frac{nInP}{(In2)^2})                 m=−((In2)2nInP)

      上面就是误判率的大致计算方式,同时也提示我们,可以根据自己业务的数据量以及误判率,来调整我们的数组的大小。

      布隆过滤器的作用

      除了我们前面说的过滤爬虫恶意请求,还可以对一些URL进行去重,过滤海量数据里面的重复数据,过滤数据库里面不存在的id等等。

      但是,即使有布隆过滤器,我们也不可能完全避免,或者彻底解决缓存穿透这个问题。只是相当于做了优化,将准确率提高。

      很多的key-value数据库也会使用布隆过滤器来加快查询效率,因为全部挨个判断一遍,这个效率太低了。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/u_13604316/2729726,作者:秦怀杂货店,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【数据库与缓存的优缺点】

      下一篇:【实战问题】-- 缓存穿透,缓存击穿和缓存雪崩的区别以及解决方案

      相关文章

      2025-05-08 09:03:29

      javaWeb过滤器Filter(一)

      javaWeb过滤器Filter(一)

      2025-05-08 09:03:29
      Filter , javaWeb , 应用 , 范围 , 过滤器
      2025-05-08 09:03:29

      javaWeb过滤器Filter(二)

      javaWeb过滤器Filter(二)

      2025-05-08 09:03:29
      Filter , servlet , 标签 , 生命周期 , 过滤器
      2025-04-18 08:02:09

      django从入门到实战(四)——模板介绍及使用

      Django 的模板语法主要包括变量、标签、过滤器和模板继承等。

      2025-04-18 08:02:09
      使用 , 变量 , 模板 , 示例 , 自定义 , 过滤器
      2025-04-15 09:18:30

      位图与布隆过滤器:原理、差异与应用

      所谓位图,就是用每一位(比特位)来存放某种状态,适用于海量数据,数据无重复的场景。通常是用来 判断某个数据存不存在的。

      2025-04-15 09:18:30
      位图 , 元素 , 哈希 , 布隆 , 过滤器
      2025-04-09 09:16:56

      使用自定义的token认证过滤器替换security的认证功能

      使用自定义的token认证过滤器替换security的认证功能

      2025-04-09 09:16:56
      security , token , 认证 , 过滤器
      2025-03-24 08:47:15

      Vue中的过滤器了解吗?过滤器的应用场景有哪些?

      Vue中的过滤器了解吗?过滤器的应用场景有哪些?

      2025-03-24 08:47:15
      toString , 函数 , 参数 , 表达式 , 过滤器
      2025-03-06 09:20:43

      JavaEE:过滤器

      过滤器是JavaEE中对请求和响应进行拦截的技术,通过定义一个类并实现Filter接口,可以让某些请求地址在到达servlet之前进入到指定的过滤器中,从而实现统一的处理,例如编码过滤、权限验证等进行统一过滤。

      2025-03-06 09:20:43
      Filter , 接口 , 编码 , 请求 , 过滤器
      2025-03-05 09:08:19

      Java中的位图和布隆过滤器(如果想知道Java中有关位图和布隆过滤器的知识点,那么只看这一篇就足够了!)

      Java中的位图和布隆过滤器(如果想知道Java中有关位图和布隆过滤器的知识点,那么只看这一篇就足够了!)

      2025-03-05 09:08:19
      位图 , 哈希 , 布隆 , 数据 , 过滤器
      2025-02-11 09:39:39

      数据结构之位图与布隆过滤器

      所谓位图,就是用每一位来存放某种状态,适用于海量数据,整数,数据无重复的场景。通常是用来判断某个数据存不存在的。

      2025-02-11 09:39:39
      位图 , 元素 , 哈希 , 布隆 , 过滤器
      2025-02-10 08:56:02

      【redis】redis缓存穿透及解决方案|缓存穿透,缓存击穿,雪崩的理解

      缓存穿透是指查询一个一定不存在的数据,由于缓存不命中,接着查询数据库也无法查询出结果,因此也不会写入到缓存中,这将会导致每个查询都会去请求数据库,造成缓存穿透;

      2025-02-10 08:56:02
      key , redis , 布隆 , 数据库 , 查询 , 缓存 , 过滤器
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5252106

      查看更多

      最新文章

      【redis】redis缓存穿透及解决方案|缓存穿透,缓存击穿,雪崩的理解

      2025-02-10 08:56:02

      查看更多

      热门文章

      【redis】redis缓存穿透及解决方案|缓存穿透,缓存击穿,雪崩的理解

      2025-02-10 08:56:02

      查看更多

      热门标签

      存储 缓存 内存 数据库 数据 redis mysql 服务器 数据恢复 Redis linux java 链表 sql MySQL
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      【redis】redis缓存穿透及解决方案|缓存穿透,缓存击穿,雪崩的理解

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号