searchusermenu
  • 发布文章
  • 消息中心
下午好!欢迎来到天翼云开发者社区
我的积分-
积分兑换
精选文章
查看全部
  • HOTHBase MOB功能设计
    本篇文档从功能的需求入手,整理了MOB功能出现之前我们如何利用HBase和HDFS的能力来存储中型文件的思路,再从MOB功能的整体设计入手,分析了读、写、压缩、清理等各个过程执行中可能遇到的问题和应对方式。下一篇我们将从源码入手,对HBase MOB的功能实现进行详细的解读。
  • HOT无主架构与元数据管理——一致性hash与crush算法解读
    本文介绍了一致性哈希算法和CRUSH算法,这两种算法都是用于解决分布式系统中的数据存储和管理问题。该算法通过将服务器和数据映射到一个虚拟的圆环上,确保数据被均匀地分布到各个服务器上,同时在服务器增减时,只影响相邻的数据,从而保证了系统的高容错性和可扩展性。为了避免数据倾斜问题,一致性哈希算法还引入了虚拟节点机制,通过计算多个哈希值来分布数据,使得即使在服务节点较少的情况下也能达到均匀的数据分布。 CRUSH算法是Ceph分布式存储系统中用于数据定位的一种算法,它通过伪随机的路由选择来确定数据应该存储在哪些物理节点上。CRUSH算法考虑了存储节点的物理分布,通过精心设计的哈希函数和规则来选择存储节点,从而实现了数据的高效率和可靠性。CRUSH算法的特点包括计算独立性、稳定性和可预测性,但它也存在一些局限性,比如处理权重失衡的困难、数据迁移问题以及可能导致的使用率不均衡。为了解决这些问题,Ceph从Luminous版本起提供了upmap机制,允许手动指定PG的分布位置,以达到更优的数据均衡效果。
    • SIMD(Single Instruction Multiple Data) 技术概述
      这篇文章主要讨论了SIMD(单指令多数据)技术,它是一种CPU硬件级别的数据并行,在处理大规模数据并行性可以提高计算效率,如数据库算子;讨论了SIMD编程的实现方法和实际应用,以及需要注意的问题。
    • 存储协议族一:总览
      关于存储相关的协议十分繁杂,对于刚入门存储相关的IT从业者,对于一些名称,如SCSI、NVMe、iSCSI、NFS、CIFS、SMB、RoCE、IB、FC,有些区分不清。早在2016年,EMC的技术大佬Erik Smith就梳理过一张流传很广的协议栈总图,时至今日依然很有参考学习意义。本系列将从这张《Storage Protocols》出发,逐个深入介绍各存储协议栈的情况。
    • Angular Component class ɵfac 的属性介绍
      本文介绍Angular Component class ɵfac 的属性介绍
    • sikuli在测试中的应用
      最近负责的软件,新增了一个准入校验的功能,它会检测用户当前的环境是否存在有问题来确定是否能够允许用户进行连接, 但是因为服务本身的不稳定,导致经常概率性的出现上一次已经校验通过了,结果再次连接的时候,又提示失败的情况。
    • 验证Spark进行机器学习与图计算
      这个示例的目的是使用Spark的MLlib库进行逻辑回归模型的训练和预测。我们将基于ElasticNet正则化的逻辑回归模型来处理输入数据,并输出模型的系数和截距。ElasticNet是L1(Lasso)和L2(Ridge)正则化的组合,有助于防止模型过拟合。
    • 快速上手:TeleDB-FlinkCDC-Doris数据同步
      本篇文章为您介绍使用Flink CDC 3.0快速上手构建一条TeleDB-FlinkCDC-Doris数据同步链路
    • tcpdump工具使用
      Tcpdump是一款用于截取网络分组,并过滤输出分组内容的工具,它支持针对网络层、协议、主机、网络或端口的过滤,并提供 and、or、not等逻辑语句来帮助我们去掉无用的信息。
    • Vitest组件测试详细流程
      本文旨在详细阐述Vue3从0-1接入Vitest单测框架的具体流程,各个依赖包的项目依赖关系的定位,以及单个组件的测试流程。
最新视频
查看全部
云学堂
查看全部
最新问答
查看全部
  • Linux 操作系统云服务器安装 docker 支持的操作系统 版本
    Linux 操作系统云服务器安装 docker 支持的操作系统 版本
  • 常见web漏洞整改建议?
    1. HTML表单没有CSRF保护 1.1 问题描述: CSRF(Cross-site request forgery),中文名称:跨站请求伪造,也被称为:one click attack/session riding,缩写为:CSRF/XSRF。 CSRF攻击:攻击者盗用了你的身份,以你的名义发送恶意请求。CSRF能够做的事情包括:以你名义发送邮件,发消息,盗取你的账号,甚至于购买商品,虚拟货币转账……造成的问题包括:个人隐私泄露以及财产安全。 1.2 整改建议: CSRF的防御可以从服务端和客户端两方面着手,防御效果是从服务端着手效果比较好,现在一般的CSRF防御也都在服务端进行。有以下三种方法: (1).Cookie Hashing(所有表单都包含同一个伪随机值): (2).验证码 (3).One-Time Tokens(不同的表单包含一个不同的伪随机值) 1.3 案例: 1.服务端进行CSRF防御 服务端的CSRF方式方法很多样,但总的思想都是一致的,就是在客户端页面增加伪随机数。 1.3.1 Cookie Hashing(所有表单都包含同一个伪随机值): 这可能是最简单的解决方案了,因为攻击者不能获得第三方的Cookie(理论上),所以表单中的数据也就构造失败.   在表单里增加Hash值,以认证这确实是用户发送的请求。 <input type=”hidden” name=”hash” value=””>   然后在服务器端进行Hash值验证   这个方法已经可以杜绝99%的CSRF攻击了,那还有1%….由于用户的Cookie很容易由于网站的XSS漏洞而被盗取,这就另外的1%。一般的攻击者看到有需要算Hash值,基本都会放弃了,某些除外,所以如果需要100%的杜绝,这个不是最好的方法。
  • 什么是markdown编辑器?
    最近出现一个新的编辑器,什么是markdown编辑器?
  • CentOS 7 中/etc/rc.local 开机启动脚本不生效怎么办?
    CentOS 7 中/etc/rc.local 开机启动脚本不生效怎么办?
最近活跃
查看全部
  • 王****际
    16 提问15 回答
  • v****n
    1 提问3 回答
  • 韦****
    2 提问0 回答
  • 4
    刘****渺
    1 提问1 回答
  • 5
    林****亮
    0 提问1 回答
  • 6
    黄****纯
    0 提问0 回答
团队主页
查看全部
  • ADF(Auto-DataFlow)研发团队
    ADF(Auto-DataFlow)研发团队致力于研发行业领先的端对端分布式数据流技术(目前主要是Nifi),为数据集成、数据同步、数据采集、数据处理与分发提供统一的底层能力和产品解决方案。
  • 开源创新
    关注、分享业界前沿开源技术。
  • 社区运营团队
    开发者社区运营
  • 数据管理服务(DMS)团队
    让数据库的使用更高效、更安全、更规范!