>>与软件开发有关的知识:操作系统,数据库,网络通信等 书籍支持  视频课程  卫琴专栏  在线测试  资源下载  联系我们
发表一个新主题 开启一个新投票 回复文章 您是本文章第 14421 个阅读者 刷新本主题
 * 贴子主题:  深入浅出一致性Hash原理 回复文章 点赞(0)  收藏  
作者:flybird    发表时间:2020-01-11 08:07:23     消息  查看  搜索  好友  邮件  复制  引用

  [白话解析] 深入浅出一致性Hash原理

  0x00 摘要

   一致性哈希算法是分布式系统中常用的算法。但相信很多朋友都是知其然而不知其所以然。本文将尽量使用易懂的方式介绍一致性哈希原理,并且通过具体应用场景来帮助大家深入这个概念。  

  0x01. 概念&原理

   Hash,一般翻译做散列、杂凑,或音译为哈希,是把任意长度的输入(又叫做预映射pre-image)通过散列算法变换成固定长度的输出,该输出就是散列值。

  一致性哈希算法在1997年由麻省理工学院的Karger等人在解决分布式Cache中提出的,主要是为了解决因特网中的热点(Hot spot)问题。目前这一思想已经扩展到其它的领域,并且在实践中得到了很大的发展。  

  1. 与经典哈希方法的对比

  •   经典哈希方法:总是假设内存   位置的数量是已知且固定不变 的。因为hash映射依赖节点/内存位置,所以如果需要变化集群,需要重新计算每一个key的哈希值。   哈希表(服务器数量)大小的变更实际上干扰了   所有映射 。  

  •   一致性哈希:某种虚拟环结构。   位置数量不再固定,环有无限数量的点 ,服务器节点可以放置在环上的随机位置。哈希表(服务器数量)大小改变会导致    只有   一部分请求 (相对于环分配因子)会受到特定的环变更的影响  

  2. 通俗理解一致性哈希的关键点:

   从   拗口的技术术语 来解释,一致性哈希的技术关键点是:按照常用的hash算法来将对应的key哈希到一个具有2^32次方个桶的空间中,即0 ~(2^32)-1的数字空间。我们可以将这些数字头尾相连,想象成一个闭合的环形。

  用   通俗白话 来理解,这个关键点就是:在部署服务器的时候,服务器的序号空间已经配置成了一个   固定的非常大 的数字 1~2^32。服务器可以分配为 1~2^32 中任一序号。这样   服务器集群可以固定大多数算法规则 (因为序号空间是算法的重要参数),这样面对扩容等变化只是对部分算法规则做调整 。具体会参见后面实例详细说明。  

  3. 一致性哈希如何处理请求

   如何决定哪个请求将由哪个服务器节点来处理?

  从理论上来说,每个服务器节点“拥有”哈希环的一个区间,进入该区间的任何请求将由同一服务器节点来处理。

  我们假设环是有序的,以便环的顺时针遍历与位置地址的递增顺序对应,那么每个请求可以由最先出现在该顺时针遍历中的那个服务器节点来处理。也就是说,地址高于请求地址的第一个服务器节点负责处理该请求。如果请求地址高于最高寻址节点,它由最小地址的服务器节点来处理,因为环遍历以圆形方式进行。  

  4. 异常处理/变化应对

   如果其中一个服务器节点出现故障,下一个服务器节点的区间就变宽,进入该区间的任何请求都将进入到新的服务器节点。这时候应该如何处理这些异常的请求?

  一致性Hash的优势就在这里体现:   需要重新分配的是仅仅这一个区间 (与出现故障的服务器节点对应),哈希环的其余部分和请求/节点分配仍然不受影响。  

  0x02. 具体应用场景(通过名著水浒传为例来阐释)

   大家都知道,梁山泊山下有四个酒店。分别是: 东山酒店 / 西山酒店 / 南山酒店 / 北山酒店

  那么这四个酒店如何分配客人入住呢? 这里就能用到Hash算法,也能看到一致性哈希的好处。  

  1. 经典算法:

   梁山4个酒店,按照顺序其序号是1,2,3,4。

  哈希函数:   客人姓名笔画 / 4得到一个余数 ,客人按照余数分配到这4个酒店中

  如果减少一个酒店,   哈希函数就变成: 客人按照姓名笔画 / 3 ,然后客人按照这个新余数来分配酒店。所有客人都得重新分配酒店

  如果增加一个酒店,   哈希函数就变成: 客人按照姓名笔画 / 5 ,然后客人按照这个新余数来分配酒店。所有客人都得重新分配酒店

    可以看到,如果有容量变化,则哈希函数和分配规则都要改变,这样就对整体机制造成了伤害。  

  2. 一致性算法:

   预先就把服务器的序号空间(现在~未来)想好了,定为100个桶。就是在未来可见的年份内,100个肯定够了(l梁山无论怎么扩大生产规模,哪怕扩招了10000个头领,山下也没有开设100个酒店的可能)。  

  哈希函数(这个固定不变):

     客人姓名笔画/100.   这个是固定不变的!  因为100这个序号空间固定了,所以哈希函数和分配规则都基本固定了。  

  酒店/客人分配规则如下(这个会根据容量变化做相应微调):



  •   酒店1负责 hash(x)--> 1~20,即客人姓名笔画/100位于1~20之间。  

  •   酒店2负责 hash(x)--> 21~40,即客人姓名笔画/100位于21~40之间。  

  •   酒店3负责 hash(x)--> 41~60,即客人姓名笔画/100位于41~60之间。  

  •   酒店4负责 hash(x)--> 61~100,即客人姓名笔画/100位于61~100之间。  

  客人住店规则如下(这个固定不变):


  •   客人来了,姓氏笔画/100,得到余数。去余数对应的酒店住。比如余数3住到酒店1,余数22则住到酒店2......  

  •   如果该酒店出问题关门了,就去比所有 "比余数大的酒店" 中最小那个住。以此类推。比如酒店1挂了,就去酒店2,酒店2挂了去3。  

  •   如果最大酒店也出问题关门了,就转圈回到最小酒店住。即如果酒店4挂了去酒店1.  

  异常处理(扩容或者宕机):



  •   减少酒店。如果酒店3挂了,则原来去酒店3的客人去酒店4,原来去酒店4的客人还是酒店4. 这样只有酒店4受到影响,1,2号酒店客人不用搬家。  

  •   增加酒店。如果增加了一个酒店5.则需要对    酒店/客人分配规则  做改变。让4号酒店负责61~80,5号酒店负责81~100。这样4号点原有部分客人要迁移到5号。  

  关键点:

   可以看出来,   关键在于服务器的序号空间早就确定了是一个以后也不会修改的大数字100 。当然这是梁山。对于其他真实案例可能是2^32。   这样hash函数 (因为序号空间是算法一个重要参数) 可以保持不变,只有"分配规则" 需要根据实际系统容量做相应微调。从而对整体系统影响较小。

  当然具体分配酒店的规则算法,是可以融入到hash中。即酒店号码可能就是21,41,61....  

  0x03. 参考

   https://blog.csdn.net/gerryke/article/details/53939212

  https://blog.csdn.net/cb_lcl/article/details/81448570

  https://www.iteblog.com/archives/2499.html

  http://www.zsythink.net/archives/1182/

  https://www.sohu.com/a/239283928_463994

    
----------------------------
原文链接:https://www.cnblogs.com/rossiXYZ/p/12147226.html


程序猿的技术大观园:www.javathinker.net

[这个贴子最后由 flybird 在 2020-01-11 18:35:04 重新编辑]
  Java面向对象编程-->操作符
  JavaWeb开发-->自定义JSP标签(Ⅰ)
  JSP与Hibernate开发-->映射组成关系
  Java网络编程-->对象的序列化与反序列化
  精通Spring-->Web应用的国际化
  Vue3开发-->创建综合购物网站应用
  秒懂 QPS、TPS、PV、UV、GMV、IP、RPS!
  数据库索引创建与优化
  神奇的 SQL 之 WHERE 条件的提取与应用
  Mysql数据库的使用总结之ERROR 1146 (42S02)
  Ubuntu环境下挂载新硬盘
  8种最坑的SQL错误用法,第一个就很坑?
  MySQL 导入数据
  从MySQL数据库中导出数据
  MySQL的UPDATE更新语句的用法
  SQL PRIMARY KEY 约束
  SQL的创建表(CREATE TABLE) 语句的用法
  SQL FULL OUTER JOIN 关键字
  MySQL的数据处理函数
  一次给朋友转账引发我对分布式事务的思考
  开发好几年,你真的懂MQ嘛(RabbitMQ为例)?看完别说难搞哦
  更多...
 IPIP: 已设置保密
楼主      
1页 0条记录 当前第1
发表一个新主题 开启一个新投票 回复文章


中文版权所有: JavaThinker技术网站 Copyright 2016-2026 沪ICP备16029593号-2
荟萃Java程序员智慧的结晶,分享交流Java前沿技术。  联系我们
如有技术文章涉及侵权,请与本站管理员联系。