详解Nginx轮询算法底层实现的方法
轮询算法简介
在工作中很多人都使用到了nginx,对nginx得配置也是烂熟于心,今天我主要想介绍一下nginx轮询算法得几种底层实现方式。
简单轮询算法
这种算法比较简单,举个例子就是你有三台服务器
第一台服务器 | 192.168.1.1 |
第二台服务器 | 192.168.1.2 |
第三台服务器 | 192.168.1.3 |
第一个请求过来之后默认访问第一台,第二个请求过来访问第二台,第三次请求过来访问第三台,第四次请求过来访问第一台,以此类推。以下是我代码实现简单得算法:
publicclassSimplePolling{ /** *key是ip */ publicstaticListipService=newLinkedList<>(); static{ ipService.add("192.168.1.1"); ipService.add("192.168.1.2"); ipService.add("192.168.1.3"); } publicstaticintpos=0; publicstaticStringgetIp(){ if(pos>=ipService.size()){ //防止索引越界 pos=0; } Stringip=ipService.get(pos); pos++; returnip; } publicstaticvoidmain(String[]args){ for(inti=0;i<4;i++){ System.out.println(getIp()); } } }
模拟执行4次执行结果是
加权轮询算法
此时我需要把我前面3台服务器都设置权重,比如第一台设置5,第二台设置1,第三台设置1
第一台服务器 | 192.168.1.1 | 5 |
第二台服务器 | 192.168.1.2 | 1 |
第三台服务器 | 192.168.1.3 | 1 |
此时前5个请求都会访问到第一台服务器,第六个请求会访问到第二台服务器,第七个请求会访问到第三台服务器。
以下是我给出的代码案例:
publicclassWeightPolling{ /** *key是ip,value是权重 */ publicstaticMapipService=newLinkedHashMap<>(); static{ ipService.put("192.168.1.1",5); ipService.put("192.168.1.2",1); ipService.put("192.168.1.3",1); } publicstaticintrequestId=0; publicstaticintgetAndIncrement(){ returnrequestId++; } publicstaticStringgetIp(){ //获取总的权重 inttotalWeight=0; for(Integervalue:ipService.values()){ totalWeight+=value; } //获取当前轮询的值 intandIncrement=getAndIncrement(); intpos=andIncrement%totalWeight; for(Stringip:ipService.keySet()){ if(pos 此时运行结果是
可以看的第一台服务器执行了5次,后面2台依次执行一次,依次类推。可能你觉得这种算法还不错。其实这种算法有一个缺点是,如果我第一台服务器设置权重过大可能我需要很多次请求都执行到第一台服务器上去,这样的情况分布是不均匀的,会造成某一台服务器压力过大导致崩溃。所以我后面要引入第三种算法来解决这个问题 平滑加权轮询算法
这种算法可能比较复杂,我第一次看也有点不太明白,后面看过相关资料在结合我自己的理解给大家图文解释一下,这里我举例的服务器配置和权重还是和上面一样
请求 当前权重=自身权重+选中后当前权重 总权重 当前最大权重 返回的ip 选中后当前权重=当前最大权重-总权重 1 {5,1,1} 7 5 192.168.1.1 {-2,1,1} 2 {3,2,2} 7 3 192.168.1.1 {-4,2,2} 3 {1,3,3} 7 3 192.168.1.2 {1,-4,3} 4 {6,-3,4} 7 6 192.168.1.1 {-1,-3,4} 5 {4,-2,5} 7 5 192.168.1.3 {4,-2,-2} 6 {9,-1,-1} 7 9 192.168.1.1 {2,-1,-1} 7 {7,0,0} 7 7 192.168.1.1 {0,0,0} 由上图可以看出第一台服务器虽然权重设置的是5,但并不是第五次请求过来都是第一台服务器执行,而是分散执行,调度序列是非常均匀的,且第7次调度时选中后当前权重又回到{0,0,0},实例的状态同初始状态一致,所以后续可以一直重复调度操作。
可能有的人还不能清楚的明白上一张图表示的含义,我这里大概描述一下:
1.首先总权重不会变,默认就是当前设置的权重之和
2.在第一次请求进来的时候我默认初始化当前权重选中值是{0,0,0},所以当前权重的值就是{5+0,1+0,1+0},这里的5,1,1就是我们前面每台服务器设置的权重。
3.这里我们可以得出第一次请求过来的最大权重是5。然后返回第一台服务器ip
4.然后我们设置选中后当前权重,这里就是当前最大权重减去总权重(5-7),没有选中的权重不变,这时候得到当前权重选中权重的值{5-7,1,1}
5.在第二次请求过来的时候我们延续上面的2,3,4步骤执行.
如果这里还有不懂得我下面会提供我自己用java代码实现的算法:
publicclassPolling{ /** *key是ip,value是权重 */ publicstaticMapipService=newLinkedHashMap<>(); static{ ipService.put("192.168.1.1",5); ipService.put("192.168.1.2",1); ipService.put("192.168.1.3",1); } privatestaticMap weightMap=newLinkedHashMap<>(); publicstaticStringgetIp(){ //计算总的权重 inttotalWeight=0; for(Integervalue:ipService.values()){ totalWeight+=value; } //首先判断weightMap是否为空 if(weightMap.isEmpty()){ ipService.forEach((ip,weight)->{ Weightweights=newWeight(ip,weight,0); weightMap.put(ip,weights); }); } //给map中得对象设置当前权重 weightMap.forEach((ip,weight)->{ weight.setCurrentWeight(weight.getWeight()+weight.getCurrentWeight()); }); //判断最大权重是否大于当前权重,如果为空或者小于当前权重,则把当前权重赋值给最大权重 WeightmaxWeight=null; for(Weightweight:weightMap.values()){ if(maxWeight==null||weight.getCurrentWeight()>maxWeight.getCurrentWeight()){ maxWeight=weight; } } //最后把当前最大权重减去总的权重 maxWeight.setCurrentWeight(maxWeight.getCurrentWeight()-totalWeight); //返回 returnmaxWeight.getIp(); } publicstaticvoidmain(String[]args){ //模拟轮询7次取ip for(inti=0;i<7;i++){ System.out.println(getIp()); } } } classWeight{ /** *ip */ privateStringip; /** *设置得权重 */ privateintweight; /** *当前权重 */ privateintcurrentWeight; publicWeight(Stringip,intweight,intcurrentWeight){ this.ip=ip; this.weight=weight; this.currentWeight=currentWeight; } publicStringgetIp(){ returnip; } publicvoidsetIp(Stringip){ this.ip=ip; } publicintgetWeight(){ returnweight; } publicvoidsetWeight(intweight){ this.weight=weight; } publicintgetCurrentWeight(){ returncurrentWeight; } publicvoidsetCurrentWeight(intcurrentWeight){ this.currentWeight=currentWeight; } } 这里代码得执行结果是:
可以看出此处执行结果和表格里描述得结果一致。 总结
可能第三种算法理解起来有点复杂,如果看不懂图表得意思可以先执行下代码,debugger一步步调试后还是很好理解。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持毛票票。
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。