一个线上问题的思考：Eureka注册中心集群如何实现客户端请求负载及故障转移？

扫描下方二维码了解详情，试听课程

本文来源：一枝花算不算浪漫

《互联网 Java 工程师面试突击（第3季）》免费升级，由原来的70讲增至160讲，内容扩充一倍多，升级部分内容请参见文末

前言

背景

连接拒绝.jpg

连接重试.jpg

注册中心集群负载测试

eureka.client.serviceUrl.defaultZone=http://peer1:8080/eureka/,http://peer2:8080/eureka/,http://peer3:8080/eureka/

注册中心集群负载测试

EurekaClient端配置.png

8761在前.png

8762在前.png

注册中心故障转移测试

8761故障.png

8762故障转移.png

思考

客户端请求负载原理

原理图解

负载原理.png

代码实现

代码实现.png

负载均衡代码实现.png

思考

/**
 * 模拟注册中心集群负载，验证负载散列算法
 *
 *  @author 一枝花算不算浪漫
 *  @date 2020/6/21 23:36
 */
public class EurekaClusterLoadBalanceTest {

    public static void main(String[] args) {
        testEurekaClusterBalance();
    }

    /**
     * 模拟ip段测试注册中心负载集群
     */
    private static void testEurekaClusterBalance() {
        int ipLoopSize = 65000;
        String ipFormat = "192.168.%s.%s";
        TreeMap<String, Integer> ipMap = Maps.newTreeMap();
        int netIndex = 0;
        int lastIndex = 0;
        for (int i = 0; i < ipLoopSize; i++) {
            if (lastIndex == 256) {
                netIndex += 1;
                lastIndex = 0;
            }

            String ip = String.format(ipFormat, netIndex, lastIndex);
            randomize(ip, ipMap);
            System.out.println("IP: " + ip);
            lastIndex += 1;
        }

        printIpResult(ipMap, ipLoopSize);
    }

    /**
     * 模拟指定ip地址获取对应注册中心负载
     */
    private static void randomize(String eurekaClientIp, TreeMap<String, Integer> ipMap) {
        List<String> eurekaServerUrlList = Lists.newArrayList();
        eurekaServerUrlList.add("http://peer1:8080/eureka/");
        eurekaServerUrlList.add("http://peer2:8080/eureka/");
        eurekaServerUrlList.add("http://peer3:8080/eureka/");

        List<String> randomList = new ArrayList<>(eurekaServerUrlList);
        Random random = new Random(eurekaClientIp.hashCode());
        int last = randomList.size() - 1;
        for (int i = 0; i < last; i++) {
            int pos = random.nextInt(randomList.size() - i);
            if (pos != i) {
                Collections.swap(randomList, i, pos);
            }
        }

        for (String eurekaHost : randomList) {
            int ipCount = ipMap.get(eurekaHost) == null ? 0 : ipMap.get(eurekaHost);
            ipMap.put(eurekaHost, ipCount + 1);
            break;
        }
    }

    private static void printIpResult(TreeMap<String, Integer> ipMap, int totalCount) {
        for (Map.Entry<String, Integer> entry : ipMap.entrySet()) {
            Integer count = entry.getValue();
            BigDecimal rate = new BigDecimal(count).divide(new BigDecimal(totalCount), 2, BigDecimal.ROUND_HALF_UP);
            System.out.println(entry.getKey() + ":" + count + ":" + rate.multiply(new BigDecimal(100)).setScale(0, BigDecimal.ROUND_HALF_UP) + "%");
        }
    }
}

负载测试结果如下：

故障转移原理

原理图解

故障转移原理.png

代码实现

1. 第101行，获取client
   上次成功server
   端的host
   ，如果有值则直接使用这个host
   
2. 第105行，getHostCandidates()
   是获取client
   端配置的serverList
   数据，且通过ip
   进行重排序的列表
3. 第114行，candidateHosts.get(endpointIdx++)
   ，初始endpointIdx=0
   ，获取列表中第1个元素作为host
   请求
4. 第120行，获取返回的response
   结果，如果返回的状态码是200
   ，则将此次请求的host
   设置到全局的delegate
   变量中
5. 第133行，执行到这里说明第120行执行的response
   返回的状态码不是200
   ，也就是执行失败，将全局变量delegate
   中的数据清空
6. 再次循环第一步，此时endpointIdx=1
   ，获取列表中的第二个元素作为host
   请求
7. 依次执行，第100行的循环条件numberOfRetries=3
   ，最多重试2次就会跳出循环

总结

END

《Java工程师面试突击第三季》加餐部分大纲：（注：1-66讲的大纲请扫描文末二维码，在课程详情页获取）

详细的课程内容和试听，大家可以扫描下方二维码了解：