Java Spring Cloud 負載均衡詳解

Posted on by

1. Ribbon 客戶端負載均衡

1.1 Ribbon 概述

  • Ribbon 是 Netflix 提供的一個基於 HTTP 和 TCP 的客戶端負載均衡工具。
  • Ribbon主要有兩個功能：
    • 簡化遠程調用
    • 負載均衡

客戶端負載均衡和服務端負載均衡的區別

服務端負載均衡

  • 負載均衡算法在服務端
  • 由負載均衡器維護服務地址列表

在這裡插入圖片描述

客戶端負載均衡

  • 負載均衡算法在客戶端
  • 客戶端維護服務地址列表

在這裡插入圖片描述

1.2 Ribbon 遠程調用

Ribbon 可以簡化 RestTemplate 的遠程調用。

原來的 Provider 中的遠程調用如下：

@GetMapping("/goods/{id}")
public Goods findGoodsById(@PathVariable("id") int id){
    //演示discoveryClient 使用
    List<ServiceInstance> instances = discoveryClient.getInstances("eureka-provider");
    //判斷集合是否有數據
    if(instances == null || instances.size() == 0){
        //集合沒有數據
        return null;
    }
    ServiceInstance instance = instances.get(0);
    String host = instance.getHost();//獲取ip
    int port = instance.getPort();//獲取端口
    System.out.println(host);
    System.out.println(port);
    String url = "http://"+host+":"+port+"/goods/findOne/"+id;
    // 3. 調用方法
    Goods goods = restTemplate.getForObject(url, Goods.class);
    return goods;
}

使用 Ribbon 簡化 restTemplate 調用：

1.在聲明 restTemplate 的 Bean 時候，添加一個註解：@LoadBalanced

@Configuration
public class RestTemplateConfig {
    @LoadBalanced
    @Bean
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

2.在使用 restTemplate 發起請求時，需要定義 url 時，host:port 可以替換為服務提供方的應用名稱

@GetMapping("/goods2/{id}")
public Goods findGoodsById2(@PathVariable("id") int id){
    String url = "http://EUREKA-PROVIDER/goods/findOne/"+id;
    // 3. 調用方法
    Goods goods = restTemplate.getForObject(url, Goods.class);
    return goods;
}

1.3 Ribbon 負載均衡

1.既然要負載均衡，那麼我們就需要啟動多個 Provider 服務來構成集群，在啟動前先對 Provider 改造一下，讓它將端口號設置到商品標題上

package com.zt.provider.controller;

/**
 * Goods Controller 服務提供方
 */
@RestController
@RequestMapping("/goods")
public class GoodsController {
    @Value("${server.port}")
    private int port;
    @Autowired
    private GoodsService goodsService;
    @GetMapping("/findOne/{id}")
    public Goods findOne(@PathVariable("id") int id){
        Goods goods = goodsService.findOne(id);
        goods.setTitle(goods.getTitle() + ":" + port);//將端口號，設置到商品標題上
        return goods;
    }
}

2.接下來以多例啟動 Provider，選擇 edit configurations –> 勾選 allow parallel run

在這裡插入圖片描述

在這裡插入圖片描述

3.然後分別以 8001 和 8002 端口號分別啟動 Provider

在這裡插入圖片描述

4.啟動 Consumer 進行測試

http://localhost:9000/order/goods2/1

采用輪詢的方式，調用兩個 8001 和 8002 兩個 Provider

{"id":1,"title":"華為手機:8001","price":3999.0,"count":10000}

{"id":1,"title":"華為手機:8002","price":3999.0,"count":10000}

1.4 Ribbon 負載均衡策略

策略類 命名 描述
RandomRule 隨機策略 隨機選擇server
RoundRobinRule 輪詢策略 輪詢選擇， 輪詢index，選擇index對應位置的Server；
RetryRule 重試策略 對選定的負載均衡策略機上重試機制，在一個配置時間段內當選擇Server不成功，則一直嘗試使用subRule的方式選擇一個可用的server；
BestAvailableRule 最低並發策略 逐個考察server，如果server斷路器打開，則忽略，再選擇其中並發鏈接最低的server
AvailabilityFilteringRule 可用過濾策略 過濾掉一直失敗並被標記為circuit tripped的server，過濾掉那些高並發鏈接的server（active connections超過配置的閾值）或者使用一個AvailabilityPredicate來包含過濾server的邏輯，其實就就是檢查status裡記錄的各個Server的運行狀態；
ResponseTimeWeightedRule 響應時間加權重策略 根據server的響應時間分配權重，響應時間越長，權重越低，被選擇到的概率也就越低。響應時間越短，權重越高，被選中的概率越高，這個策略很貼切，綜合瞭各種因素，比如：網絡，磁盤，io等，都直接影響響應時間
ZoneAvoidanceRule 區域權重策略 綜合判斷server所在區域的性能，和server的可用性，輪詢選擇server並且判斷一個AWS Zone的運行性能是否可用，剔除不可用的Zone中的所有server

設置負載均衡策略

1.編碼方式

在 Consumer 服務編寫配置類，采用隨即策略

package com.zt.consumer.config;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MyRule {
    @Bean
    public IRule rule() {
       return new RandomRule();
    }
}

在啟動類上設置給指定服務開啟負載均衡策略，比如給 EUREKA-PROVIDER 開啟策略 MyRule

package com.zt.consumer;
@SpringBootApplication
@EnableEurekaClient
@EnableDiscoveryClient
/*
    配置Ribbon的負載均衡策略 name
    * name：設置 服務提供方的 應用名稱
    * configuration:設置負載均衡Bean
 */
@RibbonClient(name="EUREKA-PROVIDER",configuration = MyRule.class)
public class ConsumerApp {
    public static void main(String[] args) {
        SpringApplication.run(ConsumerApp.class, args);
    }
}

2.配置方式

# 配置的方式設置Ribbon的負載均衡策略
EUREKA-PROVIDER: # 設置的服務提供方的 應用名稱
  ribbon:
    NFloadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 策略類

總結

本篇文章就到這裡瞭，希望能夠給你帶來幫助，也希望您能夠多多關註WalkonNet的更多內容！

推薦閱讀：