LoadBalancerClient

在Spring Cloud Commons中提供了大量的与服务治理相关的抽象接口，包括DiscoveryClient、LoadBalancerClient等。从LoadBalancerClient接口的命名中，可以看出这是一个负载均衡客户端的抽象定义

LoadBalancerClient为springcloud提供的负载均衡器客户端。

如果针对某些业务需要精确到某个服务提供者或者遍历所有的服务提供者，那么可以通过LoadBalancerClient去获得。

ServiceInstance choose(String serviceId)：根据传入的服务名serviceId，从负载均衡器中挑选一个对应服务的实例。

T execute(String serviceId, LoadBalancerRequest request) throws IOException：使用从负载均衡器中挑选出的服务实例来执行请求内容。

URI reconstructURI(ServiceInstance instance, URI original)：为系统构建一个合适的“host:port”形式的URI。在分布式系统中，我们使用逻辑上的服务名称作为host来构建URI（替代服务实例的“host:port”形式）进行请求，比如：http://myservice/path/to/service。在该 *** 作的定义中，前者ServiceInstance对象是带有host和port的具体服务实例，而后者URI对象则是使用逻辑服务名定义为host的URI，而返回的URI内容则是通过ServiceInstance的服务实例详情拼接出的具体“host:post”形式的请求地址。

springcloud提供的组件 Ribbon ，内部就是集成了LoadBalancerClient负载均衡，通过@LoadBalance注解开启负载均衡器

Ribbon 里面封装了 获取全部服务的接口(getallserverlists的方法), 其中通过filter过滤一部分服务,然后, Ribbon 的IRule对象, 选择一个有效的服务返回给调用方,(其中IRul默认是通过轮训的方式,返回一个服务).

Ribbon的负载均衡主要是通过LoadBalancerClient来实现的，

而LoadBalancerClient具体交给了ILoadBalancer来处理，

ILoadBalancer通过配置IRule、IPing等，向EurekaClient获取注册列表信息，默认每10秒向EurekaClient发送一次“ping”，进而检查是否需要更新服务的注册列表信息。最后，在得到服务注册列表信息后，ILoadBalancer根据IRule的策略进行负载均衡。

而RestTemplate加上@LoadBalanced注解后，在远程调度时能够负载均衡，主要维护了一个被@LoadBalanced注解的RestTemplate列表，并给该列表中的RestTemplate对象添加了拦截器。在拦截器的方法中，将远程调度方法交给了Ribbon的负载均衡器LoadBalancerClient去处理，从而达到了负载均衡的目的。

LoadBalancerAutoConfiguration为实现客户端负载均衡器的自动化配置类

LoadBalancerAutoConfiguration负载均衡自动配置 里面用于传入 负载均衡拦截器 LoadBalancerInterceptor

一、服务注册与发现

这里会用到Spring Cloud Netflix，该项目是Spring Cloud的子项目之一，主要内容是对Netflix公司一系列开源产品的包装，它为Spring Boot应用提供了自配置的Netflix OSS整合。通过一些简单的注解，开发者就可以快速的在应用中配置一下常用模块并构建庞大的分布式系统。它主要提供的模块包括：服务发现（Eureka），断路器（Hystrix），智能路由（Zuul），客户端负载均衡（Ribbon）等。

这里的核心内容是服务发现模块：Eureka

创建“服务注册中心”

1.创建基于web的Maven项目(springcloud)

2.创建服务注册中心。在springcloud项目中创建SpringBoot项目(springboot):

勾选Cloud Discovery–>Eureka server。以方便导包

3编写springboot项目

3.1查看pom.xml文件

4在启动类上加上注解 如下

通过@EnableEurekaServer注解启动一个服务注册中心提供给其他应用进行对话。这一步非常的简单，只需要在一个普通的Spring Boot应用中添加这个注解就能开启此功能，比如下面的例子：

5 修改application.yml文件

yml文件的好处，天然的树状结构，一目了然

---#端口号server: port: 8760eureka: instance:hostname: localhost client:# eureka.client.registerWithEureka ：表示是否将自己注册到Eureka Server，默认为true。# 由于当前这个应用就是Eureka Server，故而设为falseregister-with-eureka:false# eureka.client.fetchRegistry ：表示是否从Eureka Server获取注册信息，默认为true。因为这是一个单点的Eureka Server，# 不需要同步其他的Eureka Server节点的数据，故而设为false。fetch-registry:falseservice-url:# eureka.client.serviceUrl.defaultZone ：设置与Eureka Server交互的地址，#查询服务和注册服务都需要依赖这个地址。默认是defaultZone: http:// {server.port}/eureka/

6 启动项目后访问

http://localhost:8760

可以看到下面的页面，其中还没有发现任何服务:

7.搭建服务端（生产者）

创建springBoot项目同上

查看pom.xml文件

<?xml version="1.0"encoding="UTF-8"?>4.0.0org.springframework.bootspring-boot-starter-parent2.1.3.RELEASEcom.handproducer0.0.1-SNAPSHOTproducerDemo project for Spring Boot1.8Greenwich.RELEASEorg.springframework.cloudspring-cloud-starter-netflix-eureka-serverorg.springframework.bootspring-boot-starter-testtestorg.springframework.cloudspring-cloud-dependencies${spring-cloud.version}pomimportorg.springframework.bootspring-boot-maven-pluginspring-milestonesSpring Milestoneshttps://repo.spring.io/milestone

8修改application.yml文件

注:端口不能与上面的相同。这里的服务name：service-hi 可以根据自己情况定义。

---server: port:8762eureka: client:service-url: defaultZone: http://localhost:8760/eureka/spring : application:name: service-producer

9 编写启动类

packagecom.hand.producerimportorg.springframework.beans.factory.annotation.Valueimportorg.springframework.boot.SpringApplicationimportorg.springframework.boot.autoconfigure.SpringBootApplicationimportorg.springframework.cloud.netflix.eureka.EnableEurekaClientimportorg.springframework.web.bind.annotation.RequestMappingimportorg.springframework.web.bind.annotation.RequestParamimportorg.springframework.web.bind.annotation.RestController@SpringBootApplication@EnableEurekaClient@RestControllerpublicclassProducerApplication{publicstaticvoidmain(String[] args){SpringApplication.run(ProducerApplication.class, args) }@Value("${server.port}")String port@RequestMapping("/hi")publicStringhome(@RequestParam String name){return"hi "+ name +",i am from port:"+ port }}

运行服务

http://localhost:8761/hi?name=xiong.zhang@hand-china.com

然后查看 http://localhost:8760

可以看到，我们定义的服务被注册了。如下图所示:

9.创建消费者

9.1 创建消费者modul，流程如上述工程创建流程。

9.2查看pom.xml文件

<?xml version="1.0"encoding="UTF-8"?>4.0.0org.springframework.bootspring-boot-starter-parent2.1.3.RELEASEcom.handcustomer0.0.1-SNAPSHOTcustomerDemo project for Spring Boot1.8Greenwich.RELEASEorg.springframework.cloudspring-cloud-starter-netflix-eureka-serverorg.springframework.bootspring-boot-starter-testtestorg.springframework.cloudspring-cloud-dependencies${spring-cloud.version}pomimportorg.springframework.bootspring-boot-maven-pluginspring-milestonesSpring Milestoneshttps://repo.spring.io/milestone

10 yml配置

---server: port:8763eureka: client:service-url: defaultZone: http://localhost:8760/eureka/spring : application:name: service-customerfeign: hystrix:enabled :true

11 编写启动类

@EnableDiscoveryClient表明标注类是消费者，加入restTemplate以消费相关的服务

packagecom.hand.customerimportorg.springframework.boot.SpringApplicationimportorg.springframework.boot.autoconfigure.SpringBootApplicationimportorg.springframework.cloud.client.discovery.EnableDiscoveryClientimportorg.springframework.cloud.client.loadbalancer.LoadBalancedimportorg.springframework.context.annotation.Beanimportorg.springframework.web.client.RestTemplate@SpringBootApplication@EnableDiscoveryClientpublicclassCustomerApplication{publicstaticvoidmain(String[] args){SpringApplication.run(CustomerApplication.class, args) }@Bean@LoadBalancedRestTemplaterestTemplate(){returnnewRestTemplate() }}

12 .创建service和controller

12.1 service层

packagecom.hand.customer.controllerimportcom.hand.customer.service.HelloServiceimportorg.springframework.beans.factory.annotation.Autowiredimportorg.springframework.web.bind.annotation.RequestMappingimportorg.springframework.web.bind.annotation.RequestParamimportorg.springframework.web.bind.annotation.RestControllerpackagecom.hand.customer.serviceimportorg.springframework.beans.factory.annotation.Autowiredimportorg.springframework.stereotype.Serviceimportorg.springframework.web.client.RestTemplate/**

*/@ServicepublicclassHelloService{@AutowiredRestTemplate restTemplatepublicStringhiService(String name){returnrestTemplate.getForObject(" http://SERVICE-PRODUCER/hi?name= "+ name, String.class) }}

12.2 controller层

packagecom.hand.customer.controllerimportcom.hand.customer.service.HelloServiceimportorg.springframework.beans.factory.annotation.Autowiredimportorg.springframework.web.bind.annotation.RequestMappingimportorg.springframework.web.bind.annotation.RequestParamimportorg.springframework.web.bind.annotation.RestController/**

*/@RestControllerpublic class HelloControler {@AutowiredHelloService helloService @RequestMapping(value="/hi")public String hi(@RequestParam String name) {returnhelloService.hiService(name) }}

再次查看服务

在浏览器中输入 http://localhost:8763/hi?name=admin

链接：

API网关的请求转发等内容实际上是通过Ribben来实现的。

Spring Cloud 实现负载均衡通过在RestTemplates  增加@LoadBalanced注解，将Rest请求交给Ribben去管理。

Spring Cloud实现负载主要是用过管理Rest请求来实现，故项目中必须都使用Rest分格的请求.

Ribben的配置类LoadBalanceAutoConfiguration主要实现的功能：

    1.创建了一个LoadBalanceInterceptor的Bean，用于实现对客户端发起的请求就行拦，是实现客户端的负载均衡。

    2.创建了一个LoadBalanceCustomizer的Bean  用于给RestTemplate增加LoadBalanceInterceptor拦截器。

    3.维护了一个被@LoadBalance注释的RestTemplate的对象列表，并在这里进行初始化，通过调用LoadBalanceCustomizer的实例来给需要客户端负载均衡的TestTemplate增加LoadBalanceInterceptor拦截器。

    4、LoadBalanceInterceptor拦截去会根据传入的ServiceID去获取具体的实例，拦截去实现的各个方法，

    addServices :向负载均衡器维护的列表中添加服务实例,添加服务的时候会将新加入的实例和之前的所有实例加入List中

    chooseServices：通过Rule（线性轮训、按权重负载、按流量负载）和 Ping来选择具体的服务实例启动的ping的定时任务默10秒

    markServiecsDowe:标示异常的服务实例

    getReachableService:获取当前正常的服务实例

    getAllServices:获取所有维护的服务实例

    5.Ribben 的服务实例由Eureka的服务发现来获取，Ribben会将Eureka中注册章的服务转换成自己的服务实例信息。（请求了Eureka的获取服务列表）

    6.Ribben 的服务更新器主要通过DynamicServiceListLoadBalancer 来实现

    7.Ribben实服务实例和真实地址之间转换的原理，从Netfix的service中获取host和port 如果service中的host和port中的地址和真实地中中的一直则直接返回真实地址，如果不一致则使用service中的host和port结合真实地址中的相关参数，拼接成新的地址。

在choose的时候 使用一个所有服务列表（allList)数中取随机数去可用服务（upList）中取可用的服务，如果取到的服务不可用或者无此服务，线程让步（Thread.yield()）进行线程让我重新获取新的服务。

线性轮训和RandomRule相似，存了循环条件以外增加了10次的轮训限制，如果10次没有获取到可用的服务，则返回 No available alive serivces after 10 tries  from load balancer.....

RetryRule增加了一个重试机制，此机制默认使用 RoundRobinRule规则来获取服务，通知定义了一个重试时间（maxRetryMillis），如果在重试时间内没有获取到可用的服务，则重复进行获取，如果超出重试时间还未获取到则返回null

该策略主要是对RoundRobinRule规则的扩展，根据实例的运行情况计算权重，并根据权重来选择实例，以达到最优的分配效果

主要实现有3个

1、定时任务计算权重，初始化的时候启动一个30秒的定时任务来计算服务的权重

2、权重计算    权重计算先获取所有实例服务的平均响应时间获取平均响应时间的总和，然后逐个计算每个实例的权重（WeigthSoFar+totalResponseTime-实例的平均响应时间）

3、选择实例  判断最小权重是否大于0.001 如果小于0.001则使用线性轮训的策略，否则 生成一个[0，最大权重值]的随机数，选择一个区间内的随机数，选择随机数所在区间内的服务。

内部使用RoundRobinRule规则来实现策略，但是经常继承这个类来实现高级策略的制定

继承了CIientConfigEnableRoundRobinRule规则，在实现时注入了负载均衡器的统计对象LoadBalacneStats ,同时在选择实例的时候利用LoadBalaceStats来统计信息来来选择满足要求的实例

如果第一次请求LoadBalacneStats 为null，会使用线性轮训的方式来获取满足要求的实例，之后每选择都会统计LoadBalacneStats ，之后选择的时候会选择请求最少的服务。

基于委托的方式来过滤清单的一种策略，在选择服务的时候先将获取到的服务清单通过Predicate配置的过滤条件来过滤一部分服务，然后再通过线性轮训的方式来进行服务选择。实现过滤使用的com.google.commom.base.pridicate中的apply来实现的，new Predicate（loadBalanceKey,service）,关于服务的统计信息和负载均衡器的选择算法传递股过来的key来过滤、

............

Ribben注入的时候会进行一些自动化的配置，自动构建一下接口来提供使用

IClientConfig  来配置Ribben客户端的简单配置

IPing  来实现Ribben的实例检查策略

IRule 来实现负载均衡的策略  默认采用区域感知

ServiceList 实现服务清单的维护机制

ServivcerFilterList 来实现服务过滤规则  默认采用区域感知

ILoadBalance 负载均衡区 默认采用区域感知

可以在创建Ribben的时候创建一个Configuration来定义以上的接口来覆盖默认的配置。

---