1. 服务治理介绍
1.1 什么是服务治理?
服务治理是微服务架构中最核心最基本的模块。用于实现各个微服务的自动化注册与发现。
- 服务注册: 在服务治理框架中,都会构建一个注册中心,每个服务单元向注册中心登记自己提供服务的详细信息。并在注册中心形成一张服务的清单,服务注册中心需要以心跳的方式去监测清单中的服务是否可用,如果不可用,需要在服务清单中剔除不可用的务。
- 服务发现: 服务调用方向服务注册中心咨询服务,并获取所有服务的实例清单,实现对具体服务实例的访问。
1.2 常见的注册中心
-
Zookeeper
zookeeper是一个分布式服务框架,是Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。
-
Eureka
Eureka是Springcloud Netflix中的重要组件,主要作用就是做服务注册和发现。但是现在已经闭源。
-
Consul
Consul是基于GO语言开发的开源工具,主要面向分布式,服务化的系统提供服务注册、服务发现和配置管理的功能。Consul的功能都很实用,其中包括:服务注册/发现、健康检查、Key/Value存储、多数据中心和分布式一致性保证等特性。Consul本身只是一个二进制的可执行文件,所以安装和部署都非常简单,只需要从官网下载后,在执行对应的启动脚本即可。
-
Nacos
Nacos是一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。它是 Spring Cloud Alibaba 组件之一,负责服务注册发现和服务配置,可以这样认为nacos=eureka+config。
2. Nacos简介
Nacos 致力于帮助您发现、配置和管理微服务。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据及流量管理。
从上面的介绍就可以看出,Nacos的作用就是一个注册中心,用来管理注册上来的各个微服务。
3. Nacos入门
3.1 搭建Nacos环境
3.1.1 安装Nacos,下载Nacos压缩包,并解压
https://github.com/alibaba/nacos/releases
3.1.2 启动Nacos
./bin/startup.sh -m standalone
3.1.3 访问Nacos
打开浏览器输入http://localhost:8848/nacos,即可访问服务, 默认密码是nacos/nacos
3.2 将微服务注册到Nacos
3.2.1 将商品微服务注册到Nacos
3.2.1.1 在pom.xml中添加Nacos的依赖
<!--nacos客户端-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
3.2.1.2 在主类上添加 @EnableDiscoveryClient
注解
@EnableDiscoveryClient
@SpringBootApplication
public class ProductApplication {
3.2.1.3 在application.yml中添加Nacos服务的地址
spring:
cloud:
nacos:
discovery:
server-addr: localhost:8848
3.2.1.4 启动服务, 观察Nacos的控制面板中是否有注册上来的商品微服务
3.2.2 将订单微服务注册到Nacos
3.2.2.1 在pom.xml中添加Nacos的依赖
<!--nacos客户端-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
3.2.2.2 在主类上添加 @EnableDiscoveryClient
注解
@EnableDiscoveryClient
@SpringBootApplication
public class OrderApplication {
3.2.2.3 在application.yml中添加Nacos服务的地址
spring:
cloud:
nacos:
discovery:
server-addr: localhost:8848
3.2.2.4 修改OrderController, 实现微服务调用
import com.alibaba.fastjson.JSON;
import com.ochaly.domain.Order;
import com.ochaly.domain.Product;
import com.ochaly.service.OrderService;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import java.util.List;
@Slf4j
@RestController
@RequestMapping("order")
public class OrderController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private OrderService orderService;
@Autowired
private DiscoveryClient discoveryClient;
@RequestMapping("/prod/{pid}")
public Order order(@PathVariable("pid") Integer pid) {
log.info("接到{}号商品的下单请求,接下来调用商品微服务查询此商品信息", pid);
// restTemplate远程调用
List<ServiceInstance> instances = discoveryClient.getInstances("service-product");
ServiceInstance serviceInstance = instances.get(0);
Product product =
restTemplate.getForObject("http://" + serviceInstance.getHost() + ":" + serviceInstance.getPort() + "/product/" + pid, Product.class);
log.info("查询到{}号商品信息,内容是{}", pid, JSON.toJSONString(product));
Order order = new Order();
order.setUid(1);
order.setUsername("测试用户");
order.setPid(pid);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderService.createOrder(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
DiscoveryClient是专门负责服务注册和发现的,我们可以通过它获取到注册到注册中心的所有服务
3.2.2.5 启动服务, 观察Nacos的控制面板中是否有注册上来的订单微服务,然后通过访问消费者服务验证调用是否成功
4. 实现服务调用的负载均衡
4.1 什么是负载均衡
通俗的讲,负载均衡就是将负载(工作任务,访问请求)进行分摊到多个操作单元(服务器,组件)上进行执行。
根据负载均衡发生位置的不同,一般分为服务端负载均衡和客户端负载均衡。
服务端负载均衡指的是发生在服务提供者一方,比如常见的nginx负载均衡。
而客户端负载均衡指的是发生在服务请求的一方,也就是在发送请求之前已经选好了由哪个实例处理请求。
我们在微服务调用关系中一般会选择客户端负载均衡,也就是在服务调用的一方来决定服务由哪个提供者执行。
4.2 自定义实现负载均衡
4.2.1 通过idea再启动一个 shop-product 微服务,设置其端口为8082
4.2.2 通过nacos查看微服务的启动情况
4.2.3 修改 shop-order 的代码,实现负载均衡
@Slf4j
@RestController
@RequestMapping("order")
public class OrderController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private OrderService orderService;
@Autowired
private DiscoveryClient discoveryClient;
@RequestMapping("/prod/{pid}")
public Order order(@PathVariable("pid") Integer pid) {
log.info("接到{}号商品的下单请求,接下来调用商品微服务查询此商品信息", pid);
// restTemplate远程调用
List<ServiceInstance> instances = discoveryClient.getInstances("service-product");
// 随机选择
int i = new Random().nextInt(instances.size());
ServiceInstance serviceInstance = instances.get(i);
Product product =
restTemplate.getForObject("http://" + serviceInstance.getHost() + ":" + serviceInstance.getPort() + "/product/" + pid, Product.class);
log.info("查询到{}号商品信息,内容是{}", pid, JSON.toJSONString(product));
Order order = new Order();
order.setUid(1);
order.setUsername("测试用户");
order.setPid(pid);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderService.createOrder(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
4.3 基于Ribbon实现负载均衡
Ribbon是Spring Cloud的一个组件, 它可以让我们使用一个注解就能轻松的搞定负载均衡
4.3.1 在RestTemplate 的生成方法上添加@LoadBalanced注解
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate();
}
4.3.2 修改服务调用的方法
@Slf4j
@RestController
@RequestMapping("order")
public class OrderController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private OrderService orderService;
@RequestMapping("/prod/{pid}")
public Order order(@PathVariable("pid") Integer pid) {
log.info("接到{}号商品的下单请求,接下来调用商品微服务查询此商品信息", pid);
// restTemplate远程调用
// ribbon负载均衡
Product product =
restTemplate.getForObject("http://service-product/product/" + pid, Product.class);
log.info("查询到{}号商品信息,内容是{}", pid, JSON.toJSONString(product));
Order order = new Order();
order.setUid(1);
order.setUsername("测试用户");
order.setPid(pid);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderService.createOrder(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
4.3.3 Ribbon支持的负载均衡策略
Ribbon内置了多种负载均衡策略,内部负载均衡的顶级接口为 com.netflix.loadbalancer.IRule,具体的负载策略如下表所示:
策略名 | 策略描述 | 实现说明 |
---|---|---|
BestAvailableRule | 选择一个最小的并发请求的server | 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server |
AvailabilityFilteringRule | 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) | 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查 status里记录的各个server的运行状态 |
WeightedResponseTimeRule | 根据相应时间分配一 个weight,相应时间越长,weight越小,被选中的可能性越低。 | 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas 时,使用roubine策略选择server。 |
RetryRule | 对选定的负载均衡策略机上重试机制。 | 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server |
RoundRobinRule | 轮询方式轮询选择server | 轮询index,选择index对应位置的server |
RandomRule | 随机选择一个server | 在index上随机,选择index对应位置的server |
ZoneAvoidanceRule | 复合判断server所在区域的性能和server的可用性选择server | 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server) AvailabilityPredicate用于过滤掉连接数过多的Server。 |
我们可以通过修改配置来调整Ribbon的负载均衡策略,具体代码如下
service-product:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
5. 基于Feign实现服务调用
5.1 什么是Feign
Feign是Spring Cloud提供的一个声明式的伪Http客户端,它使得调用远程服务就像调用本地服务一样简单,只需要创建一个接口并添加一个注解即可。
Nacos很好的兼容了Feign,Feign默认集成了Ribbon,所以在Nacos下使用Fegin默认就实现了负载均衡的效果。
5.2 Feign的使用
5.2.1 加入Fegin的依赖
<!--fegin组件-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
5.2.2 在主类上添加Fegin的注解
@EnableFeignClients
@EnableDiscoveryClient
@SpringBootApplication
public class OrderApplication {
5.2.3 创建一个service, 并使用Fegin实现微服务调用
import com.ochaly.domain.Product;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
@FeignClient(value = "service-product")
public interface ProductService {
/**
* @FeignClient的value + @RequestMapping的value 其实就是完整的请求地址 "http://service-product/product/" + pid
* 指定请求的uri部分
*/
@RequestMapping("/product/{pid}")
Product findByPid(@PathVariable Integer pid);
}
5.2.4 修改controller代码,并重启order微服务,查看效果
@Slf4j
@RestController
@RequestMapping("order")
public class OrderController {
@Autowired
private ProductService productService;
@Autowired
private OrderService orderService;
@RequestMapping("/prod/{pid}")
public Order order(@PathVariable("pid") Integer pid) {
log.info("接到{}号商品的下单请求,接下来调用商品微服务查询此商品信息", pid);
// feign远程调用
Product product = productService.findByPid(pid);
log.info("查询到{}号商品信息,内容是{}", pid, JSON.toJSONString(product));
Order order = new Order();
order.setUid(1);
order.setUsername("测试用户");
order.setPid(pid);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderService.createOrder(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
评论区