Docker Swarm - gRPC 基于 DNS 的负载均衡

作者: Anoyi

2019.01.13 21:42*

▶ 背景

后端两个服务 ServiceA、ServiceB,ServiceA 通过 gRPC 远程调用 ServiceB。在 Docker Swarm 集群下每个服务部署多个副本,假设部署两个副本,即 ServiceA 的实例为 A1 和 A2,ServiceB 的实例为 B1 和 B2。Swarm 集群内部通过 Overlay 网络实现容器间通信,ServiceA 访问 ServiceB 通过服务名称来连接,即 A1 调用 ServiceB 时,会随机调用到 B1 或者 B2;同理,A2 也是如此。

上述流程,看似合理且正常,然而实际效果是:假设 A1 连通 B1,A2 连通 B1,那么 ServiceA 的请求会一直被 B1 接收并处理,直至 TCP 连接超时,或者 B1 服务终止。gRPC 的核心概念中有 Channel ,描述 Client 与 Server 之间的连接,即 A1 与 B1 建立连接之后, Channel 会被复用。

面对这种负载不均衡的场景,我们希望 ServiceA 的每个请求能被均衡到 ServiceB 的每个实例去处理。

▶ GRPC 负载均衡

官方资料 Load Balancing in gRPC

工作流程

  • 1、Client 请求解析 server name,获取一个或多个实际 IP 地址,例如 ServiceB 解析为 10.0.0.10、10.0.0.11
  • 2、Client 实例化负载均衡策略,可选策略为 round_robingrpclb。注意:如果解析程序返回的地址是均衡器地址,无论 Client 配置什么负载均衡策略,都将使用 grpclb 策略。否则,会使用 Client 配置的负载均衡策略。如果未配置,则 Client 将默认选用第一个可用服务器地址的策略
  • 3、负载均衡衡策略为每个服务器地址创建一个子通道
  • 4、对于每个 RPC 请求,负载均衡策略决定应将 RPC 请求发送到哪个子通道(即哪个服务器)

针对上述场景,在 Swarm 集群中,我们应该选择 dnsrr 模式,并且 gRPC 客户端配置负载均衡策略为 round_robin(轮训)即可。

▶ 配置 Load Balance Policy

不同语言配置方式不同,以下列举常用语言:

grpc-java 配置

ManagedChannel channel = ManagedChannelBuilder.forAddress(server.getHost(), server.getPort())
                                              .defaultLoadBalancingPolicy("round_robin")
                                              .usePlaintext().build();

其他语言

有待完善。。。

配置 Docker Swarm dnsrr

Docker Swarm 默认的模式是 vip,使用 dnsrr 只需将 endpoint_mode 设置为 dnsrr 即可,相关资料:

示例:

version: '3.7'
services:
  server:
    image: "server:latest"
    stop_grace_period: 20s
    networks:
      - idp_network
    deploy:
      replicas: 2
      endpoint_mode: dnsrr
networks:
  idp_network:
    external: true

Spring Boot gRPC Load Balance 案例

1、获取案例源码

git clone https://github.com/ChinaSilence/spring-boot-starter-grpc.git

2、Install 相关包

3、构建相关镜像

4、初始化 Swarm 集群

docker swarm init

5、添加 Overlay 网络

docker network create -d overlay --attachable idp_network

6、部署 gRPC server 和 client

docker stack deploy -c stack.yml grpc

stack.yml 文件所在路径下执行

7、查看 server 端日志

docker service logs -f grpc_server

8、持续通过 client 发送请求,并观察日志信息

curl http://localhost:8081/v1/user/list
日志输出

从日志中可以看出,server 能均衡处理 client 的请求。

评论

评论

昵称
邮箱