Spring Cloud组件那么多超时设置,如何理解和运用?Gateway、Feign、Hystrix,Ribbon、OkHttp、Eureka

来自ling
跳转至: 导航搜索

https://cloud.tencent.com/developer/article/1440635

Gateway Feign Hystri ,Ribbon OkHttp Eureka.png

1. Spring Cloud 中发起一个接口调用,经过了哪些环节?

Spring Cloud 在接口调用上,大致会经过如下几个组件配合:

Feign -----> Hystrix —>Ribbon —> Http Client(apache http components 或者 Okhttp)
具体交互流程上,如下图所示:


接口化请求调用

当调用被@FeignClient注解修饰的接口时,在框架内部,会将请求转换成Feign的请求实例feign.Request,然后交由Feign框架处理。

Feign :转化请求

至于Feign的详细设计和实现原理,在此不做详细说明。
请参考我的另外一篇文章:Spring Cloud Feign 设计原理

Hystrix :熔断处理机制

Feign的调用关系,会被Hystrix代理拦截,对每一个Feign调用请求,Hystrix都会将其包装成HystrixCommand,参与Hystrix的流控和熔断规则。如果请求判断需要熔断,则Hystrix直接熔断,抛出异常或者使用FallbackFactory返回熔断Fallback结果;如果通过,则将调用请求传递给Ribbon组件。
关于Hystrix的工作原理,参考Spring Cloud Hystrix设计原理

Ribbon :服务地址选择

当请求传递到Ribbon之后,Ribbon会根据自身维护的服务列表,根据服务的服务质量,如平均响应时间,Load等,结合特定的规则,从列表中挑选合适的服务实例,选择好机器之后,然后将机器实例的信息请求传递给Http Client客户端,HttpClient客户端来执行真正的Http接口调用;
关于Ribobn的工作原理,参考Spring Cloud Ribbon设计原理

HttpClient :Http客户端,真正执行Http调用

根据上层Ribbon传递过来的请求,已经指定了服务地址,则HttpClient开始执行真正的Http请求。
关于HttpClient的其中一个实现OkHttp的工作原理,请参考Spring Cloud OkHttp设计原理


最佳实践

有的同学可能觉得Spring Cloud 使用起来很方便,只需要引入一些组件即可。实际上,这正是Spring Cloud的坑所在的地方:因为它足够灵活,组件组装非常便捷,但是组件太多时,必须要有一个清晰的脉络去理清其间的关系。
在整个组件配置组装的过程,超时设置遵循的基本原则是:依赖方的超时配置覆盖被依赖方的配置,而其配置覆盖的形式,则是使用的Spring Boot 的 AutoConfiguration 机制实现的。

综上所述,一般在Spring Cloud设置过程中,

只需要指定Feign使用什么Http Client客户端即可,比如feign.okhttp.enabled=true

Feign客户端的Http Client的配置项,统一使用如下配置即可,Spring Cloud会拿才配置项初始化不同的Http Client客户端的。
### http client最大连接数,默认200
feign.httpclient.maxConnections = 200
### 每个IP路由最大连接数量
feign.httpclient.maxConnectionsPerRoute= 50
### 连接存活时间
feign.httpclient.timeToLive = 900
### 连接存活时间单位
feign.httpclient.timeToLiveUnit = SECONDS
### 连接超时时间
feign.httpclient.connectionTimeout = 2000
### 连接超时定时器的执行频率
fein.httpclient.connectionTimeout=3000
Hystrix的作用:Feign或者Http Client 只能规定所有接口调用的超时限制,而Hystrix可以设置到每一个接口的超时时间,控制力度最细,相对应地,配置会更繁琐。
 Hystrix的超时时间和Feign或者Http Client的超时时间关系
 Hystrix的超时意义是从代码执行时间层面控制超时;而Feign或Http Client 则是通过Http底层TCP/IP的偏网络层层面控制的超时。
 我的建议是:一般情况下,Hystrix 的超时时间要大于Feign或Http Client的超时时间;而对于特殊需求的接口调用上,为了避免等待时间太长,需要将对应的Hystrix command 超时时间配置的偏小一点,满足业务侧的要求。