关于 HTTP 长连接
关于 HTTP 长连接
使用长连接能够减少建立销毁连接的消耗，三次握手、四次挥手对性能影响是很大的。一般 RPC 如 Dubbo 默认都是长连接的，HTTP 1.1 之上也可以支持长连接了，HTTP 2.0 也支持了单一长连接的多路复用。
一般 HTTP 服务前面都会挂 nginx 做负载均衡，那么长连接的设置也分为从客户端到 nginx、从 nginx 到服务端两部分。
如果使用 Java 的 apache HTTPClient 可以通过设置 ConnectionKeepAliveStrategy 和协议为 HTTP1.1 来使用长连接，对于 4.2.x 版本设置方法如下所示：
private static final ConnectionKeepAliveStrategy KEEP_ALIVE_STRATEGY = new ConnectionKeepAliveStrategy() {public long getKeepAliveDuration(HttpResponse response, HttpContext context) {HeaderElementIterator it = new BasicHeaderElementIterator(response.headerIterator(HTTP.CONN_KEEP_ALIVE));while (it.hasNext()) {HeaderElement he = it.nextElement();String param = he.getName();String value = he.getValue();if (value != null && param.equalsIgnoreCase("timeout")) {try {// 如果 response header 里有 Keep-Alive:timeout 参数，则使用其值作为长连接超时时间return Long.parseLong(value) * 1000;} catch (NumberFormatException ignore) {}}}return 30 * 1000; // 30s}};HttpParams params = new BasicHttpParams();// 指定使用 http1.1，1.1里默认使用长连接HttpProtocolParams.setVersion(params, HttpVersion.HTTP_1_1); SchemeRegistry registry = new SchemeRegistry();registry.register(new Scheme("http", PlainSocketFactory.getSocketFactory(), 80));//创建连接池PoolingClientConnectionManager cm = new PoolingClientConnectionManager(registry, 1, TimeUnit.MINUTES);cm.setDefaultMaxPerRoute(10);cm.setMaxTotal(200);httpClient = new DefaultHttpClient(cm, params);// 设置超时时间httpClient.getParams().setParameter(CoreConnectionPNames.CONNECTION_TIMEOUT, 100);httpClient.getParams().setParameter(CoreConnectionPNames.SO_TIMEOUT, 100);httpClient.getParams().setParameter(ClientPNames.CONN_MANAGER_TIMEOUT, 100);httpClient.setKeepAliveStrategy(KEEP_ALIVE_STRATEGY);
在 NGINX 请求后端服务时启用长连接需要配置：
proxy_http_version 1.1;
proxy_set_header Connection "";
keepalive_timeout 120s 120s;
keepalive_requests 10000;
关于长连接，有两个参数需要注意：
- keepalive_timeout：连接不活跃多长时间后断开，如果服务端（nginx）设置的时间比客户端短的话，可能会导致客户端请求异常。前提是 HTTPClient 都 http.connection.stalecheck 参数置为 false，也就是不在请求前检查连接的有效性。
- keepalive_requests：用于设置一个keep-alive连接上可以服务的请求的最大数量。当最大请求数量达到时，连接被关闭。nginx 和 Tomcat 上默认都是100，对于 QPS 较高的应用来说 100 有些太小了。
以上两个参数在 nginx、服务端都有，当 QPS 比较高时就需要做适当调整以减少或避免连接都频繁断开、建立。如果服务端使用的 Tomcat 容器，可以在 server.xml 文件里修改配置。
在 Spring Boot 2.x 里修改长连接的配置方法如下所示：
@Configuration
public class TomcatCustomizer implements WebServerFactoryCustomizer<TomcatServletWebServerFactory> {@Overridepublic void customize(TomcatServletWebServerFactory factory) {factory.addConnectorCustomizers(connector -> {AbstractHttp11Protocol protocol = (AbstractHttp11Protocol) connector.getProtocolHandler();protocol.setMaxKeepAliveRequests(10000);protocol.setKeepAliveTimeout(60000); // 长连接超时时间，单位 ms});}
}
上面提到 HTTPClient 的 http.connection.stalecheck 参数用于设置是否在发送请求之前检查连接有效性，如果每次发请求都检查对性能影响也会较大，可以去掉该参数。但是去掉之后，在连接被 NGINX 关闭后依然发请求则会导致 NoHttpResponseException 异常，需要对其进行特殊处理，进行适当的重试。
资料
- nginx 优化