怎么解决接口访问Initial Connection 建立TCP连接响应时长21s

Question

前端打包为js文件，后端war包使用Tomcat启动。通过nginx代理前端和后端系统，前端js放在nginx里面。nginx配置https通过域名访问系统。浏览器使用域名访问系统刚开始没有问题，放置一段时间后再次访问页面，页面调用后端接口响应时间长，但是没有报错超时。接口等一段时间正常返回数据了。看接口详情信息发现Initial Connection处理耗时21s，该问题为突发性偶尔会出现。使用IP访问出现几率较小。请问这是什么问题引起的？如何解决？
如图：

Answer 1

引自免费微信小程序：皆我百晓生

在处理这个问题时，我们首先需要分析整个请求链路中可能影响Initial Connection建立耗时的因素。根据您的描述，问题出现的场景涉及前端、Nginx代理、HTTPS连接以及后端Tomcat服务器，下面是一些可能导致21s Initial Connection响应时间过长的原因及相应的排查和解决方法：

1. DNS解析延迟：

   • 检查域名解析是否稳定，是否存在偶尔解析慢的问题。可以尝试使用dig或nslookup命令检查DNS解析时间和结果。
   • 若存在不稳定情况，可考虑更换更稳定的DNS服务提供商，或者配置本地DNS缓存策略。

2. SSL/TLS握手过程缓慢：

   • HTTPS连接初始化阶段会进行SSL/TLS握手，如果证书链复杂或者证书验证过程存在问题，可能会导致耗时增加。
   • 检查证书的有效性和完整性，确保客户端能够快速验证证书。
   • 考虑优化TLS配置，如启用Session Resumption（会话恢复）减少重复握手，或升级到更快的加密套件如TLS 1.3。

3. Nginx配置问题：

   • 检查Nginx的SSL配置，确认其设置合理有效，例如是否启用了OCSP Stapling以加速证书状态验证。
   • 确认Nginx反向代理的超时配置正确，避免因为超时设置不合理导致等待时间过长。
   • Nginx负载均衡策略也可能影响连接速度，确保其分配机制合理且后端服务器健康。

4. TCP/IP层问题：

   • 可能是由于网络拥塞或者TCP慢启动导致初始连接建立缓慢。
   • 检查网络状况，特别是从客户端到服务器之间的带宽和丢包情况。
   • 在Nginx配置中调整TCP相关的参数，比如增大初始SYN队列大小、开启TCP快速打开（TCP Fast Open）、调整TCP窗口大小等。

5. 后端服务器资源瓶颈：

   • 后端Tomcat服务器可能存在CPU、内存、线程池等资源不足的情况，在压力较大时无法及时处理新连接请求。
   • 监控并分析Tomcat服务器资源使用情况，适当调优配置参数，比如增加最大工作线程数、调整JVM堆大小等。

6. Keepalive配置：

   • 确保Nginx和Tomcat都启用了HTTP Keepalive功能，以便复用已建立的TCP连接，减少新建连接的开销。

针对上述可能的原因，您可以按照以下步骤逐一排查：

• 对比正常情况与异常情况下的系统日志，包括Nginx、Tomcat和客户端浏览器的日志信息。
• 使用网络监控工具（如Wireshark、tcpdump等）抓包分析网络通信细节。
• 调整相关配置后，做性能测试对比观察效果。

请注意，这里并未提供具体的代码修改示例，因为问题涉及到多方面的配置和环境因素，并非简单的代码更改就能完全解决。您需要根据实际情况对症下药。