2018年03月26日 21:48:05

阅读数：577

Tomcat并发优化、内存配置、垃圾回收、宕机预防

目录

• Tomcat并发优化、内存配置、垃圾回收、宕机预防
  • 目录
    • 序言
    • 一、Tomcat并发优化
      • (1) tomcat并发参数
      • (2) tomcat并发配置
    • 二、Tomcat内存配置
      • (1) tomcat内存参数
      • (2) tomcat内存配置
    • 三、Tomcat垃圾回收
      • (1) JVM中对象的划分及管理
      • (2) jvm垃圾搜集参数
      • (3) tomcat垃圾搜集配置
    • 四、Tomcat宕机预防
      • (1) TCP端口状态
      • (2) Windows系统下的TCP参数
      • (3) tomcat假死分析及预防
    • 五、结语

序言

一、Tomcat并发优化

1. maxThreads：最大的并发请求数，当cpu利用率高的时候，不宜增加线程的个数,当cpu利用率不高，大部分是io阻塞类的操作时，可以适当增加该值。
2. maxSpareThreads：Tomcat连接器的最大空闲 socket 线程数
3. acceptCount：当处理任务的线程数达到最大时，接受排队的请求个数
4. connectionTimeout：网络连接超时，单位毫秒
5. enableLookups：若为false则不进行DNS查询，提高业务能力应设置为false

6. disableUploadTimeout：若为true则禁用上传超时

   　　以上是一些比较常用的参数，Tomcat中server.xml配置详解 会有更加详细的介绍。

(2) tomcat并发配置

    在conf下的server.xml文件中<Connector>节点进行配置
    <Connector port="8080" protocol="HTTP/1.1"
         connectionTimeout="30000"
         redirectPort="8443"
         maxThreads="400"
         minSpareThreads="50"
         maxSpareThreads="200"
         acceptCount="400"
         enableLookups="false"
         disableUploadTimeout="true"     />

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11

二、Tomcat内存配置

     在bin下的catalina.bat文件中echo Using CATALINA_BASE:   "%CATALINA_BASE%"的前一行加入如下代码。
set JAVA_OPTS=%JAVA_OPTS% -server -Xms8192m -Xmx8192m -Xmn1890m 

三、Tomcat垃圾回收

1. -verbose:gc：显示垃圾收集信息(在虚拟机发生内存回收时在输出设备显示信息)
2. UseConcMarkSweepGC：开启此参数使用ParNew & CMS(serial old为替补)搜集器
3. MaxTenuringThreshold：晋升老年代的最大年龄。默认为15，比如设为10，则对象在10次普通GC后将会被放入年老代。
4. -XX:+ExplicitGCInvokesConcurrent：System.gc()可以与应用程序并发执行。
5. GCTimeRatio：设置系统的吞吐量。比如设为99，则GC时间比为1/1+99=1%，也就是要求吞吐量为99%。若无法满足会缩小新生代大小。
6. CMSInitiatingOccupancyFraction：触发CMS收集器的内存比例。比如60%的意思就是说，当内存达到60%，就会开始进行CMS并发收集。
7. CMSFullGCsBeforeCompaction：设置在几次CMS垃圾收集后，触发一次内存整理。
8. -Xnoclassgc：禁用类垃圾回收，性能会高一点；

9. -XX:SoftRefLRUPolicyMSPerMB=N：官方解释是：Soft reference在虚拟机中比在客户集中存活的更长一些。其清除频率可以用命令行参数 -XX:SoftRefLRUPolicyMSPerMB=来控制，这可以指定每兆堆空闲空间的 soft reference 保持存活（一旦它不强可达了）的毫秒数，这意味着每兆堆中的空闲空间中的 soft reference 会（在最后一个强引用被回收之后）存活1秒钟。注意，这是一个近似的值，因为 soft reference 只会在垃圾回收时才会被清除，而垃圾回收并不总在发生。系统默认为一秒。

   　　以上是一些基本的参数配置，通过JVM内存管理——垃圾搜集器参数精解查看更详细的配置，通过Tomcat中Java垃圾收集调优查看原理

(3) tomcat垃圾搜集配置

tomcat的垃圾搜集是和内存设置一起配置的，内存和gc的设置也不是越大越好，良好的比例可以使你的系统性能提升一般甚至更多，下面是tomcat7 ，服务器物理内存16g的标准配置

在bin下的catalina.bat文件中echo Using CATALINA_BASE:   "%CATALINA_BASE%"的前一行加入如下代码。

• 1
• 2

set JAVA_OPTS=%JAVA_OPTS% 
-server -Xms8192m -Xmx8192m -Xmn1890m -verbose:gc 
-XX:+UseConcMarkSweepGC -XX:MaxTenuringThreshold=5 -XX:+ExplicitGCInvokesConcurrent -XX:GCTimeRatio=19 -XX:CMSInitiatingOccupancyFraction=70 -XX:CMSFullGCsBeforeCompaction=0 -Xnoclassgc -XX:SoftRefLRUPolicyMSPerMB=0

    *要把以上代码写在一行才能生效。* 

• 1
• 2

配置后系统的jvm内存运行状况如下: 

可以看到系统在内存到达2g后就会回收空闲内存，基本不会发生溢出的情况，8g的最大内存最高才用了2g，说明系统的性能还是很优越的，用户数再增加也能在一定程度上保证系统稳定性。

四、Tomcat宕机预防

1. LISTENING状态 
   FTP服务启动后首先处于侦听（LISTENING）状态。
2. ESTABLISHED状态 
   ESTABLISHED的意思是建立连接。表示两台机器正在通信。
3. CLOSE_WAIT 
   对方主动关闭连接或者网络异常导致连接中断，这时我方的状态会变成CLOSE_WAIT 此时我方要调用close()来使得连接正确关闭。

4. TIME_WAIT 
   我方主动调用close()断开连接，收到对方确认后状态变为TIME_WAIT。TCP协议规定TIME_WAIT状态会一直持续2MSL(即两倍的分段最大生存期)，以此来确保旧的连接状态不会对新连接产生影响。处于TIME_WAIT状态的连接占用的资源不会被内核释放，所以作为服务器，在可能的情况下，尽量不要主动断开连接，以减少TIME_WAIT状态造成的资源浪费。

   　　更详细的TCP端口状态请参考TCP端口状态说明

(2) Windows系统下的TCP参数

1. KeepAliveTime 
   　　KeepAliveTime的值控制系统尝试验证空闲连接是否仍然完好的频率。如果该连接在一段时间内没有活动，那么系统会发送保持连接的信号，如果网络正常并且接收方是活动的，它就会响应。如果需要对丢失接收方的情况敏感，也就是说需要更快地发现是否丢失了接收方，请考虑减小该值。而如果长期不活动的空闲连接的出现次数较多，但丢失接收方的情况出现较少，那么可能需要增大该值以减少开销。 
   　　缺省情况下，如果空闲连接在7200000毫秒（2小时）内没有活动，系统就会发送保持连接的消息。
2. KeepAliveInterval 
   　　KeepAliveInterval的值表示未收到另一方对“保持连接”信号的响应时，系统重复发送“保持连接”信号的频率。在无任何响应的情况下，连续发送“保持连接”信号的次数超过TcpMaxDataRetransmissions（下文将介绍）的值时，将放弃该连接。如果网络环境较差，允许较长的响应时间，则考虑增大该值以减少开销；如果需要尽快验证是否已丢失接收方，则考虑减小该值或TcpMaxDataRetransmissions值。 
   　　缺省情况下，在未收到响应而重新发送“保持连接”的信号之前，系统会等待1000毫秒（1秒）。

3. KeepAliveInterval 
   　　KeepAliveInterval的值表示未收到另一方对“保持连接”信号的响应时，系统重复发送“保持连接”信号的频率。在无任何响应的情况下，连续发送“保持连接”信号的次数超过TcpMaxDataRetransmissions（下文将介绍）的值时，将放弃该连接。如果网络环境较差，允许较长的响应时间，则考虑增大该值以减少开销；如果需要尽快验证是否已丢失接收方，则考虑减小该值或TcpMaxDataRetransmissions值。 
   　　缺省情况下，在未收到响应而重新发送“保持连接”的信号之前，系统会等待1000毫秒（1秒）。

   　　更多系统参数请参考Windows系统下的TCP参数

(3) tomcat假死分析及预防

close_wait发生的原因是TCP连接没有调用关闭方法，需要应用来处理网络链接关闭，对于Web请求出现这个原因，经常是因为Response的BodyStream没有调用Close，除了调整代码外，可以调整windows系统参数解决tomcat假死问题

tomcat假死时利用netstat -ano查看端口现象如下： 
 
KeepLive在Windows操作系统下默认是7200000毫秒，也就是2个小时才清理一次，对与大量close_wait情况下，可以减小其时间 
在注册表的[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters]改动或创建以下项 
“KeepAliveTime”=dword:afc8 (45000毫秒) 
“KeepAliveInterval”=dword:1 
“TcpMaxDataRetransmissions”=dword:”5″ 
情况会明显改善，但不保证大并发下服务器不会出现假死现象，毕竟代码的规范性也占很大比重。

五、结语