故障重现(内存篇2)，JAVA内存不足导致频繁回收和swap引起的性能问题

何锦彬
2017-01-07
原文

背景起因：

记起以前的另一次也是关于内存的调优分享下

有个系统平时运行非常稳定运行（没经历过大并发考验），然而在一次活动后，人数并发一上来后，系统开始卡。

我按经验开始调优，在每个关键步骤的加入如下代码耗时统计进行压测：

long startTime = System.currentTimeMillis();

callRpc(); //这里比如调用RPC伪代码，当然还在插入数据库，中间件地方都加入统计

long costTime = (System.currentTimeMillis() – startTime);

//统计600毫秒以上耗时
if (costTime > 600) {
logger.warning(“callRpc cost time:” + costTime);
}

然后去grep日志，最后神奇的发现各个地方都有超过600毫秒的地方…

然后各种定位的误导…

当然最终是解决了，原因是由于程序里使用了大对象导致

细分析，即使这种情况深研究也是分很多情况的

问题重现：

原因分析：

由于系统中使用了大对象，当并发来临，内存讲被吃紧，将有可能引起如下三种情况

第一种情况，系统内存够用(JVM内存未使用到SWAP内存)，但JVM内存不够，最终导致JVM的频繁垃圾回收（FGC），严重影响性能 (stop the word)

第二种情况，系统内存不够，把JVM堆部分用到了SWAP，那么此时的垃圾回收需要把SWAP的内存换回到系统物理内存再进行JVM的垃圾回收。最大影响，导致每次GC的时间变得很久

第三种情况, 物理内存不够用，大量JVM的堆内存被交换到SWAP后，垃圾回收时，把SWAP内存换回物理内存，但SWAP的内存又不会立即回，此时可以观察到垃圾回收同时swap使用的内存会变大(其它部分内存要交换到SWAP里)

准备：

ubuntu 1G 4核

先关闭SWAP虚拟空间 sudo swapoff -a

java version “1.7.0_101”

apache-tomcat-8.5.9

设置好Tomcat的JVM内存：

JAVA_OPTS=”-Xmx500m -Xms500m -Xmn200m -Xss228k -XX:+UseConcMarkSweepGC -XX:+UseParNewGC”

apache-jmeter-2.13 用于模拟HTTP请求压测，都是100条线程并发进行压测

模拟代码如下

/**
 * 模拟当系统中使用大对象时,对JVM造成的影响
 *
 * @author 包子(何锦彬). 2017.01.07
 * @QQ 277803242
 */
@WebServlet("/Test")
public class Test extends HttpServlet {
    private static final long serialVersionUID = 1L;
    private Logger logger = Logger.getLogger(Test.class.getName());

    protected void doGet(HttpServletRequest request, HttpServletResponse response)
            throws ServletException, IOException {
        // use java heap 10m
        byte[] bts = new byte[1024 * 1024 * 10];// 代码段1
        long startTime = System.currentTimeMillis();
        // deal
        try {
            // 模拟业务花费时间
            Thread.sleep(500);
        } catch (InterruptedException e) {
        }

        // 理论上这里输出500附近
        long costTime = (System.currentTimeMillis() - startTime);
        if (costTime > 600) {
            logger.warning("cost time:" + costTime);
        }

        Writer out = response.getWriter();
        out.append("ok");
    }