闰秒导致MySQL服务器的CPU sys过高

iVictor
2022-10-20
原文

今天，有个哥们碰到一个问题，他有一个从库，只要是启动MySQL，CPU使用率就非常高，其中sys占比也比较高，具体可见下图。

注意：他的生产环境是物理机，单个CPU，4个Core。

于是，他抓取了CPU的历史信息，发现CPU飙高大概是从2017年1月1日8点10分开始的。

但是这个从库的负载并不高，通过他反馈的“show processlist”和“show engine innodb status\G”的结果可以看出来

show processlist

mysql> show processlist;<br/>
+-----+-------------+-----------+------+---------+-------+-----------------------------------------------------------------------------+------------------+<br/>
| Id  | User        | Host      | db   | Command | Time  | State                                                                       | Info             |<br/>
+-----+-------------+-----------+------+---------+-------+-----------------------------------------------------------------------------+------------------+<br/>
|   1 | system user |           | NULL | Connect | 57892 | Waiting for master to send event                                            | NULL             |<br/>
|   2 | system user |           | NULL | Connect |    23 | Slave has read all relay log; waiting for the slave I/O thread to update it | NULL             |<br/>
| 108 | root        | localhost | NULL | Query   |     0 | NULL                                                                        | show processlist |<br/>
+-----+-------------+-----------+------+---------+-------+-----------------------------------------------------------------------------+------------------+<br/>
3 rows in set (0.00 sec)

show engine innodb status

在这里，只截取了“row operations”这一部分

...<br/>
--------------<br/>
ROW OPERATIONS<br/>
--------------<br/>
0 queries inside InnoDB, 0 queries in queue<br/>
1 read views open inside InnoDB<br/>
Main thread process no. 3034, id 140218088003328, state: waiting for server activity<br/>
Number of rows inserted 7500, updated 237481, deleted 884, read 31371340<br/>
0.00 inserts/s, 0.00 updates/s, 0.00 deletes/s, 0.00 reads/s<br/>
----------------------------<br/>
...

再次回到CPU sys态较高的事实上，一般sys较高就意味着系统在频繁调用内核代码。如果是这样的话，通过perf top就能定位系统什么操作执行得比较多。

结果却显示，无任何异常操作，尤其是内核部分的，排在第一位的还是MySQL的后台进程。

一切看来是如此的诡异，MySQL本身几乎没有负载，但是CPU sys使用率较高，而且，只要关闭MySQL，CPU负载又会降下来。

最后，还是从/var/log/messages中找到些许蛛丝马迹。

联想到前几天的闰秒新闻，怀疑这个是闰秒造成的。

事实上，2012年发生的闰秒调整事件（2012年6月30日23:59:59）在全球造成了较大的影响，很多网站的服务器的CPU使用率飙升，导致网站被拖垮。

后来确认为Linux内核版本存在缺陷，在进行闰秒调整时可能会引起系统时钟服务ntpd进程死锁，并造成Linux系统重启。包括SUSE、RedHat等所有Linux kernel版本在2.6.29以下且开通了NTP服务的Linux系统都存在本次风险。如同步的时钟源对象为内部时钟源，理论上不会有此影响；如同步的时钟源对象为官方时钟源，则会存在上述风险。

该缺陷在2012年修复后，在2015年同样的闰秒调整事件中就没有造成极大的影响。

之前发生的闰秒调整导致MySQL服务器CPU sys飙高的问题，

具体可参考：

https://blog.mozilla.org/it/2012/06/30/mysql-and-the-leap-second-high-cpu-and-the-fix/

解决方法：

1. 重启服务器

2. 重新设置时间

/etc/init.d/ntpd stop; date -s now

很明显，第2种方法更实用。

重新设置时间后，CPU sys负载马上下降了。

那么，如何避免此类问题的发生呢？

简单方法：