java cms gc 361s引发的血案 -凯发k8网页登录

cms收集器调节

重点当然是要调节cms收集器，即要避免它在收集时停顿过长，更要避免产生promotion failed和concurrent mode failure的情况，因为这两种情况发生后都会引起cms做stop-the-world gc，其中第二中情况在做gc时还会做整理（compact），因而会有更久的停顿，而我们这次是两种情况同时遇到了。要避免这两种情况的发生需要先理解为什么会发生这两种情况。

首先，我们来看看promotion failed发生的情况：
我们知道当对象到一定的年龄，或者在某次回收过程中一个survivor无法装下所有存活的对象，或者一个对象的大小超过-xx:pretenuresizethreshold设置的值，就会被promote到old gen中，而在promote过程中如果old gen无法装下所有的内存时就会产生promotion failed（说cms是根据预估的值：modern cms collector estimates size of objects to be promoted using statistics from previous collections. if old space does not have enough free bytes to hold estimated promotion amount, concurrent mode failure will be raise.但是我的理解是这是parnew做的gc，为什么由cms来预估？所以应该是parnew把需要promote的对象传递给cms，然后cms做预估决定是否有足够多的内存存放这些新promote的对象），此时就会先做一遍cms gc，然后将新promote的对象存放到old gen中，由于这属于parnew gc的范围，因而这次的cms gc依然处于stw状态，因而这会花比较久的时间。如这次的parnew gc，花费5.75s：
2015-07-20t08:23:00.028-0400: [gc [parnew (promotion failed): 844305k->841244k(943744k), 0.2358120 secs][cms: 6282619k->1891959k(9437184k), 5.5098940 secs] 7126660k->1891959k(10380928k), [cms perm : 67716k->66078k(112860k)], 5.7458460 secs] [times: user=4.77 sys=0.02, real=5.75 secs]

我们当前的设置：-xx:cmsinitiatingoccupancyfraction=79 -xx: usecmsinitiatingoccupancyonly，也就是只有到old gen占用79%后才会触发cms gc，这里只占66.57%，因而还没能触发cms gc，然而此时parnew gc只回收了3061k的对象，还有841244k的对象存活，而一个survivor只有104857.6k大小，此时需要promote大概736386.4k大小的数据到old gen中，此时old gen还有（9437184k-6282619k=3154565k）大小的内存，虽然远远大于被promote的对象，但是我们知道cms采用标记-清除（mark-sweep）算法，而不主动整理（compact），但是它在每次回收时会合并相邻的内存空间，然而跑久了难免会产生内存碎片，也就是说此时内存碎片已经很多了，无法容纳新promote的对象，要不就是新promote的对象大小太大，或者碎片太小，因而需要出发一次cms gc来释放一些空间（此时发生的cms是不是已经退化成serial old收集器算法了？即在收集的过程还是整理？），以保证能存放下所有新promote出的对象。这里gc日志中并没有显示出什么这次parnew gc后，young gen还剩下多少内存，但是根据下一次parnew gc的初始大小是838912k，小于之前存活下来的对象（841244k），因而我们可以确定这次gc的结果是把多余的对象promtoe到old gen中了。
所以根据分析，我们可以从两个方向调节参数：
1. 降低cms gc的阈值。
2. 提前减少old gen中的碎片，即让cms gc做整理。
对降低cms gc阈值，我们可以调节参数：-xx:cmsinitiatingoccupancyfraction，默认大小68，我们可以将它设置成60。对提前减少old gen的碎片，这个比较麻烦，我们不想每次cms gc都做整理（compact），因而这会比较浪费，会增加gc总体的时间以及停顿的时间，而且也比较危险，因为万一某次整理时间太长会引起集群的不稳定（可以设置-xx:usecmscompactatfullcollection来实现这个功能）。还有一种办法是设置每经历n次cms后做一次整理，通过-xx:cmsfullgcsbeforecompaction=来设置，这个相对可以接受一些。当然如果能找到一个相对空闲的时间手动触发一次full gc，并且确保让它能触发整理（这个目前还没有找到合适的方法，jconsole提供的gc按钮是一个可选项，但是不确定。我做了一下尝试：

2015-07-31t16:04:49.183 0800: [full gc (system) [cms: 3861443k->1072505k(9437184k), 2.9535440 secs] 4458634k->1072505k(10380928k), [cms perm : 68183k->67112k(112880k)], 2.9537000 secs] [times: user=2.94 sys=0.00, real=2.95 secs]
看起来是减少了不少内存，按日志的格式，看起来像是serial old的算法？另外，使用这个功能要确保-xx:-disableexplicitgc是关闭的，虽然这就是默认值）。

关于产生promotion failed，还有更详细的解释，如涉及到plab（promotion local allocation buffer）的介绍等，以及这里是对它的。值得注意的是，cms在管理内存中使用空闲列表的方式，然而这种方式可能会存在某些问题，如这句话所说（具体就不展开了）：
cms memory manager is using separate free lists for different size of chunks. using these free lists, it can effectively fill small holes in fragmented memory space with objects of exact size. this technique is known to be fairly effective (and widely used in c/c memory managers). but, surprisingly, it doesn't seems to work well for jvm in many real live situations.

然后，再来看看concurrent mode failure的情况：
依然是，作者说concurrent mode failure是在young gc发生前，它会预估old gen是否有足够的空间存放从young gen中promote上来的对象，cms收集器根据之前统计来预估这些对象的大小，如果old gen没有足够的空间存放这个预估的值，就会发生concurrent mode failure。此时不一定会产生full gc，有些时候jvm只是等待当前并行收集完成，但是用户程序此时还是会stw直到这次收集技术。
at beginning  of each young gc, collector should ensure that there is enough free memory in old space to promote aged objects from young space. modern cms collector estimates size of objects to be promoted using statistics from previous collections. if old space does not have enough free bytes to hold estimated promotion amount, concurrent mode failure will be raise. concurrent mode failure doesn't necessary lead to full gc, in certain cases jvm will just wait for concurrent collection cycle to finish, but application will remain in stw pause until young collection will be finished.

然而根据我的观察，concurrent mode failure都是发生在cms已经开始，但是在中间阶段，出现parnew的promotion failed。
如这是发生在cms-concurrent-abortable-preclean阶段：

这是发生在cms-concurrent-sweep阶段：

这是发生在cms-concurrent-mark阶段：

虽然分析了那么多，还有一个疑问没能解决，对这个问题的调节方法还是一样的：1. 降低cms gc的阈值；2. 提前减少old gen中的碎片，即让cms gc做整理。这里不再赘述。

最后，我们可以看看其他的调节方式：
1. 我们知道cms收集器很多过程是并发进行的，因而我们可以控制并发线程的个数：-xx:parallelcmsthreads=4，我们采用的值是4，和parnew相同。cms默认的回收线程数是(cpu个数 3)/4。
2. 在历史上还出现过增量式并发收集器（incremental concurrent mark sweep，i-cms）。因为对少于4个cpu的时候，如果gc占用一般左右的cpu资源，会影响用户线程的吞吐量，因而增量式并发收集器的思想是在并发标记和并发清理时让用户线程和gc线程交替运行以减少gc占用太多的资源，特别是在只有一个cpu的情况下，即使在cms并发阶段，还是会产生stw的现象，因而可以使用i-cms来避免这种情况。然而i-cms已经不再推荐使用，具体可以参考。大概的原因是现在已经很少只有一个cpu的硬件了，而且i-cms在线程切换时会花费更多的资源和时间，它更加复杂，有更多的参数，难以调节，会产生更多的碎片。

3. 可以简单介绍一下cms的整个过程（还可以参考，或者，虽然这里用的例子是1.4.2的版本，我用的是1.6.30，会有一些区别）。以一个正常的cms为例：

1 cms-initial-mark：初始标记标记阶段，stw，cms起始点，标记所有root对象直接可达的对象，7462216k是cms触发时old gen的内存大小，7583692k是old gen＋young gen的内存大小。
cms-concurrent-mark：重新标记阶段，和用户线程同时处理，遍历初始标记出来的对象的所有直接或间接可达对象。cpu时间0.365s，总共0.365s（wall time）。这里times时间不是那么准确，因为起于该阶段的开始，但是中间可能包含其他的事情，如用户线程的执行影响等。

cms-concurrent-preclean：preclean阶段，这个阶段依然和用户线程同时处理，它会继续查看在重新标记阶段新产生的对象：从young gen promote上来的对象，新分配的对象，或被修改的对象。这个阶段主要用于减少下一次重新标记（remark）的时间，因为重新标记会stw。cpu时间0.020s，总共0.020s（wall time）。
cms-concurrent-abortable-preclean：可中断的preclean阶段，和用户线程同时处理，当preclean已经结束的时候就可以开始remark了，然而如果这样设计，由于cms-concurrent-preclean和用户线程一起运行，当它结束的时候，young gen已经使用了很多了，但是这里面有很多是可以回收的，为了提升效率就可以先parnew gc回收掉多余的对象，然后就会接着执行remark，就可以减少remark的时间；而如果young gen使用的很少，就可以立即启动remark过程；而如果介于之间，就可以先等待一会让eden占用一些空间后再启动remark，从而将parnew gc的stw和remark的stw错分开。因而cms的设计者就想出remark的执行时机还依赖于eden的使用情况（因为新对象总是先分配到eden空间），即通过两个变量来控制：cmsscheduleremarkedensize和cmsscheduleremarkedenpenetration，它们的默认值分别是2m和50%，表示在cms-concurrent-preclean结束后，如果eden只使用了少于2m，则直接启动remark；如果超过2m，但没有超过50%，则先启动cms-concurrent-abortable-preclean，直到eden的使用率超过了50%，然后启动remark过程，这样就保证了remark和parnew gc中间会有一定的时间间隔；如果已经超过了50%，就等待下次parnew gc完成，然后再做remark？貌似只有这样才能解释的通这些日志，当remark阶段准备好后它可以随时被中断，它的中断不是错。如这种日志：

这个日志表示preclean结束后eden使用少于2m，因而跳过abortable-preclean，直接开始remark阶段。

1 cms-remark：重新标记阶段，stw，这里yg occupancy表示该阶段开始时young gen的大小，因为这个阶段的时间长短部分依赖于young gen的大小；rescan用于多线程扫描程序停止时存活的对象，花费0.1319540s；weak refs processing用于处理weak reference的情况，花费0.0001s，如果这个阶段花费太长时间，可以打开开关：-xx: parallelrefprocenabled来调节；然后开始重新标记，即重新从root对象遍历标记存活对象。
cms-concurrent-sweep：并发清理，和其他线程同时执行，做真正的清理工作，如把可以回收的内存放回空闲列表，合并相邻内存空间等。

cms-concurrent-reset：重置cms的状态用于下一次执行。