JVM性能调优

JVM性能调优

一、JVM内存组成及分配

组成图

  • 方法栈&本地方法栈:线程创建时产生,方法执行时生成栈帧
  • 方法区:存储类的元数据信息 常量等
  • 堆:java代码中所有的new操作
  • native Memory(C heap):Direct Bytebuffer JNI Compile GC;

堆内存组

组成详解
Young Generation即图中的Eden + From Space + To Space
Eden存放新生的对象
Survivor Space有两个,存放每次垃圾回收后存活的对象
Old GenerationTenured Generation 即图中的Old Space 主要存放应用程序中生命周期长的存活对象

1

非堆内存分配

组成详解
Permanent Generation保存虚拟机自己的静态(refective)数据 主要存放加载的Class类级别静态对象如class本身,method,field等等 permanent generation空间不足会引发full GC(详见HotSpot VM GC种类)
Code Cache用于编译和保存本地代码(native code)的内存JVM内部处理或优化

1

 

二、内存申请&对象衰老

堆内存GC
JVM(采用分代回收的策略),用较高的频率对年轻的对象(young generation)进行YGC,而对老对象(tenured generation)较少(tenured generation 满了后才进行)进行Full GC。这样就不需要每次GC都将内存中所有对象都检查一遍。

**非堆内存不GC **

GC不会在主程序运行期对PermGen Space进行清理,所以如果你的应用中有很多CLASS(特别是动态生成类,当然permgen space存放的内容不仅限于类)的话,就很可能出现PermGen Space错误。

内存申请、对象衰老过程
内存申请过程

  1. JVM会试图为相关Java对象在Eden中初始化一块内存区域;
  2. 当Eden空间足够时,内存申请结束。否则到下一步;
  3. JVM试图释放在Eden中所有不活跃的对象(minor collection),释放后若Eden空间仍然不足以放入新对象,则试图将部分Eden中活跃对象放入Survivor区;
  4. Survivor区被用来作为Eden及old的中间交换区域,当OLD区空间足够时,Survivor区的对象会被移到Old区,否则会被保留在Survivor区;
  5. 当old区空间不够时,JVM会在old区进行major collection;
  6. 完全垃圾收集后,若Survivor及old区仍然无法存放从Eden复制过来的部分对象,导致JVM无法在Eden区为新对象创建内存区域,则出现"Out of memory错误";

对象衰老过程

  1. 新创建的对象的内存都分配自eden。Minor collection的过程就是将eden和在用survivor space中的活对象copy到空闲survivor space中。对象在young generation里经历了一定次数(可以通过参数配置)的minor collection后,就会被移到old generation中,称为tenuring。
  2. GC触发条件
GC类型触发条件触发时发生了什么
YGCeden空间不足清空Eden+from survivor中所有no ref的对象占用的内存 将eden+from sur中所有存活的对象copy到to sur中 一些对象将晋升到old中: to sur放不下的 存活次数超过turning threshold中的 重新计算tenuring threshold(serial parallel GC会触发此项) 重新调整Eden 和from的大小(parallel GC会触发此项)
FGCold空间不足 perm空间不足 显示调用System。GC, RMI等的定时触发 YGC时的悲观策略 dump live内存信息时(jmap –dump:live)清空heap中no ref的对象 permgen中已经被卸载的classloader中加载的class信息

1

  1. permanent generation空间不足会引发Full GC,仍然不够会引PermGen Space错误。

三、JVM参数设置&调优分析

JVM****参数的含义

参数名称含义默认值 
-Xms初始堆大小物理内存的1/64(<1GB)默认空余堆内存小于40%时,JVM就会增大堆直到-Xmx的最大限制。
-Xmx最大堆大小物理内存的1/4(<1GB)默认空余堆内存大于70%时,JVM会减少堆直到 -Xms的最小限制
-Xmn年轻代大小(1。4or later) 注意:此处大小是(eden + 2 survivor space),与jmap -heap显示的New gen不同 整个堆大小= 年轻代大小 + 年老代大小 + 持久代大小。 Sun官方推荐配置为整个堆的3/8
-XX:PermSize设置持久代(perm gen)初始值物理内存的1/64 
-XX:MaxPermSize设置持久代最大值物理内存的1/4 
-Xss每个线程的堆栈大小 JDK5.0以后每个线程堆栈大小为1M。根据应用的线程所需内存大小进行调整。在相同物理内存下,减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的,不能无限生成,经验值在3000~5000左右 一般小的应用,128k够用;大的应用建议使用256k。这个选项对性能影响比较大,需要严格的测试。
-XX:ThreadStackSizeThread Stack Size (0 means use default stack size) [Sparc: 512; Solaris x86: 320 (was 256 prior in 5.0 and earlier); Sparc 64 bit: 1024; Linux amd64: 1024 (was 0 in 5.0 and earlier); all others 0。]
-XX:NewRatio年轻代(包括Eden和两个Survivor区)与年老代的比值(除去持久代) -XX:NewRatio=4表示年轻代与年老代所占比值为1:4,年轻代占整个堆栈的1/5 Xms=Xmx并且设置了Xmn的情况下,该参数不需要进行设置。
-XX:SurvivorRatioEden区与Survivor区的大小比值 设置为8,则两个Survivor区与一个Eden区的比值为2:8,一个Survivor区占整个年轻代的1/10
-XX:LargePageSizeInBytes内存页的大小不可设置过大, 会影响Perm的大小 =128m
-XX:+UseFastAccessorMethods原始类型的快速优化  
-XX:+DisableExplicitGC关闭System。gc() 这个参数需要严格的测试
-XX:MaxTenuringThreshold垃圾最大年龄 设置为0的话,年轻代对象不经过Survivor区,直接进入年老代。 对于年老代比较多的应用,可以提高效率;如果将此值设置为一个较大值,则年轻代对象会在Survivor区进行多次复制,这样可以增加对象再年轻代的存活时间,增加在年轻代即被回收的概率 该参数只有在串行GC时才有效。
-XX:+AggressiveOpts加快编译  
-XX:+UseBiasedLocking锁机制的性能改善  
-Xnoclassgc禁用垃圾回收  
-XX:SoftRefLRUPolicyMSPerMB每兆堆空闲空间中SoftReference的存活时间1ssoftly reachable objects will remain alive for some amount of time after the last time they were referenced。 The default value is one second of lifetime per free megabyte in the heap
-XX:PretenureSizeThreshold对象超过多大是直接在旧生代分配0单位字节 新生代采用Parallel Scavenge GC时无效 另一种直接在旧生代分配的情况是大的数组对象,且数组中无外部引用对象。
-XX:TLABWasteTargetPercentTLAB占eden区的百分比1% 
-XX:+CollectGen0FirstFullGC时是否先YGCfalse 

1

并行收集器相关参数

-XX:+UseParallelGCFull GC采用parallel MSC 选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下,年轻代使用并发收集,而年老代仍旧使用串行收集
-XX:+UseParNewGC设置年轻代为并行收集 可与CMS收集同时使用 JDK5。0以上,JVM会根据系统配置自行设置,所以无需再设置此值
-XX:ParallelGCThreads并行收集器的线程数 此值最好配置与处理器数目相等 同样适用于CMS
-XX:+UseParallelOldGC年老代垃圾收集方式为并行收集(Parallel Compacting) 这个是JAVA 6出现的参数选项
-XX:MaxGCPauseMillis每次年轻代垃圾回收的最长时间(最大暂停时间) 如果无法满足此时间,JVM会自动调整年轻代大小,以满足此值。
-XX:+UseAdaptiveSizePolicy自动选择年轻代区大小和相应的Survivor区比例 设置此选项后,并行收集器会自动选择年轻代区大小和相应的Survivor区比例,以达到目标系统规定的最低相应时间或者收集频率等,此值建议使用并行收集器时,一直打开。
-XX:GCTimeRatio设置垃圾回收时间占程序运行时间的百分比 公式为1/(1+n)
-XX:+ScavengeBeforeFullGCFull GC前调用YGCtrue 

1

CMS****相关参数

-XX:+UseConcMarkSweepGC使用CMS内存收集 测试中配置这个以后,-XX:NewRatio=4的配置失效了所以此时年轻代大小最好用-Xmn设置
-XX:+AggressiveHeap  试图使用大量的物理内存 长时间大内存使用的优化,能检查计算资源(内存, 处理器数量) 至少需要256MB内存
-XX:CMSFullGCsBeforeCompaction多少次后进行内存压缩 由于并发收集器不对内存空间进行压缩,整理,所以运行一段时间以后会产生"碎片",使得运行效率降低。此值设置运行多少次GC以后对内存空间进行压缩,整理。
-XX:+CMSParallelRemarkEnabled降低标记停顿  
-XX+UseCMSCompactAtFullCollection在FULL GC的时候, 对年老代的压缩 CMS是不会移动内存的, 因此, 这个非常容易产生碎片, 导致内存不够用, 因此, 内存的压缩这个时候就会被启用。 增加这个参数是个好习惯。 可能会影响性能,但是可以消除碎片
-XX:+UseCMSInitiatingOccupancyOnly使用手动定义初始化定义开始CMS收集 禁止hostspot自行触发CMS GC
-XX:CMSInitiatingOccupancyFraction=70使用cms作为垃圾回收 使用70%后开始CMS收集92为了保证不出现promotion failed(见下面介绍)错误,该值的设置需要满足以下公式CMSInitiatingOccupancyFraction计算公式
-XX:CMSInitiatingPermOccupancyFraction设置Perm Gen使用到达多少比率时触发92 
-XX:+CMSIncrementalMode设置为增量模式 用于单CPU情况
-XX:+CMSClassUnloadingEnabled   

1

辅助信息

-XX:+PrintGC  输出形式:[GC 118250K->113543K(130112K), 0。0094143 secs] [Full GC 121376K->10414K(130112K), 0。0650971 secs]
-XX:+PrintGCDetails  输出形式:[GC [DefNew: 8614K->781K(9088K), 0。0123035 secs] 118250K->113543K(130112K), 0。0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0。0000665 secs][Tenured: 112761K->10414K(121024K), 0。0433488 secs] 121376K->10414K(130112K), 0。0436268 secs]
-XX:+PrintGCTimeStamps   
-XX:+PrintGC:PrintGCTimeStamps  可与-XX:+PrintGC -XX:+PrintGCDetails混合使用 输出形式:11。851: [GC 98328K->93620K(130112K), 0。0082960 secs]
- XX:+PrintGCApplicationStoppedTime打印垃圾回收期间程序暂停的时间。可与上面混合使用 输出形式:Total time for which application threads were stopped: 0。0468229 seconds
-XX:+PrintGCApplicationConcurrentTime打印每次垃圾回收前,程序未中断的执行时间。可与上面混合使用 输出形式:Application time: 0。5291524 seconds
-XX:+PrintHeapAtGC打印GC前后的详细堆栈信息  
-Xloggc:filename把相关日志信息记录到文件以便分析。 与上面几个配合使用  
-XX:+PrintClassHistogramgarbage collects before printing the histogram。  
-XX:+PrintTLAB查看TLAB空间的使用情况  
-XX:+HeapDumpOnOutOfMemoryError内存溢出时打印线程堆栈  
XX:+PrintTenuringDistribution查看每次minor GC后新的存活周期的阈值 Desired survivor size 1048576 bytes, new threshold 7 (max 15) new threshold 7即标识新的存活周期的阈值为7。

1

GC****性能调优

对于GC的性能主要有2个方面的指标:吞吐量throughput和暂停pause

1 Total Heap 遵循以下规则:

  1. 对vm分配尽可能多的memory;
  2. 将Xms和Xmx设为一样的值。如果虚拟机启动时设置使用的内存比较小,这个时候又需要初始化很多对象,虚拟机就必须重复地增加内存。
  3. 处理器核数增加,内存也跟着增大。

2 The Young Generation遵循以下规则:

  1. 首先决定能分配给vm的最大的heap size,然后设定最佳的young generation的大小;
  2. 如果heap size固定后,增加young generation的大小意味着减小tenured generation大小。让tenured generation在任何时候够大,能够容纳所有live的data(留10%-20%的空余)。

经验&规则

  1. 年轻代大小选择

  2. 响应时间优先的应用:尽可能设大,直到接近系统的最低响应时间限制。在此种情况下,年轻代收集发生的频率也是最小的。同时,减少到达年老代的对象。

    1. 吞吐量优先的应用:尽可能的设置大,可能到达Gbit的程度。因为对响应时间没有要求,垃圾收集可以并行进行,一般适合8CPU以上的应用。
    2. 避免设置过小。当新生代设置过小时会导致:1。YGC次数更加频繁 2。可能导致YGC对象直接进入旧生代,如果此时旧生代满了,会触发FGC。
  3. 年老代大小选择

  4. 响应时间优先的应用:年老代使用并发收集器,所以其大小需要小心设置,一般要考虑并发会话率和会话持续时间等一些参数。如果堆设置小了,可以会造成内存碎片,高回收频率以及应用暂停而使用传统的标记清除方式;如果堆大了,则需要较长的收集时间。最优化的方案,一般需要参考以下数据获得:

并发垃圾收集信息、持久代并发收集次数、传统GC信息、花在年轻代和年老代回收上的时间比例。 1. 吞吐量优先的应用:一般吞吐量优先的应用都有一个很大的年轻代和一个较小的年老代。原因是,这样可以尽可能回收掉大部分短期对象,减少中期的对象,而年老代尽存放长期存活对象。

  1. 较小堆引起的碎片问题

  2. 因为年老代并发收集器使用标记清除算法,所以不会对堆进行压缩。当收集器回收时,他会把相邻的空间进行合并,这样可以分配给较大的对象。但是,当堆空间较小时,运行一段时间以后,就会出现"碎片",如果并发收集器找不到足够的空间,那么并发收集器将会停止,然后使用传统的标记,清除方式进行回收。

    1. 如果出现"碎片",可能需要进行如下配置:

-XX:+UseCMSCompactAtFullCollection:使用并发收集器时,开启对年老代的压缩。
-XX:CMSFullGCsBeforeCompaction=0:上面配置开启的情况下,这里设置多少次Full GC后,对年老代进行压缩

  1. 用64位操作系统,Linux下64位的jdk比32位jdk要慢一些,但是吃得内存更多,吞吐量更大
  2. XMX和XMS设置一样大,MaxPermSize和MinPermSize设置一样大,这样可以减轻伸缩堆大小带来的压力
  3. 使用CMS的好处是用尽量少的新生代,经验值是128M-256M, 然后老生代利用CMS并行收集, 这样能保证系统低延迟的吞吐效率。 实际上cms的收集停顿时间非常的短,2G的内存, 大约20-80ms的应用程序停顿时间
  4. 系统停顿的时候可能是GC的问题也可能是程序的问题,多用jmap和jstack查看,或者killall -3 java,然后查看java控制台日志,能看出很多问题
  5. 仔细了解自己的应用,如果用了缓存,那么年老代应该大一些,缓存的HashMap不应该无限制长,建议采用LRU算法的Map做缓存,LRUMap的最大长度也要根据实际情况设定。
  6. 采用并发回收时,年轻代小一点,年老代要大,因为年老大用的是并发回收,即使时间长点也不会影响其他程序继续运行,网站不会停顿
  7. JVM参数的设置(特别是 –Xmx –Xms –Xmn -XX:SurvivorRatio  -XX:MaxTenuringThreshold等参数的设置没有一个固定的公式,需要根据old区实际数据 YGC次数等多方面来衡量。为了避免promotion faild可能会导致xmn设置偏小,也意味着YGC的次数会增多,处理并发访问的能力下降等问题。每个参数的调整都需要经过详细的性能测试,才能找到特定应用的最佳配置。

**四、JVM调优案例 **

API****网关项目

背景:对网关的http密文接口进行压测,需要在客户端先对请求进行一次加密操作,把相关方法打成jar包放入jmeter的lib目录下,在jmeter中直接调用加密算法的方法

现象:单个压力机启用500并发情况下,1分钟不到就FullGC1次,压力机的处理能力随着时间推移,越来越差,开始出现报错。默认Jvm配置如下:-Xms1024m  -Xmx2048m -XX:NewSize=512m

分析与调优过程:

  1. 刚开始没想着往jvm调优方向考虑。觉得jmeter内存泄露可能性很小,是否是jar包内的方法导致内存泄露,打印dump内存文件进行分析,占用内存较大对象都是比较底层方法,没有线索。
    1. 排查了一下jar包内的方法,是否有new大对象或者一直new对象的操作;结果方法都很简单,并没有上述情况
    2. 转变思考方向,不是代码导致,只能从jvm调优入手。加大堆内存,-Xms4096m -Xmx4096m -XX:NewSize=512m –Xss512k,FullGC频率比之前降低,但对压测结果并没有改善
    3. 调整为:-Xms4096m -Xmx4096m -XX:NewSize=512m –Xss256k,FullGC频率又有所降低
    4. 后来想到cms收集器在多cpu上性能较优,开启CMS,调整为:-XX:+CMSClassUnloadingEnabled -Xmx4096m -Xms4096m -XX:PermSize=512m -Xss256k -XX:CMSInitiatingOccupancyFraction=75 -XX:+UseConcMarkSweepGC,性能问题解决,FullGC频率降低10分钟1次,每次FullGC都比较彻底,长时间压测性能结果很稳定

jvm默认的垃圾收集器是什么呢?

运行在JVM的客户端模式(Client)下,JVM默认垃圾收集器是串行垃圾收集器(Serial GC,-XX:+USeSerialGC);在JVM服务器模式(Server)下默认垃圾收集器是并行垃圾收集器(Parallel GC,-XX:+UseParallelGC)。

xx****项目

背景: 帮同事解决和分析,不记得是啥项目了。该情况已经遇过2次

现象:使用jvm默认收集器时,FGC很正常。开启cms收集器后,FGC10几秒1次,观察内存情况,发现old区内存增长很快。默认Jvm配置如下:-XX:+CMSClassUnloadingEnabled –Xmx4096m –Xms4096m -XX:+UseConcMarkSweepGC

分析与调优过程:

  1. 思考发生FGC的原因,Old区内存不够了,然而jvm配置了足够大的堆内存。用jmap –heap pid,查看了一下内存分配的情况。发现jvm默认分配给Eden区只有256Mb,s0和s1区只有32Mb。

 

  1. 回顾一下发生YGC时,会将没有回收的对象S0+eden -> S1,默认设置新生代很小,导致S1装不下由S0+eden复制而来的对象,会直接放入老年代内存,导致Old内存迅速增长。现象与猜想是否正确呢,jvm调优来验证一下。调整为:-XX:NewRatio=3  -XX:SurvivorRatio=8

-XX:+CMSClassUnloadingEnabled -Xmx4096m -Xms4096m  -XX:+UseConcMarkSweepGC 1. 一时心急,把年轻代设置放在了最前面,结果服务启动报错,Too small  for new size specified。调整一下位置:-XX:+CMSClassUnloadingEnabled -Xmx4096m -Xms4096m -XX:NewRatio=3  -XX:SurvivorRatio=8 -XX:+UseConcMarkSweepGC 1. 查看一下此时内存分配。压测结果稳定,没有在出现FullGC的情况

 

其他案例(网上)

java application****项目(非web项目)

1-Xms128m 2 3-Xmx128m 4 5-XX:NewSize=64m 6 7-XX:PermSize=64m 8 9-XX:+UseConcMarkSweepGC 10 11-XX:CMSInitiatingOccupancyFraction=78 12 13-XX:ThreadStackSize=128 14

问题:

  1. permsize 设置较小,很容易达到报警范围(0.8)
  2. 没有设置MaxPermSize,堆增长会带来额外压力。
  3. NewSize较大,old gen 剩余空间64m,一方面可能会带来old区容易增长到报警范围(监控数据显示oldgenused长期在50m左右,接近78%,容易出现full gc),另一方面也存在promontion fail风险

改进后:

1-Xms128m 2 3-Xmx128m 4 5-Xmn24m 6 7-XX:PermSize=80m 8 9-XX:MaxPermSize=80m 10 11-Xss256k 12 13-XX:SurvivorRatio=1 14 15-XX:MaxTenuringThreshold=20 16 17-XX:+UseParNewGC 18 19-XX:+UseConcMarkSweepGC 20 21-XX:CMSInitiatingOccupancyFraction=75 22 23-XX:+UseCMSCompactAtFullCollection 24 25-XX:+CMSParallelRemarkEnabled 26 27-XX:CMSFullGCsBeforeCompaction=2 28 29-XX:SoftRefLRUPolicyMSPerMB=0 30

修改点:

  1. PermSize与MaxPermSize都设置为80,一方面避免non heap warn(报警阀值0.8 非对内存一般占用到60M以内),一方面避免堆伸缩带来的压力
  2. 通过设置Xmn=24M及SurvivorRatio=1 使得Eden区=from space=to  space=8M,降低了Eden区大小,降低YGC的时间(降低到3-4ms左右),同时通过设MaxTenuringThreshold=20,使得old gen的增长很缓慢。带来的问题是YGC的次数明显提高了很多。

 

网上某个牛人的配置**:每天几百万pv**一点问题都没有,网站没有停顿****

-Xms6000M
-Xmx6000M
-Xmn500M
-XX:PermSize=500M
-XX:MaxPermSize=500M
-XX:SurvivorRatio=65536
-XX:MaxTenuringThreshold=0
-Xnoclassgc
-XX:+DisableExplicitGC
-XX:+UseParNewGC
-XX:+UseConcMarkSweepGC
-XX:+UseCMSCompactAtFullCollection
-XX:CMSFullGCsBeforeCompaction=0
-XX:+CMSClassUnloadingEnabled
-XX:-CMSParallelRemarkEnabled
-XX:CMSInitiatingOccupancyFraction=90

  1. -XX:SurvivorRatio=65536 -XX:MaxTenuringThreshold=0就是去掉了救助空间; 
  2. -Xnoclassgc禁用类垃圾回收,性能会高一点; 
  3. -XX:+DisableExplicitGC禁止System.gc(),免得程序员误调用gc方法影响性能; 
  4. -XX:+UseParNewGC,对年轻代采用多线程并行回收,这样收得快; 
  5. 带CMS参数的都是和并发回收相关的
  6. CMSInitiatingOccupancyFraction,这个参数设置有很大技巧,基本上满足(Xmx-Xmn)*(100-CMSInitiatingOccupancyFraction)/100>=Xmn就不会出现promotion failed。在我的应用中Xmx是6000,Xmn是500,那么Xmx-Xmn是5500兆,也就是年老代有5500兆,CMSInitiatingOccupancyFraction=90说明年老代到90%满的时候开始执行对年老代的并发垃圾回收(CMS),这时还剩10%的空间是5500*10%=550兆,所以即使Xmn(也就是年轻代共500兆)里所有对象都搬到年老代里,550兆的空间也足够了,所以只要满足上面的公式,就不会出现垃圾回收时的promotion failed; 
  7. SoftRefLRUPolicyMSPerMB这个参数我认为可能有点用,官方解释是softly reachable objects will remain alive for some amount of time after the last time they were referenced. The default value is one second of lifetime per free megabyte in the heap

改进后:

-Xmx4000M
-Xms4000M
-Xmn600M
-XX:PermSize=500M
-XX:MaxPermSize=500M
-Xss256K
-XX:+DisableExplicitGC
-XX:SurvivorRatio=1
-XX:+UseConcMarkSweepGC
-XX:+UseParNewGC
-XX:+CMSParallelRemarkEnabled
-XX:+UseCMSCompactAtFullCollection
-XX:CMSFullGCsBeforeCompaction=0
-XX:+CMSClassUnloadingEnabled
-XX:LargePageSizeInBytes=128M
-XX:+UseFastAccessorMethods
-XX:+UseCMSInitiatingOccupancyOnly
-XX:CMSInitiatingOccupancyFraction=80
-XX:SoftRefLRUPolicyMSPerMB=0
-XX:+PrintClassHistogram
-XX:+PrintGCDetails
-XX:+PrintGCTimeStamps
-XX:+PrintHeapAtGC
-Xloggc:log/gc .log

改进方案:

上面方法没有用到救助空间,所以年老代容易满,CMS执行会比较频繁。我改善了一下,还是用救助空间,但是把救助空间加大,这样也不会有promotion failed。
具体操作上,32位Linux和64位Linux好像不一样,64位系统似乎只要配置MaxTenuringThreshold参数,CMS还是有暂停。为了解决暂停问题和promotion failed问题,最后我设置-XX:SurvivorRatio=1 ,并把MaxTenuringThreshold去掉,这样即没有暂停又不会有promotoin failed,而且更重要的是,年老代和永久代上升非常慢,所以CMS执行频率非常低,好几个小时才执行一次。

代码交流 2021