百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分析 > 正文

导致程序出现OOM的因素,夜深人静的时候,程序OOM异常追踪

liebian365 2024-11-12 13:11 33 浏览 0 评论

  认真写文章,用心做分享。公众号:Java耕耘者 ??文章都会在里面更新,整理的资料也会放在里面。

 作为Java程序员, 除了享受垃圾回收机制带来的便利外, 还深受OOM(Out Of Memory)的困惑和折磨.

先来看下java的内存分布

堆溢出(heap)
  编写如下例程:

public static void main(String[] args) {

  List<byte[]> datas = new ArrayList<byte[]>();

  while ( true ) {

    datas.add(new byte[1024 * 1024]);

  }

}

  同时设置虚拟机参数, 使得java进程能够快速生成heapdump.

-Xms20m -Xmx20m -XX:+HeapDumpOnOutOfMemoryError

  评注: 设置heap的内存限制在20m, Xms/Xmx分别对应heap的初始和最大heap大小.
  产生的异常信息:

mat进行内存分析

评注: 从这边能看出, 这边聚集了众多的对象, 占据了99%的内存量.
  

栈溢出(stack)
  栈溢出的异常, 还是具有明确的指向性的. 暂略.
 

永久代溢出(常量池/方法区)
 String.intern()和cglib动态代理类的两个例子.
  其错误也很有指向性:

Exception in thread "main" java.lang.OutOfMemoryError: PermGen space

  这边讲述下, 小编(mumuxinfei)很久之前做的一个项目.

OOM的原因分类

 导致程序出现OOM的因素有多种. 大致我们可以把OOM简单的分为堆溢出(Heap), 栈溢出(Stack), 永久代溢出(常量池/方法区), 直接内存溢出.

  • outOfMemoryError 年老代内存不足。
  • outOfMemoryError:PermGen Space 永久代内存不足。
  • outOfMemoryError:GC overhead limit exceed 垃圾回收时间占用系统运行时间的98%或以上。
  • 在这里我们就要结合代码,观察是否大量应该被回收的对象在一直被引用或者是否有占用内存特别大的对象无法被回收。

    问题展示


    日志文件:

    时间戳 [http-nio-端口号-exec-1] ERROR ResponseExceptionHandle:26 - Handler dispatch failed; nested exception is java.lang.OutOfMemoryError: GC overhead limit exceeded
    org.springframework.web.util.NestedServletException: Handler dispatch failed; nested exception is java.lang.OutOfMemoryError: GC overhead limit exceeded
    	****中间一大段****
    Caused by: java.lang.OutOfMemoryError: GC overhead limit exceeded

    这个时候要是有可视化界面就好了(或者拥有运维的电脑,自己用Arthas上去),没办法,只能让运维线程栈信息以及内存信息下载下来。

    Linux上生成文件命令

    # 生成堆转储快照dump文件命令
    jmap -dump:format=b,file=heapdump.hprof pid
    # 生成堆栈信息文件命令
    jstack -l pid >> stack.txt

    堆栈信息查看

    "http-nio-端口号-exec-1" #37 daemon prio=5 os_prio=0 tid=0x00007f789d236800 nid=0x650e waiting on condition [0x00007f7851409000]
       java.lang.Thread.State: WAITING (parking)
    	at sun.misc.Unsafe.park(Native Method)
    	- parking to wait for  <0x00000000faa51ba0> (a java.util.concurrent.locks.AbstractQueuedSynchronizer$ConditionObject)
    	at java.util.concurrent.locks.LockSupport.park(LockSupport.java:175)
    	at java.util.concurrent.locks.AbstractQueuedSynchronizer$ConditionObject.await(AbstractQueuedSynchronizer.java:2039)
    	at java.util.concurrent.LinkedBlockingQueue.take(LinkedBlockingQueue.java:442)
    	at org.apache.tomcat.util.threads.TaskQueue.take(TaskQueue.java:103)
    	at org.apache.tomcat.util.threads.TaskQueue.take(TaskQueue.java:31)
    	at java.util.concurrent.ThreadPoolExecutor.getTask(ThreadPoolExecutor.java:1067)
    	at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1127)
    	at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
    	at org.apache.tomcat.util.threads.TaskThread$WrappingRunnable.run(TaskThread.java:61)
    	at java.lang.Thread.run(Thread.java:745)
    
       Locked ownable synchronizers:
    	- None
    ****等等容器内其他线程

    上面只是我截取整个线程堆栈信息的一个容器线程状态查看,整个文件下来是没有发现死锁的发生,那线程方面是没有问题的,不会有线程相互竞争资源造成服务内部请求阻塞而造成OOM的情况发生。

    堆转储快照查看

    我们通过上面那条指令,以hprof二进制格式转储Java堆到指定filename的文件中。按照普通的文件方式打开肯定是行不通的(你在想啥呢?醒醒)。我这边是有两种方式去处理分析这种文件的。

    利用jhat

    利用JDK里面的指令去分析文件(有时dump出来的堆很大,在启动时会报堆空间不足的错误,可加参数:jhat -J-Xmx512m <heap dump file>。这个内存大小可根据自己电脑进行设置。):

    接着你就可以在浏览器里面输入 http://localhost:7000/进行访问:

    当前页面是展示了当前容器内包含的类以及id。页面的最下面是导航栏了:

    • All classes including platform 显示堆中所包含的所有的类
    • Show all members of the Rootset 从根集能引用到的对象
    • Show instance counts for all classes(including platform)显示平台包括的所有类的实例数量
    • Show instance counts for all classes(excluding platform)显示除去平台包括的所有类的实例数量
    • Show heap histogram 堆实例分布表
    • Show finalizer summary 显示终结器概述
    • Execute Object Query Language(OQL)query 执行对象查询语句

    一般查看堆异常情况主要看这个两个部分:

    • Show instance counts for all classes (excluding platform),平台外的所有对象信息。如下图:
    • Show heap histogram,以树状图形式展示堆情况。如下图:

    要注意的是,一般不会直接在服务器上进行分析,因为jhat是一个耗时并且耗费硬件资源的过程,一般把服务器生成的dump文件复制到本地或其他机器上进行分析。

    利用Memory Analyzer

    打开mat(MAC端安装MAT)然后导入文件:


    这里面参数说明很多

    Shallow Heap 表示一个对象消费的内存的总量。对象 X 的 Retained Set 指的是一旦 X 被垃圾回收后也会随之被 GC 回收掉的对象的集合。对象 X 的 Retained heap 指的是 X 的 retained set 中所有对象的 shallow heap 之和,或者说是因为对象 X而保持 alive 的内存的大小。

    我们查看下面的选项:

    1. Histogram可以列出内存中的对象,对象的个数以及大小。
    2. Dominator Tree可以列出那个线程,以及线程下面的那些对象占用的空间。
    3. Top consumers通过图形列出最大的object。
    4. Leak Suspects通过MA自动分析泄漏的原因。

    我们看到最大的那个区域就好(占用了41MB的):我们可以看到左下角是显示对象的名称:org.hibernate.internal.SessionFactoryImpl。我们的技术栈持久层框架使用的是hibernate

    我们点击Leak Suspects,然后出现:

    经过MAT出现了两个怀疑内存泄露相关的问题:


    我们通过查看下面的问题描述知道:

    Question1:被LaunchedURLClassLoader类加载器加载的一个SessionFactoryImpl实例中的BoundedConcurrentHashMap堆积着内存空间,占据了42,984,656字节。

    Question2:该内存中存在被SystemClassLoader加载的7,941个Class对象,占据了10,075,768字节。

    从Q1入手进行查看:


    1. Description 描述信息
    2. Shortest Paths To the Accumulation Point 到堆积点的最短路径
    3. Accumulated Objects by Class in Dominator Tree 支配树中按类累积对象
    4. All Accumulated Objects by Class 所有按类累积的对象

    我们这里就选择从下面三个都可以进行查看当前容器内部的内存堆积问题。上面的第二个是从堆积点一直追踪到线程,可以看到每一个线程对应的Shallow Heap以及Retained heap。

    我们这里就查看第三个:

    我们查看到是SessionFactoryImpl中的QueryPlanCache中存在一个Map集合,该集合占据了大量的内存空间。这个类实际运用中还没有使用到过,不过看这个提示以及名称,个人觉得跟ConcurrentHashMap相似(有大佬对BoundedConcurrentHashMap了解的嘛,可以评论下让我涨涨知识)。通过QueryPlanCache的名字,就可以知道它是用来缓存查询计划的,也就是缓存sql语句,以便于后边的相同的sql重复编译。

    总结:

    本人故障定位中查到的N多OOM问题,原因不外乎以下3类

    1、线程池不管理式滥用

    2、本地缓存滥用(如只需要使用Node的id,但将整个Node所有信息都缓存)

    3、特殊场景考虑不足(如采用单线程处理复杂业务,环境震荡+多设备下积压任务暴增)

    ==============利用gc.log进行OOM监控=======================

    针对JVM的监听,JDK默认提供了如jconsole、jvisualVM工具都非常好用。

    相关推荐

    “版本末期”了?下周平衡补丁!国服最强5套牌!上分首选

    明天,酒馆战棋就将迎来大更新,也聊了很多天战棋相关的内容了,趁此机会,给兄弟们穿插一篇构筑模式的卡组推荐!老规矩,我们先来看10职业胜率。目前10职业胜率排名与一周前基本类似,没有太多的变化。平衡补丁...

    VS2017 C++ 程序报错“error C2065:“M_PI”: 未声明的标识符&quot;

    首先,程序中头文件的选择,要选择头文件,在文件中是没有对M_PI的定义的。选择:项目——>”XXX属性"——>配置属性——>C/C++——>预处理器——>预处理器定义,...

    东营交警实名曝光一批酒驾人员名单 88人受处罚

    齐鲁网·闪电新闻5月24日讯酒后驾驶是对自己和他人生命安全极不负责的行为,为守护大家的平安出行路,东营交警一直将酒驾作为重点打击对象。5月23日,东营交警公布最新一批饮酒、醉酒名单。对以下驾驶人醉酒...

    Qt界面——搭配QCustomPlot(qt platform)

    这是我第一个使用QCustomPlot控件的上位机,通过串口精确的5ms发送一次数据,再将读取的数据绘制到图表中。界面方面,尝试卡片式设计,外加QSS简单的配了个色。QCustomPlot官网:Qt...

    大话西游2分享赢取种族坐骑手办!PK趣闻录由你书写

    老友相聚,仗剑江湖!《大话西游2》2021全民PK季4月激燃打响,各PK玩法鏖战齐开,零门槛参与热情高涨。PK季期间,不仅各种玩法奖励丰厚,参与PK趣闻录活动,投稿自己在PK季遇到的趣事,还有机会带走...

    测试谷歌VS Code AI 编程插件 Gemini Code Assist

    用ClaudeSonnet3.7的天气测试编码,让谷歌VSCodeAI编程插件GeminiCodeAssist自动编程。生成的文件在浏览器中的效果如下:(附源代码)VSCode...

    顾爷想知道第4.5期 国服便利性到底需优化啥?

    前段时间DNF国服推出了名为“阿拉德B计划”的系列改版计划,截至目前我们已经看到了两项实装。不过关于便利性上,国服似乎还有很多路要走。自从顾爷回归DNF以来,几乎每天都在跟我抱怨关于DNF里面各种各样...

    掌握Visual Studio项目配置【基础篇】

    1.前言VisualStudio是Windows上最常用的C++集成开发环境之一,简称VS。VS功能十分强大,对应的,其配置系统较为复杂。不管是对于初学者还是有一定开发经验的开发者来说,捋清楚VS...

    还嫌LED驱动设计套路深?那就来看看这篇文章吧

    随着LED在各个领域的不同应用需求,LED驱动电路也在不断进步和发展。本文从LED的特性入手,推导出适合LED的电源驱动类型,再进一步介绍各类LED驱动设计。设计必读:LED四个关键特性特性一:非线...

    Visual Studio Community 2022(VS2022)安装图文方法

    直接上步骤:1,首先可以下载安装一个VisualStudio安装器,叫做VisualStudioinstaller。这个安装文件很小,很快就安装完成了。2,打开VisualStudioins...

    Qt添加MSVC构建套件的方法(qt添加c++11)

    前言有些时候,在Windows下因为某些需求需要使用MSVC编译器对程序进行编译,假设我们安装Qt的时候又只是安装了MingW构建套件,那么此时我们该如何给现有的Qt添加一个MSVC构建套件呢?本文以...

    Qt为什么站稳c++GUI的top1(qt c)

    为什么现在QT越来越成为c++界面编程的第一选择,从事QT编程多年,在这之前做C++界面都是基于MFC。当时为什么会从MFC转到QT?主要原因是MFC开发界面想做得好看一些十分困难,引用第三方基于MF...

    qt开发IDE应该选择VS还是qt creator

    如果一个公司选择了qt来开发自己的产品,在面临IDE的选择时会出现vs或者qtcreator,选择qt的IDE需要结合产品需求、部署平台、项目定位、程序猿本身和公司战略,因为大的软件产品需要明确IDE...

    Qt 5.14.2超详细安装教程,不会来打我

    Qt简介Qt(官方发音[kju:t],音同cute)是一个跨平台的C++开库,主要用来开发图形用户界面(GraphicalUserInterface,GUI)程序。Qt是纯C++开...

    Cygwin配置与使用(四)——VI字体和颜色的配置

    简介:VI的操作模式,基本上VI可以分为三种状态,分别是命令模式(commandmode)、插入模式(Insertmode)和底行模式(lastlinemode),各模式的功能区分如下:1)...

    取消回复欢迎 发表评论: