运行时数据区概述

内存是非常重要的系统资源,是硬盘和CPU的中间仓库及桥梁,承载着操作系统和应用程序的实时运行。JVM内存布局规定了Java在运行过程中内存申请、分配、管理的策略,保证了JVM的高效稳定运行。不同JVM对于内存的划分方式和管理机制存在着部分差异。本篇我们会结合JVM虚拟机规范,来探讨一下经典的JVM内存布局。

每个线程:独立的拥有自己的程序技术器、栈、本地栈。
线程间共享:堆、堆外内存(永久代或元空间、代码缓存)。
每个JVM只有一个Runtime实例。即为运行时环境。

JVM内存架构

为了方便理解阅读,在每篇文章中都会放上架构图。

这里的内存架构画的是JDK 7版本的,JDK 8之后方法区的画法有所改变。

运行时数据区中,红色框里的是线程共享的区域,灰色的区域是每个线程独有的区域。

JVM内存架构

程序计数器(PC寄存器)

PC Register(Program Counter Register)介绍

JVM中的PC寄存器是对物理PC寄存器的一种抽象模拟。
它的作用是用来存储指向下一条指令的地址,也即将要执行的指令代码。然后由执行引擎读取下一条指令。

它是一块很小的内存空间,几乎可以忽略不计。也是运行速度最快的存储区域。
在JVM规范中,每个线程都有它自己的程序计数器,是线程私有的,生命周期与线程的生命周期一致。
任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会存储当前线程正在执行的Java方法的JVM指令地址;或者,如果是在执行native方法,则是未指定值(undefined)。

它是唯一一个在Java虚拟机规范中没有规定任何OutOtMemoryError情况的区域。

两个常见问题

使用PC寄存器存储字节码指令地址有什么用呢?

或者这么问:为什么使用PC寄存器记录当前线程的执行地址呢?

因为CPU需要不停的切换各个线程,这时候切换回来以后,就可以知道接着从哪里继续执行。
JVM的字节码解释器就需要通过改变PC寄存器的值来明确下一条应该执行什么样的字节码指令。

PC寄存器为什么会被设定为线程私有?

由于CPU时间片轮转限制,众多线程在并发执行过程中,任何一个确定的时刻,一个处理器或者多核处理器中的一个内核,只会执行某个线程中的一条指令。
这样必然导致经常中断或者恢复,为了保证分毫无差和准确地记录各个线程正在执行的当前字节码指令地址,最好的办法就是创建线程后,为每个线程都分配一个PC寄存器;这样每个线程都会产生自己的程序计数器和栈帧,并且程序计数器在各个线程之间互不影响
这样一来各个线程执行的时候都清楚的知道执行到了哪个指令,下一步该干嘛,就是都独立计算,从而不会出现相互干扰的情况。

CPU时间片:即CPU分配给各个程序的时间,每个线程被分配一个时间段,称作它的时间片。
在宏观上:我们可以同时打开多个应用程序,每个程序并行不悖,同时运行。
但在微观上:由于只有一个CPU,一次只能处理程序要求的一部分,如何处理公平,一种方法就是引入时间片,每个程序轮流执行。

虚拟机栈(*)

虚拟机栈概述

Java虚拟机栈(Java Virtual Machine Stack),早期也叫Java栈。每个线程在创建时都会创建一个虚拟机栈,其内部保存一个个的栈帧(Stack Frame),对应着一次次的Java方法调用。是线程私有的。所以生命周期和线程一致
Java虚拟机栈的作用是主管Java程序的运行,它保存方法的局部变量(8种基本数据类型、对象的引用地址)、部分结果,并参与方法的调用和返回。

栈是运行时的单位,而堆是存储的单位。
即:栈解决程序的运行问题,即程序如何执行,或者说如何处理数据。堆解决的是数据存储的问题,即数据怎么放、放在哪儿。

虚拟机栈的特点

1、栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器;
2、JVM直接对Java栈的操作只有两个:
(1)每个方法的执行,伴随着进栈(入栈、压栈);
(2)执行结束后的出栈工作;
3、对于栈来说不存在垃圾回收问题。

栈可能出现的异常

Java虚拟机规范允许Java栈的大小是动态的或者是固定不变的

(1)如果采用固定大小的虚拟机栈,那每一个线程的Java虚拟机栈容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过Java虚拟机栈允许的最大容量,Java虚拟机将会抛出一个StackOverflowError异常。

(2)如果Java虚拟机栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的虚拟机栈,那Java虚拟机将会抛出一个OutOfMemoryError异常。

如何设置栈的内存大小

我们可以使用参数**-Xss **来设置线程的最大栈空间,栈的大小直接决定了函数调用的最大可达深度。

栈的存储单位

栈中存储什么?

每个线程都有自己的栈,栈中的数据都是以栈帧(Stack Frame)的格式存在。

在这个线程上正在执行的每个方法都各自对应一个栈帧(Stack Frame)。
栈帧是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息。

栈运行原理

JVM直接对Java栈的操作只有两个,就是对栈帧的压栈和出栈,遵循“先进后出” / “后进先出”原则。

在一条活动线程中,一个时间点上,只会有一个活动的栈帧。即只有当前正在执行的方法的栈帧(栈顶栈帧)是有效的,这个栈帧被称为当前栈帧(Current Frame),与当前栈帧想对应的方法就是当前方法(Current Method),定义这个方法的类就是当前类(Current Class)。
执行引擎运行的所有字节码指令只针对当前栈帧进行操作。
如果在该方法中调用了其他方法,对应的新的栈帧会被创建出来,放在栈的顶端,成为新的当前栈。

不同线程中所包含的栈帧是不允许存在相互引用的,即不可能在一个栈帧之中引用另外一个线程的栈帧。
如果当前方法调用了其他方法,方法返回之际,当前栈帧会传回此方法的执行结果给前一个栈帧,接着,虚拟机会丢弃当前栈帧,使得前一个栈帧重新成为当前栈帧。

Java方法有两种返回函数的方式,一种是正常的函数返回,使用return指令;另外一种是抛出异常。
不管使用哪种方式,都会导致栈帧被弹出。

栈帧的内部结构

每个栈帧中存储着:
(1)局部变量表(Local Variables)
(2)操作数栈(Operand Stack)(或表达式栈)
(3)动态链接(Dynamic Linking)(或指向运行时常量池的方法引用)
(4)方法返回地址(Return Address)(或方法正常退出或者异常退出的定义)
(5)一些附加信息

局部变量表(Local Variables)(*)

概述

局部变量表也被称之为局部变量数组或本地变量表。定义为一个数字数组,主要用于存储方法参数和定义在方法体内的局部变量,这些数据类型包括各类基本数据类型、对象引用,以及returnAddress类型。

由于局部变量表是建立在线程的栈上,是线程的私有数据,因此不存在线程安全问题。
局部变量表所需的容量大小是在编译期确定下来的,并保存在方法的Code属性的maximum local variable数据项中。在方法运行期间是不会改变局部变量表的大小的。

方法嵌套调用的次数由栈的大小决定。一般来说,栈越大,方法可以嵌套调用次数越多,局部变量表中的变量只在当前方法调用中有效。当方法调用结束后,随着方法栈帧的销毁,局部变量表也会随之销毁。

关于局部变量表的说明

局部变量表,最基本的存储单元是变量槽(Variable Slot,下称 Slot)。

  • 局部变量表中存放编译期可知的各种基本数据类型(8种),引用类型(reference),returnAddress类型的变量。
  • 在局部变量表里,32位以内的类型只占用一个slot(包括returnAddress类型),64位的类型(long和double)占用两个slot。
  • JVM通过索引定位的方式使用局部变量表,索引值的范围是从 0 开始至局部变量表最大的 Slot 数量。
  • JVM会为局部变量表中的每个Slot都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量值。
  • 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每个Slot上。
  • 如果需要访问局部变量表中一个64bit的局部变量值时,只需要使用前一个索引即可。(比如:访问long或double类型变量)。
  • 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用this将会存放在index为0的Slot处,其余的参数按照参数表顺序继续排列。

槽Slot的重复利用

栈帧中的局部变量表中的槽位是可以重用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很可能会复用过期局部变量的槽位,从而达到节省资源的目的。

栈的调优说明

在栈帧中,与性能调优关系最为密切的部分就是前面提到的局部变量表。在方法执行时,虚拟机使用局部变量表完成方法的传递。

局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接或间接引用的对象都不会被回收。

操作数栈(Operand Stack)(*)

概述

每一个独立的栈帧中除了包含局部变量表以外,还包含一个后进先出(Last-In-First-Out)的操作数栈,也可以称之为表达式栈(Expression Stack)。操作数栈主要用于保存计算过程的中间结果,同时作为计算过程中变量临时的存储空间。

当一个方法刚刚开始执行时,其操作数栈是空的,随着方法执行和字节码指令的执行,会从局部变量表或对象实例的字段中复制常量或变量写入到操作数栈,再随着计算的进行将栈中元素出栈到局部变量表或者返回给方法调用者,也就是入栈(push)/出栈(pop)操作。一个完整的方法执行期间往往包含多个这样出栈/入栈的过程。如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新PC寄存器中下一条需要执行的字节码指令。

补充说明

  • 操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译期间进行验证,同时在类加载过程中的类检验阶段的数据流分析阶段要再次验证。
  • 操作数栈就是JVM执行引擎的一个工作区,当一个方法刚开始执行的时候,一个新的栈帧也会随之被创建出来,这个方法的操作数栈是空的。
  • 每一个操作数栈都会拥有一个明确的栈深度用于存储数值,其所需的最大深度在编译期就定义好(-Xss参数),保存在方法的Code属性中,为max——stack的值。
  • 操作数栈并非采用访问索引的方式来进行数据访问的,而是只能通过标准的入栈(push)和出栈(pop)操作来完成一次数据访问。
  • 另外,我们说Java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈

栈顶缓存(Top-of-StackCashing)技术

说到操作数栈,就不得不说一下栈顶缓存技术。由于操作数是存储在内存中的,因此频繁地执行内存读/写操作必然会影响执行速度。

为了解决这个问题,Hotspot JVM的设计者们提出了栈顶缓存(Top-of-StackCashing)技术,将栈顶元素全部缓存在物理CPU的寄存器中,以此降低对内存的读/写次数,提升执行引擎的执行效率

动态链接(Dynamic Linking)

每一个栈帧内部都包含一个指向运行时常量池中该栈帧所属方法的引用。包含这个引用的目的就是为了支持当前方法的代码能够实现动态链接(Dynamic Linking)。比如:invokedynamic指令。

在Java源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用(Symbolic Reference)保存在class文件的常量池里。比如:描述一个方法调用了另外的其他方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态链接的作用就是为了将这些符号引用转换为调用方法的直接引用。

常量池的作用,就是为了提供一些符号和常量,便于指令的识别。

方法的调用:解析与分派(*)

在JVM中,将符号引用转换为调用方法的直接引用与方法的绑定机制有关。

静态链接:
当一个字节码文件被装载进JVM内部时,如果被调用的目标方法在编译期可知,且运行期保持不变时。
这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接。

动态链接:
如果被调用的方法在编译期无法被确定下来,也就是说,只能够在程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换过程具备动态性,因此也就被称之为动态链接。

以上相对应的方法的绑定机制为:早期绑定(Early Binding)和晚期绑定(Late Binding)。绑定是一个字段、方法或者类在符号引用被替换为直接引用的过程,这仅仅发生一次。

早期绑定:
早期绑定就是指被调用的目标方法如果在编译期可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定,这样一来,由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用转换为直接引用。

晚期绑定:
如果被调用的方法在编译期无法被确定下来,只能够在程序运行期根据实际的类型绑定相关的方法,这种绑定方式也就被称之为晚期绑定。

虚方法和非虚方法

非虚方法:如果方法在编译期就确定了具体的调用版本,这个版本在运行时是不可变的。这样的方法称为非虚方法。静态方法、私有方法、final方法、实例构造器、父类方法都是非虚方法。其他方法称为虚方法。

虚拟机中提供了以下几条方法调用指令:
普通调用指令:
(1)invokestatic:调用静态方法,解析阶段确定唯一方法版本;
(2)invokespecial:调用<init>方法、私有及父类方法,解析阶段确定唯一方法版本;
(3)invokevirtual:调用所有虚方法;
(4)invokeinterface:调用接口方法;

动态调用指令:
(5)invokedynamic:动态解析出需要调用的方法,然后执行;

前四条指令固化在虚拟机内部,方法的调用执行不可人为干预,而invokedynamic指令则支持由用户确定方法版本。
其中invokestatic指令和invokespecial指令调用的方法称为非虚方法,其余的(final修饰的除外)称为虚方法。

动态类型语言和静态类型语言

动态类型语言和静态类型语言两者的区别就在于对类型的检查是在编译期还是在运行期,满足前者就是静态类型语言,反之就是动态类型语言。

静态类型语言是判断变量自身的类型信息;动态类型语言是判断变量值的类型信息,变量没有类型信息,变量值才有类型信息,这是动态语言的一个重要特征。
Java本身是静态类型语言,但是也能够实现一些动态语言的特性。

方法重写的本质

Java语言中方法重写的本质:

(1)找到操作数栈顶的第一个元素所执行的对象的实际类型,记作C;
(2)如果在类型C中找到与常量中的描述符合简单名称都相符的方法,则进行访问权限校验,如果通过则返回这个方法的直接引用,查找过程结束;如果不通过,则返回java.lang.IllegalAccessError异常;
(3)否则,按照继承关系从下往上依次对 C 的各个父类进行第2步的搜索和验证过程;
(4)如果始终没有找到合适的方法,则抛出java.lang.AbstractMethodError异常。

IllegalAccessError介绍:
程序视图访问或修改一个属性或调用一个方法,这个属性或方法,你没有权限访问。一般的,这个会引起编译器异常。这个错误如果发生在运行时,就说明一个类发生了不兼容的改变。

虚方法表

在面向对象的编程中,会很频繁的使用到动态分派,如果在每次动态分派的过程中都要重新在类的方法元数据中搜索合适的目标的话就可能影响到执行效率。因此,为了提高性能,JVM采用才类的方法区建立一个虚方法表(virtual method table)(非虚方法不会出现在表中)来实现。使用索引表来代替查找。

每个类中都有一个虚方法表,表中存放着各个方法的实际入口。
虚方法表会在类加载的链接阶段被创建并开始初始化,类的变量初始值准备完成之后,JVM会把该类的方法表也初始化完毕。

方法返回地址(Return Address)

存放调用该方法的pc寄存器的值。

一个方法的结束,有两种方式:
(1)正常执行完成;
(2)出现未处理的异常,非正常退出。

无论通过哪种方式退出,在方法退出后都返回到该方法被调用的位置。
方法正常退出时,调用者的pc计数器的值作为返回地址,即调用该方法的指令的下一条指令的地址。
而通过异常退出的,返回地址是要通过异常表来确定,栈帧中一般不会保存这部分信息。

本质上,方法的退出就是当前栈帧出栈的过程。此时,需要恢复上层方法的局部变量表、操作数栈、将返回值压入调用者栈帧的操作数栈、设置PC寄存器值等,让调用者方法继续执行下去。

正常完成和异常完成的区别在于:通过异常完成退出的不会给他的上层调用者产生任何的返回值。

当一个方法开始执行后,只有两种方式可以退出这个方法:

1、当执行引擎遇到任意一个方法返回的字节码指令(return),会有返回值传递给上层的方法调用者,简称正常完成出口;
一个方法在正常调用完成之后究竟需要使用哪一个返回指令,还需要根据方法返回值的实际数据类型而定。
在字节码指令中,返回指令包含ireturn(当返回值是boolean、byte、char、short和int类型时使用)、lreturn、freturn、dreturn以及areturn,另外还有一个return指令供声明为void的方法、实例初始化方法、类和接口的初始化方法使用。

2、在方法执行的过程中遇到了异常(Exception),并且这个异常没有在方法内进行处理,也就是只要在本方法的异常表中没有搜索到匹配的异常处理器,就会导致方法退出。简称异常完成出口。

方法执行过程中抛出异常时的异常处理,存储在一个异常处理表,方便在发生异常的时候找到处理异常的代码。

一些附加信息

栈帧中还允许携带与Java虚拟机实现相关的一些附近信息。例如,对程序调试提供支持的信息。

栈的相关面试题

举例栈溢出的情况?(StackOverflowError)
方法递归调用,栈帧过多导致溢出。

调整栈大小,就能保证不出现溢出吗?
不能,只能通过调整参数保证一定情况下不出现溢出。

分配的栈内存越大越好吗?
不一定,内存超过实际使用大小太多会造成内存浪费。

垃圾回收是否会涉及到虚拟机栈?
不会的。

方法中定义的局部变量是否线程安全?
具体问题具体分析;若方法中的局部变量的作用域仅在方法内部,则算是线程安全的。

什么是本地方法?

一个Native Method就是一个Java调用非Java代码的接口。

本地接口的作用是融合不同的编程语言为Java所用,它的初衷是融合C/C++程序。

标识符native可以与所有其他的Java标识符连用,abstract除外。

为什么要使用Native Method?

与Java环境外交互:
有时Java应用需要与Java外面的环境交互,这是本地方法存在的主要原因。

与操作系统交互:
通过使用本地方法,我们得以用Java实现了jre的与底层系统的交互,甚至JVM的一些部分就是用C写的。

Sun’s Java:
Sun的解释器是用C实现的,这使得它能像一些普通的C一样与外部交互。

本地方法栈

Java虚拟机栈用于管理Java方法的调用,而本地方法栈用于管理本地方法的调用。本地方法栈,也是线程私有的。
允许被实现成固定或者是可动态扩展的内存大小。(在内存溢出方面是相同的)

(1)如果线程请求分配的栈容量超过本地方法栈允许的最大容量,Java虚拟机将会抛出一个StackOverflowError异常。
(2)如果本地方法栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的本地方法栈,那么Java虚拟机将会抛出一个OutOfMemoryError异常。

本地方法是使用C语言实现的。它的具体做法是Native Method Stack中登记native方法,在Execution Engine 执行时加载本地方法库。

当某个线程调用一个本地方法时,它就进入了一个全新的并且不再受虚拟机限制的世界。它和虚拟机拥有同样的权限,
(1)本地方法可以通过本地方法接口来访问虚拟机内部的运行时数据区。
(2)它甚至可以直接使用本地处理器中的寄存器。
(3)直接从本地内存的堆中分配任意数量的内存。

并不是所有的JVM都支持本地方法。因为Java虚拟机规范并没有明确要求本地方法栈的使用语言、具体实现方式、数据结构等。如果JVM产品不打算支持native方法,也可以无需实现本地方法栈。

在Hotspot JVM中,直接将本地方法栈和虚拟机栈合二为一。