Java核心知识点详解：JVM内存管理与垃圾回收深度解析

版权申诉

139 浏览量更新于2024-07-21 收藏 10.69MB PDF 举报

"这份名为《JAVA核心知识点整理.pdf》的工作宝典包含了丰富的Java编程和底层原理知识，以及与之相关的实用框架，如Kafka、数据库和Spring。文档详细讲解了JVM（Java Virtual Machine）的工作原理，包括线程、内存区域及其作用。JVM内存区域分为线程私有的部分（如程序计数器、虚拟机栈和本地方法区）和线程共享区域（堆和方法区）。重点阐述了新生代、老年代、永久代（在Java 8后称为元数据区）的内存管理，以及垃圾回收机制，包括引用计数法、可达性分析、标记清除、复制、标记整理和分代收集算法等。对于垃圾回收，文档深入剖析了如何判断对象是否为垃圾，以及不同类型的引用（强引用、软引用、弱引用和虚引用）在内存管理中的作用。此外，还比较了分代收集算法和分区收集算法，分别介绍了Serial、ParNew、ParallelScavenge和SerialOld等不同的垃圾收集器及其特点。这份资料不仅适合Java开发者日常工作中查阅，也对面试者来说是一份宝贵的学习资料，涵盖了从基础到高级，从理论到实践的重要知识点，是提升Java技术栈深度和广度的理想参考书籍。"

13/04/2018

Page 16 of 283

24. 分布式缓存 ...................................................................................................................................... 257

24.1.1.

缓存雪崩

.................................................................................................................................... 257

24.1.2.

缓存穿透

.................................................................................................................................... 257

24.1.3.

缓存预热

.................................................................................................................................... 257

24.1.4.

缓存更新

.................................................................................................................................... 257

24.1.5.

缓存降级

.................................................................................................................................... 257

25. HADOOP ........................................................................................................................................ 259

25.1.1.

概念

............................................................................................................................................ 259

25.1.2. HDFS ......................................................................................................................................... 259

25.1.2.1. Client .................................................................................................................................................. 259

25.1.2.2. NameNode ........................................................................................................................................ 259

25.1.2.3. Secondary NameNode ................................................................................................................. 259

25.1.2.4. DataNode......................................................................................................................................... 259

25.1.3. MapReduce ............................................................................................................................... 260

25.1.3.1. Client ................................................................................................................................................. 260

25.1.3.2. JobTracker ....................................................................................................................................... 260

25.1.3.3. TaskTracker ...................................................................................................................................... 261

25.1.3.4. Task ................................................................................................................................................... 261

25.1.3.5. Reduce Task 执行过程 ................................................................................................................... 261

25.1.4. Hadoop MapReduce

作业的生命周期

................................................................................... 262

1.作业提交与初始化........................................................................................................................................... 262

2.任务调度与监控。........................................................................................................................................... 262

3.任务运行环境准备........................................................................................................................................... 262

4.任务执行 .......................................................................................................................................................... 262

5.作业完成。 ...................................................................................................................................................... 262

26. SPARK ............................................................................................................................................ 263

26.1.1.

概念

............................................................................................................................................ 263

26.1.2.

核心架构

.................................................................................................................................... 263

Spark Core ......................................................................................................................................................... 263

Spark SQL .......................................................................................................................................................... 263

Spark Streaming ................................................................................................................................................ 263

Mllib ..................................................................................................................................................................... 263

GraphX ................................................................................................................................................................ 263

26.1.3.

核心组件

.................................................................................................................................... 264

Cluster Manager-制整个集群，监控 worker ................................................................................................. 264

Worker 节点-负责控制计算节点 ....................................................................................................................... 264

Driver：运行 Application 的 main()函数......................................................................................................... 264

Executor：执行器，是为某个 Application 运行在 worker node 上的一个进程 .......................................... 264

26.1.4. SPARK

编程模型

...................................................................................................................... 264

26.1.5. SPARK

计算模型

...................................................................................................................... 265

26.1.6. SPARK

运行流程

...................................................................................................................... 266

1. 构建 Spark Application 的运行环境，启动 SparkContext .................................................................... 267

2. SparkContext 向资源管理器（可以是 Standalone，Mesos，Yarn）申请运行 Executor 资源，并启

动 StandaloneExecutorbackend， .................................................................................................................. 267

3. Executor 向 SparkContext 申请 Task ..................................................................................................... 267

4. SparkContext 将应用程序分发给 Executor ............................................................................................ 267

5. SparkContext 构建成 DAG 图，将 DAG 图分解成 Stage、将 Taskset 发送给 Task Scheduler，最

后由 Task Scheduler 将 Task 发送给 Executor 运行 ..................................................................................... 267

6. Task 在 Executor 上运行，运行完释放所有资源................................................................................... 267

26.1.7. SPARK RDD

流程

.................................................................................................................... 267

26.1.8. SPARK RDD ............................................................................................................................. 267

（1）RDD 的创建方式........................................................................................................................................... 267

（2）RDD 的两种操作算子（转换（Transformation）与行动（Action）） .............................................. 268

27. STORM ........................................................................................................................................... 269

13/04/2018

Page 17 of 283

27.1.1.

概念

............................................................................................................................................ 269

27.1.1.

集群架构

.................................................................................................................................... 269

27.1.1.1. Nimbus（master-代码分发给 Supervisor） ................................................................................ 269

27.1.1.2. Supervisor（slave-管理 Worker 进程的启动和终止） ............................................................... 269

27.1.1.3. Worker（具体处理组件逻辑的进程） ............................................................................................ 269

27.1.1.4. Task ................................................................................................................................................... 270

27.1.1.5. ZooKeeper ........................................................................................................................................ 270

27.1.2.

编程模型（spout->tuple->bolt）

....................................................................................... 270

27.1.2.1. Topology ............................................................................................................................................ 270

27.1.2.2. Spout.................................................................................................................................................. 270

27.1.2.3. Bolt ..................................................................................................................................................... 270

27.1.2.4. Tuple .................................................................................................................................................. 270

27.1.2.5. Stream ............................................................................................................................................... 271

27.1.3. Topology

运行

........................................................................................................................... 271

(1). Worker（进程） (2). Executor（线程） (3). Task .................................................................................. 271

27.1.3.1. Worker(1 个 worker 进程执行的是 1 个 topology 的子集) ....................................................... 271

27.1.3.2. Executor(executor 是 1 个被 worker 进程启动的单独线程) ...................................................... 271

27.1.3.3. Task(最终运行 spout 或 bolt 中代码的单元) ............................................................................... 272

27.1.4. Storm Streaming Grouping ..................................................................................................... 272

27.1.4.1. huffle Grouping ................................................................................................................................. 273

27.1.4.2. Fields Grouping ................................................................................................................................ 273

27.1.4.3. All grouping ：广播 .......................................................................................................................... 273

27.1.4.4. Global grouping ................................................................................................................................ 274

27.1.4.5. None grouping ：不分组 ................................................................................................................. 274

27.1.4.6. Direct grouping ：直接分组指定分组 ........................................................................................... 274

28. YARN .............................................................................................................................................. 275

28.1.1.

概念

............................................................................................................................................ 275

28.1.2. ResourceManager ................................................................................................................... 275

28.1.3. NodeManager ........................................................................................................................... 275

28.1.4.

ApplicationMaster

................................................................................................................. 276

28.1.5.

YARN 运行流程

.................................................................................................................... 277

29. 机器学习 .......................................................................................................................................... 278

29.1.1.

决策树

........................................................................................................................................ 278

29.1.2.

随机森林算法

............................................................................................................................ 278

29.1.3.

逻辑回归

.................................................................................................................................... 278

29.1.4. SVM............................................................................................................................................ 278

29.1.5.

朴素贝叶斯

................................................................................................................................ 278

29.1.6. K