Java自学网

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 7277|回复: 59

极客- Spark性能调优实战

  [复制链接]

该用户从未签到

5

主题

161

帖子

313

积分

普通会员

Rank: 2

积分
313
发表于 2023-9-30 01:42:01 | 显示全部楼层 |阅读模式
开篇词  Spark性能调优,你该掌握这些“套路”
( F0 o9 O5 g' i* K# f% q3 U2 v) o! a4 f; s' y
01 性能调优的必要性:Spark本身就很快,为啥还需要我调优?1 M% J: A( Y$ L' w/ ]$ {+ V' O
02 性能调优的本质:调优的手段五花八门,该从哪里入手?
9 |% H6 k$ Q- U: N( \03 RDD:为什么你必须要理解弹性分布式数据集?
7 a9 s. k* `! V! a; r9 a# z6 Z: y; E+ c04 DAG与流水线:到底啥叫“内存计算”?. p! s0 |2 a" |+ B' L% ]" l
05 调度系统:“数据不动代码动”到底是什么意思?, p, U3 g$ f8 m5 g# V( y( ~, @# r4 C
06 存储系统:空间换时间,还是时间换空间?
3 q* e# b/ Z# Z& d+ E07 内存管理基础:Spark如何高效利用有限的内存空间?3 y: F6 `, a( n& S) P5 ]
08 应用开发三原则:如何拓展自己的开发边界?4 J$ `) J* ^: Y# G# ^
09 调优一筹莫展,配置项速查手册让你事半功倍!(上)
+ u% H, z( ~, G' d. |. u* w10 调优一筹莫展,配置项速查手册让你事半功倍!(下)
" w& O( ?0 B7 P11 Shuffle的工作原理:为什么说Shuffle是一时无两的性能杀手?
. h  \/ ]) O6 x8 B( i3 @7 g12 广播变量(一):克制Shuffle,如何一招制胜!
; `. }/ n, A% ^, `13 广播变量(二):有哪些途径让Spark SQL选择Broadcast Joins?6 _  a3 ~$ ^! M/ }9 i
14 CPU视角:如何高效地利用CPU?2 w2 V( _: T  P- y* s4 m
15 内存视角(一):如何最大化内存的使用效率?" Y0 n) k% w& U& D/ C) g
16 内存视角(二):如何有效避免Cache滥用?( X$ A/ y( n- G* d' Q- [
17 内存视角(三):OOM都是谁的锅?怎么破?
3 u5 P9 |, O- X7 E  n18 磁盘视角:如果内存无限大,磁盘还有用武之地吗?
5 g3 U5 u+ b2 `) u9 a0 A( F, |( [5 B19 网络视角:如何有效降低网络开销?
3 `( `! ]* i- K- i9 w20 RDD和DataFrame:既生瑜、何生亮
& n' P$ J& q- i! O/ [+ r' O1 p21 Catalyst逻辑计划:你的SQL语句是怎么被优化的?(上)& ?# }( o# Z1 x$ D" g1 x$ H( o
22 Catalyst物理计划:你的SQL语句是怎么被优化的(下)?/ r8 a$ @( O6 V2 p( d  B
23 钨丝计划:Tungsten给开发者带来了哪些福报?
3 [5 p6 f8 W4 @# X. C8 i" e3 }9 |' j24 Spark 3.0(一):AQE的3个特性怎么才能用好阿- M5 V' Y# E" R) F* g
25 Spark 3.0(二):DPP特性该怎么用?, J! U( y, e& y0 _: t
26 Join Hints指南:不同场景下,如何选择Join策略?6 `, I7 z- m: K* e
27 大表Join小表:广播变量容不下小表怎么办?
& q8 ]; u1 b5 Y) n" a28 大表Join大表(一):什么是“分而治之”的调优思路?, }9 A, N: ^5 y1 ~& ]
29 大表Join大表(二):什么是负隅顽抗的调优思路?, K0 c5 ^- l- }& B
30 应用开发:北京市小客车(汽油车)摇号趋势分析1 `- I- l( ]9 R) u$ J" S# i( F
31 性能调优:手把手带你提升应用的执行性能) [: j7 m% o0 E  G, K# L% K8 `
结束语  在时间面前,做一个笃定学习的人, O, O' v6 O) x& E) [, t2 ~

7 y8 d4 S2 j5 t4 Z. _, o2 L; F+ ]! {  |2 c' p6 Y
0 Y# d5 v0 H  R0 C" j! w0 Z
1 M$ J, P! b. g1 o, u2 a
资源下载地址和密码(百度云盘):
游客,如果您要查看本帖隐藏内容请回复
[/hide] 百度网盘信息回帖可见
5 z6 d# f5 g% z% y7 y$ G7 `' `% O
- Z* ]1 w5 n- l# k$ s: O
) c/ U: b0 m/ i( `6 K
本资源由Java自学网收集整理【www.javazx.com】
回复

使用道具 举报

该用户从未签到

1

主题

136

帖子

233

积分

普通会员

Rank: 2

积分
233
发表于 2023-9-30 01:35:39 | 显示全部楼层
看到这帖子真是高兴!
回复 支持 反对

使用道具 举报

该用户从未签到

6

主题

174

帖子

344

积分

普通会员

Rank: 2

积分
344
发表于 2023-9-30 01:53:21 | 显示全部楼层
强烈支持楼主ing……
回复 支持 反对

使用道具 举报

该用户从未签到

0

主题

4116

帖子

8234

积分

普通会员

Rank: 2

积分
8234
发表于 2023-10-24 20:08:25 | 显示全部楼层
多谢分享~~~~~~~~~~~~~
回复 支持 反对

使用道具 举报

该用户从未签到

0

主题

4186

帖子

8386

积分

禁止发言

积分
8386
发表于 2023-11-20 10:42:23 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

该用户从未签到

0

主题

4110

帖子

8222

积分

普通会员

Rank: 2

积分
8222
发表于 2023-12-14 21:33:28 | 显示全部楼层
即将学习之路
回复 支持 反对

使用道具 举报

该用户从未签到

0

主题

4078

帖子

8158

积分

普通会员

Rank: 2

积分
8158
发表于 2024-1-2 07:33:00 | 显示全部楼层
不错 支持一个了
回复 支持 反对

使用道具 举报

该用户从未签到

0

主题

4200

帖子

8402

积分

普通会员

Rank: 2

积分
8402
发表于 2024-1-26 13:08:34 | 显示全部楼层
资源很新
回复 支持 反对

使用道具 举报

  • TA的每日心情
    开心
    2015-6-21 16:07
  • 签到天数: 1 天

    [LV.1]初学乍练

    0

    主题

    4086

    帖子

    8194

    积分

    普通会员

    Rank: 2

    积分
    8194
    发表于 2024-2-4 09:23:56 | 显示全部楼层
    可以看 不错
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    4122

    帖子

    8246

    积分

    普通会员

    Rank: 2

    积分
    8246
    发表于 2024-2-10 17:58:47 | 显示全部楼层
    谢谢楼主~~~~~~~~~~~~~~~
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|Archiver|手机版|小黑屋|Java自学网

    GMT+8, 2024-11-23 13:25 , Processed in 0.092577 second(s), 56 queries .

    Powered by Javazx

    Copyright © 2012-2022, Javazx Cloud.

    快速回复 返回顶部 返回列表