Spark深入浅出企业级最佳实践培训课程

课程介绍

 

其他精品课程班:

Inventor钣金设计培训课程

Deepfake培训课程

Stata金融面板培训课程

以案释法--《民法典》物业现场的实操运用及风险规避培训

新形势下-物业人工作压力及情绪管理培训

提升满意度及运营水平--业主服务触点管理培训课程

写字楼物业综合运营管理培训课程

文献处理与搜索引擎架构实践培训

AI人工智能算法培训

VxWorks设备驱动培训

量化算法工程师培训

大模型框架搭建与模型分析培训

自然语言处理（NLP）算法工程师培训

OpenCASCADE内核基础架构培训

液压与气动技术培训课程

塑料加工技术培训

Aspen Plus技术经济分析与工艺优化培训

芯片集成电路产品设计之可靠性培训

VxWorks系统管理培训

FPGA接口设计与实现培训

ABU Kick Test仿真培训

AI LLM 大语言模型算法工程师培训

大型语言模型Large Language Model （AI LLM）培训

UG产品设计培训

UG模具设计培训

 

 

曙海教学优势

　 本课程面向企事业项目实际需要,秉承二十一年积累的教学品质，Spark深入浅出企业级最佳实践培训课程以项目实现为导向,老师将会与您分享设计的全流程以及工具的综合使用技巧、经验。线上/线下/上门皆可,Spark深入浅出企业级最佳实践培训课程专家,课程可定制,热线:4008699035。

　 大批企业和曙海
建立了良好的合作关系,20多年来，合作企事业单位以达30多万。曙海的课程培养了大批受企业欢迎的工程师。曙海的课程在业内有着响亮的知名度。

 

精品课程班级列表

•  　　以下就是本次Spark培训内容

  　　第一部分

  　　1、Spark的架构设计

  　　1.1 Spark生态系统剖析

  　　1.2 Spark的架构设计剖析

  　　1.3 RDD计算流程解析

  　　1.4 Spark的出色容错机制

  　　2、Spark编程模型

  　　2.1 RDD

  　　2.2 transformation

  　　2.3 action

  　　2.4 lineage

  　　2.5宽依赖与窄依赖

  　　3、深入Spark内核

  　　3.1 Spark集群

  　　3.2 任务调度

  　　3.3 DAGScheduler

  　　3.4 TaskScheduler

  　　3.5 Task内部揭秘

  　　4、Spark的广播变量与累加器

  　　4.1 广播变量的机制

  　　4.2 广播变量使用最佳实践

  　　4.3 累加器的机制

  　　4.4 累加器使用的最佳实践

  　　5、编写Spark程序

  　　5.1 程序数据的来源：File、HDFS、HBase、S3等

  　　5.2 IDE环境构建

  　　5.3 Maven

  　　5.4 sbt.

  　　5.5 编写并部署Spark程序的实例

  　　6、SparkContext解析和数据加载以及存储

  　　6.1 源码剖析SparkContext

  　　6.2 Scala、Java、Python使用SparkContext

  　　6.4 加载数据成为RDD

  　　6.5 把数据物化

  　　第二部分

  　　7、深入实战RDD

  　　7.1 DAG

  　　7.2 深入实战各种Scala RDD Function

  　　7.3 Spark Java RDD Function

  　　7.4 RDD的优化问题

  　　8、Shark的原理和使用

  　　8.1 Shark与Hive

  　　8.2 安装和配置Shark

  　　8.3 使用Shark处理数据

  　　8.4 在Spark程序中使用Shark Queries

  　　8.5 SharkServer

  　　8.6 思考Shark架构

  　　9、Spark的机器学习

  　　9.1 LinearRegression

  　　9.2 K-Means

  　　9.3 Collaborative Filtering

  　　10、Spark的图计算GraphX

  　　10.1 Table Operators

  　　10.2 Graph Operators

  　　10.3 GraphX

  　　11、Spark SQL

  　　11.1 Parquet支持

  　　11.2 DSL

  　　11.3 SQL on RDD

  　　第三部分

  　　12、Spark实时流处理

  　　12.1 DStream

  　　12.2 transformation

  　　12.3 checkpoint

  　　12.4 性能优化

  　　13、Spark程序的测试

  　　13.1 编写可测试的Spark程序

  　　13.2 Spark测试框架解析

  　　13.3 Spark测试代码实战

  　　14、Spark的优化

  　　14.1 Logs

  　　14.2 并发

  　　14.3 内存

  　　14.4 垃圾回收

  　　14.5 序列化

  　　14.6 安全

  　　15、Spark on Yarn

  　　15.1 Spark on Yarn的架构原理

  　　15.2 Spark on Yarn的最佳实践

  　　16、JobServer

  　　16.1 JobServer的架构设计

  　　16.2 JobServer提供的接口

  　　16.3 JobServer最佳实践

  
  
  

  ---
• 联系曙海客服