59859cc威尼斯官网-威尼斯欢乐娱人成app

教育行业A股IPO第一股(股票代码 003032)

全国咨询/投诉热线:400-618-4000

传智教育|传智播客

一样的教育,不一样的品质

全国校区

 

  • JavaEE
  • HTML&JS+前端
  • Python+大数据开发
  • 人工智能开发
  • UI/UE设计
  • App测试
  • 新媒体+短视频
    直播运营
  • 59859cc威尼斯官网-威尼斯欢乐娱人成app

热门课程

  • JavaEE
  • HTML&JS+前端
  • Python+大数据开发
  • 人工智能开发
  • UI/UE设计
  • App测试
  • 新媒体+短视频直播运营
  • 59859cc威尼斯官网-威尼斯欢乐娱人成app

Spark有几种部署方式?

更新时间:2022年04月22日15时50分 来源:传智教育 浏览次数:

Spark部署模式分为Local模式(本地单机模式)和集群模式,在Local模式下,常用于本地开发程序与测试,而集群模式又分为Standalone模式(集群单机模式)、Yarn模式和Mesos模式,关于这三种集群模式的相关先容具体如下:

1.Standalone模式

Standalone模式被称为集群单机模式。Spark框架与Hadoop1.0版本框架类似,本身都自带了完整的资源调度管理服务,可以独立部署到一个集群中,无需依赖任何其他的资源管理系统,在该模式下,Spark集群架构为主从模式,即一台Master节点与多台Slave节点,Slave节点启动的进程名称为Worker,此时集群会存在单点故障问题,后续将在Spark HA集群部署小节讲解利用Zookeeper解决单点问题的方案。

2.Yarn模式

Yarn模式被称为Spark on Yarn模式,即把Spark作为一个客户端,将作业提交给Yarn服务,由于在生产环境中,很多时候都要与Hadoop使用同一个集群,因此采用Yarn来管理资源调度,可以有效提高资源利用率,Yarn模式又分为Yarn Cluster模式和Yarn Client模式,具体先容如下:

lYarn Cluster:用于生产环境,所有的资源调度和计算都在集群上运行。

lYarn Client:用于交互、调试环境。

3.Mesos模式

Mesos模式被称为Spark on Mesos模式,Mesos与Yarn同样是一款资源调度管理系统,可以为Spark提供服务,由于Spark与Mesos存在密切的关系,因此在设计Spark框架时充分考虑到了对Mesos的集成,但如果你同时运行Hadoop和Spark,从 兼 容 性 的 角 度 来 看 ,Spark on Yarn是更好的选择。

上述三种分布式部署方案各有利弊,通常需要根据实际情况决定采用哪种方案。由于学习阶段大家是在虚拟机环境下模拟小规模集群,因此可以考虑选择Standalone模式。

猜你喜欢:

怎样使用Spark方法完成RDD的创建?

怎样使用Spark Shell来读取HDFS文件?

Spark的应用场景有哪些?

Spark的框架模块和运行模式是什么?

传智教育pthon+大数据开发工程师培训课程

0 分享到:

59859cc威尼斯官网|威尼斯欢乐娱人成app

XML 地图 | Sitemap 地图