iGIS

iGIS文档:

  • 用户手册
  • 开发者手册
  • 贡献手册
    • 1. 如何维护本文档
    • 2. 项目结构
    • 3. 开发环境配置
    • 4. 集群环境说明
      • 4.1. CDH环境搭建文档
      • 4.2. flink
      • 4.3. 广州总部集群环境说明
      • 4.4. hadoop
      • 4.5. k8s
      • 4.6. Kudu
      • 4.7. presto
      • 4.8. Spark
        • 4.8.1. # 问题描述
        • 4.8.2. ## 问题描述
        • 4.8.3. ## 问题描述
        • 4.8.4. ## 安装Spark
        • 4.8.5. # spark官方事例测试
        • 4.8.6. # spark常规性能调优
        • 4.8.7. # spark算子调优
        • 4.8.8. # spark的shuffle调优
        • 4.8.9. # spark的JVM调优
      • 4.9. 平台武研集群环境说明
      • 4.10. docker环境编译及部署
      • 4.11. 集群环境问题总结
    • 5. iGIS-SDE开发
    • 6. 性能测试
    • 7. iGIS平台算法测试情况一览
    • 8. 深度学习数据及模型说明
    • 9. 数据库设计
iGIS
  • »
  • 贡献手册 »
  • 4. 集群环境说明 »
  • 4.8. Spark
  • 查看页面源码

4.8. Spark¶

## 环境搭建

spark环境搭建

## spark集群问题

spark集群使用sbin目录下的stop-all.sh脚本关闭不了集群

spark提交yarn任务,每次都需要上传jar报的解决办法

spark启动报错:java.lang.IllegalStateException: Spark context stopped while waiting for backend

## spark性能调优

spark常规性能调优

spark算子调优

spark的shuffle调优

spark的JVM调优

## 官方测试事例

spark官方测试事例(可以用来检验新搭的环境是否健康)

下一页 上一页

© 版权所有 2020, southgis

利用 Sphinx 构建,使用了 主题 由 Read the Docs开发.