spark一般任务的初始并行度怎么确定？

Question

一般的spark程序从hdfs读取数据后的初始task数是多少？对于图计算模块GraphX来说，通过GraphLoader.edgeListFile读取图文件后接下来为计算分配的task数又怎么确定？求大佬们解答。

Answer 1

图计算没搞过。
task数量 = 逻辑计算复杂程度 * partition。hdfs的文件是按照block进行存储，当spark从hdfs读取文件之后，每一个block对应一个RDD中的partition。每一次算子对RDD进行操作，都是对partition进行操作，至于task的数量取决于你的逻辑，归结在于RDD中的compute方法，每一次调用该方法都会启动一个task处理。
spark采用的懒加载，只有触发shffle的时候才会真正的处理数据，所以spark读hdfs文件创建RDD不花费时间，之后真正处理（join才会读数据）。
提升并行度的方法：
1、保证资源到位，把executor资源加大（保证资源不是瓶颈）
2、spark.defalut.parallelism把这个参数提升到合理大小，默认500（保证并发度不是瓶颈）
3、如果以上两个方式都不能打到目的，那就repartition一下（保证partition数量不是瓶颈）

https://blog.csdn.net/weixin_37893887/article/details/83473201