如何在代码层面区分数据并行和模型并行

Question

复现别人的代码，如何知道该模型是使用数据并行还是模型并行的方法。

Answer 1

参考一下：

分布式深度学习简介：数据并行和模型并行 - 皮皮鲁的科技星球 分布式深度学习常常采用两种方式，数据并行和模型并行。 https://lulaoshi.info/machine-learning/distributed/distributed-deep-learning-model-data-parallelism.html

如果对你有帮助，可以点击我这个回答右上方的【采纳】按钮，给我个采纳吗，谢谢