双路3090深度学习工作站，根据现有配置，如何最省钱，并且还发挥最高性能？

Question

事情是这样的：

我有两块3090风扇显卡。想双卡训练模型，目的是加速模型训练！

其次，我有一个华硕 x299 pro的主板，其中具体参数如图。

一开始我想用的是两个 3代 PCIE ×16 速率的接口来插两块显卡，但是发现插不进去，因为距离离得太近了。所以：

解决方案1就是：除非我换成两块3090涡轮显卡〖由于经济原因，这个方案pass、不考虑〗。

方案2: 一块插在PCIE ×16，一块插在 PCIE ×8上。但是，我想问的是：这样的组合来训练模型，可不可行？能加速训练吗？会比单块3090慢吗？如果不会，再接一块NVlink呢？

Answer 1

以下回复参考：皆我百晓生、券券喵儿等免费微信小程序作答:

针对您关于双路3090深度学习工作站的问题，我提出以下建议：

1. 关于显卡插槽的选择：虽然理论上可以使用PCIE ×16和PCIE ×8插槽来插入两块显卡，但这种组合可能会影响到显卡的性能表现。一般来说，建议使用两个PCIE ×16插槽来插入两块显卡，以确保最佳的兼容性。若确实存在硬件限制，可以尝试联系华硕官方客服或专业技术人员，了解是否可以通过调整硬件设置或更新BIOS来优化显卡插槽的使用。
2. 关于显卡组合训练模型：使用双路3090显卡进行模型训练可以显著加速训练过程。由于深度学习模型计算量大，利用多卡并行计算能够大幅提高计算效率。因此，相较于单块3090，双路3090能够带来更好的性能提升。
3. 关于NVlink的连接：NVlink是NVIDIA提供的一种高速连接技术，用于连接两块显卡，以实现更高效的数据传输和同步。如果硬件支持，接入NVlink可以进一步提升双路3090的性能表现。
4. 如何最省钱且发挥最高性能：

• 在保证性能的前提下，可以考虑选择性价比更高的配件，如其他内存、存储等，不必过度追求高端配置。
• 关注硬件市场的优惠活动，适时购买性价比更高的产品。
• 如果现有硬件已经满足需求，不必盲目升级。

总之，为了确保双路3090能够发挥最佳性能，建议尽量使用两个PCIE ×16插槽来插入两块显卡，并考虑接入NVlink。在预算有限的情况下，可以关注市场优惠活动，逐步搭建高性能深度学习工作站。