如何检查PyTorch使用的CUDA版本？

Question

如何检查PyTorch当前使用的CUDA版本？在安装了GPU版PyTorch后，开发者常需确认其运行时所依赖的CUDA版本是否与系统驱动和硬件兼容。直接使用 `torch.version.cuda` 可查看PyTorch编译时链接的CUDA版本，而 `torch.cuda.is_available()` 则用于确认CUDA是否可用。但该方法返回的版本可能与`nvidia-smi`显示的驱动支持版本不一致，容易引发困惑。如何正确区分PyTorch内置CUDA runtime版本与系统级CUDA driver版本？二者不匹配是否会导致运行错误？这是实际部署中常见的排查难点。

Answer 1

一、基础概念：理解CUDA的两个关键版本

在深入排查PyTorch与GPU环境兼容性问题前，需明确CUDA生态中的两个核心组件：

• CUDA Driver（驱动版本）：由NVIDIA显卡驱动提供，通过nvidia-smi命令查看，代表系统层面支持的最高CUDA能力。
• CUDA Runtime（运行时版本）：PyTorch在编译时链接的CUDA Toolkit版本，可通过torch.version.cuda获取，决定其内部调用的CUDA API范围。

二者关系类似于“操作系统内核”与“应用程序依赖库”的关系——Driver是底层支撑，Runtime是上层应用的具体实现依赖。即使Runtime版本高于Driver支持的最大版本，程序将无法启动；但Runtime低于或等于Driver支持版本，则通常可正常运行（向下兼容原则）。

二、检查方法：从Python到系统级工具的完整链路

以下是分层次验证CUDA状态的标准流程：

1. 确认PyTorch是否检测到CUDA设备：
   

   import torch
   print(torch.cuda.is_available())  # 输出 True/False

2. 查看PyTorch内置的CUDA Runtime版本：
   

   print(torch.version.cuda)  # 如 '11.8'

3. 获取当前使用的cuDNN版本（常被忽略但影响性能）：
   

   print(torch.backends.cudnn.version())  # 如 8900

4. 系统级查看CUDA Driver版本：
   

   nvidia-smi

   其输出顶部会显示类似：
   Driver Version: 535.129.03 CUDA Version: 12.2

三、版本匹配逻辑与兼容性矩阵

PyTorch CUDA Runtime	最低要求 Driver 支持的 CUDA 版本	推荐 Driver 版本	NVIDIA 官方兼容说明
11.8	11.8	≥525.xx	CUDA 11.x 兼容至驱动 535+
12.1	12.1	≥535.xx	需 R535+ 驱动支持
11.6	11.6	≥510.xx	适用于旧版Ampere架构
10.2	10.2	≥440.xx	已逐步淘汰，不建议新项目使用
12.3	12.3	≥545.xx	LTS版本，长期支持
11.7	11.7	≥515.xx	中间过渡版本，稳定性良好
12.0	12.0	≥525.xx	引入新特性如Graphs优化
11.4	11.4	≥470.xx	Turing架构适配良好
12.4	12.4	≥550.xx	最新Hopper架构优化
11.5	11.5	≥495.xx	广泛用于生产环境

四、典型问题分析：为何torch.version.cuda ≠ nvidia-smi CUDA Version？

该现象极为常见，原因如下：

• 语义差异：nvidia-smi 显示的是驱动所能支持的最大CUDA版本，而非当前加载的Runtime版本。
• 静态链接：PyTorch发行包自带CUDA Runtime动态库（如cudart.so），独立于系统安装的CUDA Toolkit。
• 虚拟环境隔离：Conda或pip安装的不同PyTorch版本可能绑定不同CUDA Runtime，而系统驱动不变。

举例说明：

# 假设输出：
torch.version.cuda → '11.8'
nvidia-smi → CUDA Version: 12.2

这表示：系统驱动支持最高到CUDA 12.2，而当前PyTorch使用的是11.8版本的Runtime——完全合法且推荐配置（向下兼容）。

五、故障排查流程图：系统化诊断CUDA可用性

graph TD
    A[开始] --> B{nvidia-smi 是否成功?}
    B -- 否 --> C[检查NVIDIA驱动是否安装]
    B -- 是 --> D[记录Driver支持的CUDA版本]
    D --> E[运行Python脚本]
    E --> F{torch.cuda.is_available() == True?}
    F -- 否 --> G[检查PyTorch是否为GPU版本]
    F -- 是 --> H[获取torch.version.cuda]
    H --> I[比较Runtime ≤ Driver支持版本?]
    I -- 否 --> J[升级NVIDIA驱动或更换PyTorch版本]
    I -- 是 --> K[确认GPU内存充足且未被占用]
    K --> L[测试简单CUDA操作: torch.zeros(1).cuda()]

六、高级调试技巧：深入运行时依赖与符号链接

对于资深开发者，可通过以下方式进一步验证底层依赖：

• 查看PyTorch链接的CUDA运行时库路径：
  

  import torch
  print(torch.__file__)
  # 然后使用 ldd 查看依赖
  !ldd $(python -c "import torch; print(torch.__file__.replace('__init__.py', 'lib/libtorch_cuda.so'))") | grep cuda

• 检查环境中是否存在多个CUDA安装冲突：
  

  echo $LD_LIBRARY_PATH
  find /usr -name "*libcudart*" 2>/dev/null

• 使用nsight-systems或nvprof监控实际GPU调用栈，确认Kernel是否真正执行于GPU。