如何查看已安装的CUDA版本？

Question

如何在Linux系统中查看已安装的CUDA版本？常见方法包括使用`nvcc --version`命令查看CUDA编译器版本，或通过`nvidia-smi`命令查看当前驱动支持的CUDA版本。但有时两者显示的版本不一致，导致用户困惑：`nvidia-smi`显示的是驱动支持的最高CUDA版本，而`nvcc --version`反映的是CUDA Toolkit的安装版本。若系统未正确配置环境变量，可能无法识别`nvcc`命令。此外，在无root权限的服务器上，如何确认实际可用的CUDA版本？这些情况常引发关于版本兼容性和深度学习框架（如TensorFlow、PyTorch）运行时错误的问题。

Answer 1

1. 常见查看CUDA版本的方法

在Linux系统中，最基础的两种查看CUDA版本的方式是使用nvcc --version和nvidia-smi命令。

• nvcc --version：该命令用于显示当前安装的CUDA Toolkit版本。它依赖于nvcc编译器是否存在于系统路径中。
• nvidia-smi：此命令展示NVIDIA驱动信息，并在顶部显示“CUDA Version: X.X”，表示当前驱动所支持的最高CUDA运行时版本。

# 示例输出
$ nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Mon_Apr__3_17:58:56_PDT_2023
Cuda compilation tools, release 12.1, V12.1.105

$ nvidia-smi
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.54.03    Driver Version: 535.54.03    CUDA Version: 12.2     |
|-------------------------------+----------------------+----------------------+

2. 理解两个版本不一致的原因

命令	含义	来源	是否可变
nvidia-smi	驱动支持的最高CUDA版本	NVIDIA GPU驱动	随驱动更新而变化
nvcc --version	实际安装的CUDA Toolkit版本	CUDA开发工具包	由用户安装决定

例如，即使nvidia-smi显示CUDA 12.2，但若仅安装了CUDA 11.8 Toolkit，则nvcc将显示11.8。这并不冲突，因为CUDA具有向后兼容性——高版本驱动可支持低版本Toolkit运行。

3. 环境变量配置问题与诊断流程

1. 检查nvcc是否在PATH中：which nvcc
2. 若未找到，查找可能的安装路径：find /usr -name "nvcc" 2>/dev/null
3. 常见路径包括：/usr/local/cuda/bin 或 /usr/local/cuda-12.1/bin
4. 临时添加路径：export PATH=/usr/local/cuda-12.1/bin:$PATH
5. 永久生效：将上述export语句加入~/.bashrc或~/.zshrc
6. 验证环境：echo $CUDA_HOME 或 echo $CUDA_PATH
7. 确认链接符号：ls -l /usr/local/cuda 是否指向有效版本目录
8. 查看动态库路径：echo $LD_LIBRARY_PATH 应包含lib64路径
9. 测试编译环境：cuda-install-samples-12.1.sh 并尝试编译deviceQuery
10. 使用ldconfig -p | grep cuda检查共享库注册情况

4. 无root权限下的CUDA版本探测策略

在受限服务器环境中，用户无法修改全局环境或安装软件，但仍可通过以下方式定位可用CUDA资源：

# 查找所有可能的CUDA安装路径
find $HOME -name "cuda*" -type d 2>/dev/null
find /opt -maxdepth 2 -name "cuda*" -type d 2>/dev/null

# 检查是否存在独立安装的conda环境
conda list | grep cudatoolkit
module avail 2>/dev/null | grep -i cuda

# 手动调用特定路径下的nvcc
~/local/cuda-11.8/bin/nvcc --version

5. 多版本共存与模块化管理（如Lmod）

企业级HPC集群常采用模块系统（如Lmod）管理多个CUDA版本。此时需通过模块命令切换环境：

module available cuda
module load cuda/11.8
nvcc --version

这种方式避免了环境变量污染，也允许多用户按需选择不同版本，适合深度学习框架对特定CUDA版本的需求。

6. 验证CUDA运行时兼容性与框架适配

graph TD
    A[GPU Driver] --> B{nvidia-smi CUDA Version}
    B --> C{≥ 框架所需?}
    C -->|Yes| D[运行PyTorch/TensorFlow]
    C -->|No| E[升级驱动或降级框架]
    F[nvcc --version] --> G{匹配框架编译版本?}
    G -->|Yes| H[本地编译扩展可行]
    G -->|No| I[需设置正确toolkit路径]

例如PyTorch官方预编译包通常绑定特定CUDA版本（如cu118、cu121），必须确保其与Toolkit版本匹配，否则自定义CUDA算子将编译失败。