5060显卡cuda和pytorch不兼容

Question

2025-06-04 15:22:23.1642597 [W:onnxruntime:, transformer_memcpy.cc:74 onnxruntime::MemcpyTransformer::ApplyImpl] 8 Memcpy nodes are added to the graph main_graph for CUDAExecutionProvider. It might have negative impact on performance (including unable to run CUDA graph). Set session_options.log_severity_level=1 to see the detail logs before this message.
2025-06-04 15:22:23.1723120 [W:onnxruntime:, session_state.cc:1168 onnxruntime::VerifyEachNodeIsAssignedToAnEp] Some nodes were not assigned to the preferred execution providers which may or may not have an negative impact on performance. e.g. ORT explicitly assigns shape related ops to CPU to improve perf.
2025-06-04 15:22:23.1757246 [W:onnxruntime:, session_state.cc:1170 onnxruntime::VerifyEachNodeIsAssignedToAnEp] Rerunning with verbose output on a non-minimal build will show node assignments.
D:\AI\AI\py311\Lib\site-packages\torch\cuda_init_.py:230: UserWarning:
NVIDIA GeForce RTX 5060 Ti with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm50 60 61 70 75 80 86 90.
If you want to use the NVIDIA GeForce RTX 5060 Ti GPU with PyTorch, please check the instructions at https://pytorch.org/get-started/locally/
我下载的软件没办法使用 这是软件代码提示 有大锅懂怎么解决的吗

Answer 1

让 “紫雾凌寒” 来帮你回答,本回答结合 DeepSeek

如果还有问题，请评论或点击头像私信，如果有帮助到您, 请关注、采纳、点赞

1. 关键点分析：
   - 从提供的信息“5060显卡cuda和pytorch不兼容”来看，主要问题在于显卡与CUDA以及PyTorch之间的适配性出现了故障。报错信息“2025 - 06 - 04 15:22:23.1642597 [W:onnxruntime:, transformer_memcpy.cc:74 onnxruntime::MemcpyTransformer”不太明确具体的不兼容细节，但可能与内存复制操作相关的转换出现了问题，推测是在使用ONNX Runtime（与PyTorch相关的推理库）时，在内存复制转换步骤中发生了错误，而这很可能是由于CUDA版本与显卡不匹配或者PyTorch版本与CUDA版本搭配不当导致的。

2. 解决方案：
   - 检查CUDA版本：

   • 首先要确定你当前安装的CUDA版本是否与你的5060显卡兼容。你可以通过NVIDIA官方网站查找适用于该显卡的CUDA版本支持信息。
   • 安装正确版本的CUDA后，需要将CUDA路径添加到系统环境变量中。例如，如果你安装的CUDA版本是11.0，安装路径是C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0，你需要在系统环境变量的Path中添加这个路径。
   • 检查PyTorch版本：
   • 确保你安装的PyTorch版本与你安装的CUDA版本兼容。你可以参考PyTorch官方的安装说明，根据你的CUDA版本选择合适的PyTorch安装命令。例如，如果你安装的是CUDA 11.0，你可以使用以下命令安装PyTorch：
     bash pip install torch==1.7.0+cu110 torchvision==0.8.1+cu110 torchaudio==0.7.0 -f https://download.pytorch.org/whl/torch_stable.html
   • 更新或重新安装相关库：
   • 卸载并重新安装ONNX Runtime库，确保其版本与你的PyTorch和CUDA版本兼容。可以使用以下命令卸载并重新安装：
     bash pip uninstall onnxruntime pip install onnxruntime
   • 验证安装：
   • 在Python环境中运行以下代码来验证CUDA是否正确配置：
     python import torch print(torch.cuda.is_available())
   • 如果输出为True，则说明CUDA配置成功。然后可以进一步检查ONNX Runtime是否能正常工作，例如在一个简单的模型推理场景中使用它：
     ```python
     import onnxruntime as ort
     import numpy as np

   # 加载一个简单的ONNX模型（这里假设你有一个简单的模型onnx_model.onnx）
   sess = ort.InferenceSession(‘onnx_model.onnx’)
   input_name = sess.get_inputs()[0].name
   output_name = sess.get_outputs()[0].name

   # 生成一个随机输入
   input_data = np.random.randn(1, 3, 224, 224).astype(np.float32)

   # 运行推理
   result = sess.run([output_name], {input_name: input_data})
   print(result)
   ```
   3. 多种解决方案的优缺点：
   - 优点：
   - 全面检查和更新：通过检查CUDA版本、PyTorch版本以及相关库，能够全面排查不兼容的可能原因，从多个方面解决问题，确保系统配置的正确性。
   - 逐步验证：在每个步骤中通过验证代码（如检查CUDA是否可用以及ONNX Runtime能否正常推理），可以及时发现问题所在，便于针对性地调整解决方案。
   - 缺点：
   - 操作步骤较多：需要依次进行多个步骤的检查和安装操作，相对较为繁琐，对于新手来说可能容易出错。
   - 依赖外部信息：需要参考NVIDIA官方网站和PyTorch官方文档来确定正确的版本信息，依赖外部信息的准确性，如果信息有误可能导致仍然无法解决问题。
   4. 总结：
   - 解决5060显卡与CUDA和PyTorch不兼容的问题，关键在于确保CUDA版本与显卡适配，PyTorch版本与CUDA版本匹配，以及相关库（如ONNX Runtime）的正确安装和配置。通过按照上述步骤进行检查、安装和验证，可以逐步排查并解决问题，使显卡、CUDA、PyTorch和相关库能够协同工作。

希望以上解答对您有所帮助。如果您有任何疑问，欢迎在评论区提出。