使用docker配置深度学习环境为何不用刻意适配gpu型号

Question

我在我的电脑上用docker配置了深度学习环境，几乎可拉取的Tensorflow环境都拉了，然后我发现Tensorflow的容器中配置了不同版本的cuda和cudnn。请问为什么使用docker就不需要刻意适配guu型号了呢？
补充:我的gpu是2080ti，过去我通过安装cuda9来保证gpu正常被调用，但是使用docker后这个步骤被省略。甚至，我拉取了nvidia的Ubuntu，里面配置的是cuda12都可以调用起我的2080ti。请问这是什么原因呢？

Answer 1

本答案参考 多次询问 ChatGPT-3.5 后选择的最佳回答，若是满意，还请采纳，谢谢

1. Docker的隔离性
   • Docker容器提供了一种操作系统级别的虚拟化。当你在Docker中配置深度学习环境时，Docker容器内部的软件栈（如CUDA和cuDNN版本）与宿主机的GPU硬件是通过NVIDIA - Docker（或类似的GPU支持机制）进行交互的。
   • 例如，假设你在宿主机（装有2080Ti GPU）上运行一个配置了CUDA 12的TensorFlow Docker容器。Docker容器内部的CUDA 12软件栈并不直接依赖于宿主机上特定的CUDA版本安装（与传统的在宿主机上直接安装深度学习框架不同，传统方式下需要精确适配CUDA版本以匹配GPU型号）。
   • 而是NVIDIA - Docker在运行时会自动将容器内的CUDA调用映射到宿主机上与2080Ti兼容的GPU驱动和相关库上。这种映射是基于NVIDIA的GPU通用计算架构（如CUDA的统一架构），只要宿主机的GPU驱动支持容器内CUDA版本所需要的最低功能集，就可以正常工作。
2. NVIDIA - Docker的作用
   • NVIDIA - Docker是一个专门用于在Docker容器中使用NVIDIA GPU的工具。它在容器和宿主机的GPU资源之间建立了一个桥梁。
   • 对于你的2080Ti GPU，NVIDIA - Docker会检测到GPU的存在，并根据容器内深度学习框架（如TensorFlow）对CUDA和cuDNN的需求，将相应的计算请求正确地转发到GPU上。
   • 例如，即使容器内配置的是为较新GPU设计的CUDA 12（可能在功能和优化上有一些针对新GPU的特性），但由于2080Ti的GPU驱动支持CUDA的基本功能集，NVIDIA - Docker可以确保在2080Ti上正确执行容器内的深度学习计算任务。
3. CUDA和GPU驱动的兼容性
   • CUDA有一定的向后兼容性。这意味着较新的CUDA版本在一定程度上可以在旧型号的GPU上运行，只要GPU驱动支持。
   • 对于2080Ti，其GPU驱动可能已经包含了对CUDA 12中部分功能的支持（即使不是全部高级特性）。当在Docker容器中使用配置了CUDA 12的环境时，那些与2080Ti兼容的CUDA功能可以正常工作。
   • 例如，CUDA的核心计算功能（如矩阵乘法等基本运算）在不同版本之间有一定的兼容性保证，只要GPU驱动能够识别和处理容器内CUDA版本的相关调用，就可以在2080Ti上运行深度学习任务而不需要精确适配CUDA版本到特定的为2080Ti优化的版本。