问题：恒源云Docker如何配置GPU支持？

Question

**问题描述：** 用户在使用恒源云平台部署Docker容器时，遇到如何正确配置GPU支持的问题。常见疑问包括：如何在恒源云的Docker环境中启用NVIDIA GPU、是否需要安装特定驱动、如何验证GPU是否成功接入容器、以及是否支持CUDA和cuDNN等深度学习框架所需的组件。此外，用户还关心如何在docker-compose或Kubernetes中配置GPU资源限制和调度策略。

Answer 1

一、恒源云平台Docker容器中GPU支持的基本概念

在深度学习、AI推理等高性能计算场景下，Docker容器化部署GPU应用已成为主流方式。恒源云作为提供GPU资源的云平台，其Docker环境支持NVIDIA GPU加速，但需要进行一定的配置。

用户在使用过程中常遇到以下问题：

• 如何在Docker中启用NVIDIA GPU？
• 是否需要安装特定驱动？
• 如何验证GPU是否成功接入容器？
• CUDA和cuDNN是否支持？
• 如何在docker-compose或Kubernetes中配置GPU资源限制和调度策略？

二、启用NVIDIA GPU支持的技术路径

要使Docker容器能够访问主机上的NVIDIA GPU资源，必须安装NVIDIA提供的容器工具。恒源云平台通常已预装相关组件，但用户仍需确认是否启用。

关键步骤包括：

1. 安装NVIDIA驱动（通常由平台提供）
2. 安装nvidia-docker2运行时
3. 配置Docker默认运行时为nvidia

以下为配置命令示例：

sudo apt-get update
sudo apt-get install -y nvidia-docker2
sudo systemctl restart docker

三、验证GPU是否成功接入容器

完成配置后，可以通过运行官方NVIDIA测试镜像来验证GPU是否可用：

docker run --rm --gpus all nvidia/cuda:11.6.0-base nvidia-smi

若输出显示GPU信息，则说明GPU已成功接入容器。

此外，还可以在容器中运行CUDA程序进行验证：

docker run --rm --gpus all nvidia/cuda:11.6.0-base /usr/local/cuda/bin/deviceQuery

四、CUDA与cuDNN组件的支持情况

恒源云平台通常预装NVIDIA驱动和CUDA工具链，但具体版本需与容器内的CUDA和cuDNN版本匹配。

平台CUDA版本	推荐容器CUDA镜像版本	cuDNN兼容性
11.6	nvidia/cuda:11.6.0-base	支持7.6.x
11.8	nvidia/cuda:11.8.0-base	支持8.4.x

建议用户使用官方提供的CUDA基础镜像，以确保与平台驱动兼容。

五、在docker-compose中配置GPU资源

在docker-compose.yml文件中，可以通过deploy.resources.reservations.devices字段指定GPU资源。

version: '3.8'
services:
  app:
    image: nvidia/cuda:11.6.0-base
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

该配置表示容器将使用一个GPU设备。

六、在Kubernetes中配置GPU资源限制与调度策略

Kubernetes支持通过Device Plugin机制管理GPU资源。用户需要确保节点上已部署NVIDIA Device Plugin，并在Pod定义中指定GPU资源请求。

apiVersion: v1
kind: Pod
metadata:
  name: cuda-pod
spec:
  containers:
    - name: cuda-container
      image: nvidia/cuda:11.6.0-base
      resources:
        limits:
          nvidia.com/gpu: 1

此外，调度器可通过Node Selector或Taint/Toleration机制控制GPU资源的调度策略。

七、流程图：Docker容器GPU支持配置流程

            graph TD
                A[确认平台GPU驱动是否已安装] --> B[安装nvidia-docker2]
                B --> C[重启Docker服务]
                C --> D[运行测试容器验证GPU]
                D --> E{是否输出GPU信息?}
                E -- 是 --> F[配置docker-compose或Kubernetes]
                E -- 否 --> G[检查驱动版本与CUDA镜像兼容性]
                F --> H[部署深度学习应用]