多个容器怎么使用同一块gpu

如果你使用的是Docker，可以通过在启动容器时，映射主机上的GPU设备来让多个容器共享同一块GPU。具体来说，可以使用以下命令启动容器：

docker run --gpus all -it <image_name> bash

其中，`--gpus all`表示映射所有GPU设备，`<image_name>`表示容器镜像名称，`bash`表示容器启动后进入bash命令行。

如果你使用的是Kubernetes，可以通过配置Pod来让多个容器共享同一块GPU。具体来说，可以在Pod的配置文件中，指定容器所需的GPU资源数量和GPU设备的编号，如下所示：

apiVersion: v1
kind: Pod
metadata:
  name: my-pod
spec:
  containers:
  - name: container1
    image: <image_name>
    resources:
      limits:
        nvidia.com/gpu: 1
    volumeMounts:
    - name: nvidia
      mountPath: /usr/local/nvidia
      readOnly: true
  - name: container2
    image: <image_name>
    resources:
      limits:
        nvidia.com/gpu: 1
    volumeMounts:
    - name: nvidia
      mountPath: /usr/local/nvidia
      readOnly: true
  volumes:
  - name: nvidia
    hostPath:
      path: /usr/local/nvidia

其中，`limits.nvidia.com/gpu`表示容器所需的GPU资源数量，`volumeMounts`表示挂载主机上的GPU设备，`hostPath.path`表示主机上GPU设备的路径。