跳转到文档内容
版本：v2.10.0

在 Google Kubernetes Engine 上安装 HAMi

本文介绍在 GKE Standard 的 UBUNTU_CONTAINERD 节点上，使用 NVIDIA GPU Operator 安装 HAMi 所需的 GKE 配置。GKE Autopilot 不支持 GPU Operator。

通用节点要求见安装前提条件。完成下文配置后，按 GPU Operator 安装指南和通过 Helm 在线安装部署组件。CDI 配置见 NVIDIA CDI 支持。

选择驱动管理方式​

GKE 可以为 GPU 节点安装 NVIDIA 驱动。准备节点池前，先确定由 GKE 还是 GPU Operator 管理驱动。两种安装方式见 NVIDIA 的 GKE 指南。

无论选择哪种方式，都需要在 GPU 节点池的 --node-labels 中设置 gke-no-default-nvidia-gpu-device-plugin=true，禁用 GKE 自带的 NVIDIA Device Plugin。保留其他所需标签，包括 HAMi 使用的 gpu=on。同时设置 GPU Operator 的 devicePlugin.enabled=false，由 HAMi 负责 GPU 注册。

由 GPU Operator 安装驱动​

在节点池的 --accelerator 选项中设置 gpu-driver-version=disabled，关闭 GKE 自动驱动安装。通过 driver.enabled=true 和 toolkit.enabled=true 启用 Operator 的驱动和 Toolkit 组件。

使用 GKE 安装的驱动​

安装 GPU Operator 前，确认节点上的驱动已安装。新建或替换节点时，按 Google 驱动安装器流程准备驱动。

自动驱动安装

在 GKE 1.34.10-gke.1328000 的 Ubuntu 节点上，GKE 的 NVIDIA Device Plugin Pod 也包含驱动安装器。gke-no-default-nvidia-gpu-device-plugin=true 标签会阻止整个 Pod 运行，包括驱动安装。因此，不能仅依赖 gpu-driver-version=default 为带有此标签的新节点安装驱动，需要按上述流程单独准备驱动安装器。

将以下配置合并到 GPU Operator 的 values 文件中：

driver:
  enabled: false
hostPaths:
  driverInstallDir: /home/kubernetes/bin/nvidia
toolkit:
  installDir: /home/kubernetes/bin/nvidia

GKE 使用 /home/kubernetes/bin/nvidia 存放驱动文件和安装 Toolkit。合并配置时，保留其他 Toolkit 设置，包括下一节的 toolkit.env。

将 HAMi 的 devicePlugin.nvidiaDriverRoot 设置为 /，使用宿主机文件系统，其中 GPU 设备节点位于 /dev。使用 CDI 时，将 CDI 配置中的 devicePlugin.nvidiaHookPath 设置为 /home/kubernetes/bin/nvidia/toolkit/nvidia-ctk。

启用 CDI 时，Google 驱动安装器提供的目录布局无需额外创建 nvidia-smi 符号链接。如果关闭 Operator CDI 后容器无法访问 GPU 设备，参见关闭 CDI 后容器缺少 GPU 设备。

指定 containerd 配置来源​

在 GKE 1.33 及以上版本中，将以下设置添加到 GPU Operator 的 values 文件：

toolkit:
  env:
    - name: RUNTIME_CONFIG_SOURCE
      value: file

此设置让 Toolkit 直接读取 containerd 配置文件，规避可能导致 containerd 配置错误、Operator 容器无法启动的 GKE 已知问题。无论是否启用 CDI，都需要应用此设置，并保留其他所需的 toolkit.env 项。

允许关键优先级 Pod​

如果将 HAMi Chart 安装到 kube-system，无需为 HAMi 额外配置 ResourceQuota。只有在其他命名空间中，GKE 才要求通过此配额允许优先级为 system-node-critical 或 system-cluster-critical 的 Pod。

如果 GPU Operator 安装在 kube-system 之外的命名空间，仍需为它配置配额。例如，安装到 gpu-operator 时，如果该命名空间尚不存在，先创建命名空间：

kubectl create namespace gpu-operator

将以下内容保存为 critical-pods-quota.yaml：

apiVersion: v1
kind: ResourceQuota
metadata:
  name: critical-pods
spec:
  hard:
    pods: "100"
  scopeSelector:
    matchExpressions:
      - operator: In
        scopeName: PriorityClass
        values:
          - system-node-critical
          - system-cluster-critical

将配额应用到 Operator 的命名空间：

kubectl apply -n gpu-operator -f critical-pods-quota.yaml

如果将 HAMi 安装到 kube-system 之外的命名空间，也需要在安装前创建目标命名空间并应用相同配额。

故障排查​

关闭 CDI 后容器缺少 GPU 设备​

在 GKE Ubuntu 节点上使用 Google 安装的驱动时，关闭 GPU Operator 的 CDI 后，容器可能缺少 GPU 设备，HAMi monitor 报 NVML: Driver Not Loaded。应用以下驱动路径补丁即可修复此问题。

应用驱动路径 DaemonSet。它会在带有 gpu=on 标签的 Ubuntu 节点上创建 /usr/bin/nvidia-smi 符号链接，让 GPU Operator 正确识别宿主机驱动：

kubectl apply -f https://project-hami.io/examples/gke-nvidia-driver-path.yaml
kubectl rollout status -n kube-system daemonset/gke-nvidia-driver-path

如果已经安装 GPU Operator 和 HAMi，重启相关组件使修复生效。将以下命令中的 gpu-operator 和 hami-system 分别替换为 GPU Operator 和 HAMi 实际所在的命名空间：

kubectl rollout restart -n gpu-operator daemonset/nvidia-container-toolkit-daemonset
kubectl rollout status -n gpu-operator daemonset/nvidia-container-toolkit-daemonset
kubectl rollout restart -n gpu-operator daemonset/nvidia-operator-validator
kubectl rollout restart -n hami-system daemonset/hami-device-plugin
kubectl rollout status -n hami-system daemonset/hami-device-plugin

新建 GPU 工作负载，验证设备访问，并确认 HAMi monitor 正常启动。保留该 DaemonSet，以便为替换节点应用相同修复。

下一步​

  1. 按 GPU Operator 的 GKE 安装指南，使用上述配置准备的 values 文件安装 Operator，并确认组件就绪。
  2. 如果使用 CDI，按节点的驱动根目录和 Toolkit 路径完成 NVIDIA CDI 配置。
  3. 按通过 Helm 在线安装，传入准备好的 HAMi values 文件，安装 HAMi 并验证安装结果。
CNCFHAMi 是 CNCF 孵化项目