腾讯云专用宿主机qGPU 使用

操作场景

本文介绍如何通过腾讯云容器服务 TKE 使用 qGPU。

使用须知

TKE 版本支持：需 ≥ v1.14.x。操作系统支持：请参见 TKE 支持的公共镜像列表。推荐使用 TencentOS Server 3.1 (TK4) ，公共镜像为更稳定、高效、易维护的使用方式。不推荐您使用市场镜像。GPU 卡架构：支持 Volta（如 V100）、Turing（如 T4）、Ampere（如 A100、A10)。驱动版本：支持驱动版本由镜像和机型所共同决定，具体可参见 准备 GPU 资源。说明为保证兼容性，推荐您在节点上安装 NVIDIA 驱动，无需在 POD 内部重复安装。共享粒度：每个 qGPU 最小分配1G显存，精度单位是1G。算力最小分配5（代表一张卡的5%），最大100（代表一张卡），精度单位是5（即5、10、15、20 … 100）。整卡分配：开启了 qGPU 能力的节点可按照 tke.cloud.tencent.com/qgpu-core: 100 | 200 | ...（N * 100，N 是整卡个数）的方式分配整卡。建议通过 TKE 的节点池能力来区分 NVIDIA 分配方式或转换到 qGPU 使用方式。个数限制：一个 GPU 上最多可创建16个 qGPU 设备。建议按照容器申请的显存大小确定单个 GPU 卡可共享部署的 qGPU 个数。升级须知：如需升级 Kubernetes Master 版本，请注意：对于托管集群，无需重新设置本插件。对于独立集群，master 版本升级会重置 master 上所有组件的配置，会影响 qgpu-scheduler 插件作为 Scheduler Extender 的配置，因此 qGPU 插件需要卸载后再重新安装。

操作步骤

说明由于使用 qGPU 能力需要使用特定镜像以及设置相关 Label，强烈建议您使用 TKE 的节点池能力来对节点进行分组管理（节点池的节点具备统一的 Label 以及镜像属性），详情请参见 创建节点池。

安装qGPU 组件

1. 登录 容器服务控制台，在左侧导航栏中选择集群。2. 在集群管理页面单击目标集群 ID，进入集群详情页。3. 选择左侧菜单栏中的组件管理，进入“组件列表”页面。4. 在组件列表页面中选择新建，并在新建组件页面中勾选 qGPU（GPU 隔离组件）。5. 单击参数配置，可以设置 qgpu-scheduler 的调度策略。spread：多个 Pod 会分散在不同节点、不同显卡上，优先选择资源剩余量较多的节点。适用于高可用场景，避免把同一个应用的副本放到同一个设备上。binpack：多个 Pod 会优先使用同一个节点，适用于提高 GPU 利用率的场景。6. 单击完成即可创建组件。
安装成功后，需要为集群准备 GPU 资源。

开启集群 qGPU 共享

1. 单击目标集群 ID，进入集群详情页。2. 单击 qGPU 共享右侧的

，开启 qGPU 共享。如下图所示：


开启后，集群中所有新增 GPU 节点默认开启 GPU 共享能力。您可以在 准备 GPU 资源 中通过 Label 控制是否开启隔离能力。

准备 GPU 资源

1. 在集群管理页面中，选择左侧工具栏中的节点管理 > 节点池。2. 在节点池列表页面中，单击新建节点池。3. 在创建节点池页面中，选择支持的镜像，例如 TencentOS Server 3.1 (TK4) 并设置相关驱动。
设置镜像并选择机型后, 可以根据需求选择 GPU 驱动的版本、CUDA 版本、cuDNN 版本。其余参数配置可参见 创建节点池。如下图所示：

说明勾选“后台自动安装 GPU 驱动”后，将在系统启动时进行自动安装，预计耗时15 – 25分钟。支持的驱动版本由 OS 以及 GPU 机型共同决定，详情可参见 各实例支持的 GPU 驱动版本及安装方式。若您未勾选后台自动安装 GPU 驱动，为了保证 GPU 机型的正常使用，针对某些低版本 OS，将会为您默认安装 GPU 驱动，完整的默认驱动版本信息可参见下表：

4. 在创建节点池页面中展开更多设置，通过高级配置设置 Label，指定 qGPU 隔离策略 。如下图所示：

Label 键：tke.cloud.tencent.com/qgpu-schedule-policy。Label 值：fixed-share。设置 Label value 时，可填写全称或者缩写，更多取值请参考下表。
当前 qGPU 支持以下三种隔离策略：

5. 单击创建节点池即可。

给应用分配共享 GPU 资源

通过给容器设置 qGPU 对应资源允许 Pod 使用 qGPU，您可以通过控制台或者 YAML 方式来设置：说明若应用需使用整数卡资源，只需填写卡数，无需填写显存（自动使用分配的 GPU 卡上全部显存）。若应用需要使用小数卡资源（即和其他应用共享同一张卡），需同时填写卡数和显存。通过控制台设置通过 YAML 设置1.在集群管理页面单击目标集群 ID，进入集群详情页，单击工作负载展开选项。


2.在新建 Deployment 页面，填写 GPU 资源。如下图所示：

通过 YAML 来设置相关 qGPU 资源：

spec:  containers:    resources:      limits:        tke.cloud.tencent.com/qgpu-memory: "5"        tke.cloud.tencent.com/qgpu-core: "30"      requests:        tke.cloud.tencent.com/qgpu-memory: "5"        tke.cloud.tencent.com/qgpu-core: "30"

requests 和 limits 中和 qGPU 相关的资源值必须一致（根据 K8S 的规则，可以省略 requests 中对 qGPU 的设置，这种情况下 requests 会被自动设置为和 limits 相同的值）。tke.cloud.tencent.com/qgpu-memory 表示容器申请的显存（单位G），整数分配，不支持小数。tke.cloud.tencent.com/qgpu-core 代表容器申请的算力，每个 GPU 卡可以提供100%算力，qgpu-core 的设置应该小于100，设置值超过剩余算力比例值，则设置失败，设置后容器可以得到一张 GPU 卡 n% 的算力。

附录

部署在集群内的 Kubernetes 对象

官网1折活动，限时活动，即将结束，速速收藏
同尘科技为腾讯云授权服务中心。
购买腾讯云产品享受折上折，更有现金返利。同意关联立享优惠