vGPU和MIG选型的分水岭,是租户究竟需要多强的资源边界。若目标是灵活地向虚拟机或工作负载交付 GPU 份额,vGPU 值得优先验证;若要求在受支持设备内形成更明确的硬件资源分区,MIG 更接近问题核心;若连整卡故障和节点维护都不能共担,两者都可能不够。
评估口径: 面向正在建设多租户 GPU 资源池的平台、虚拟化、安全和采购团队。文中只给出选型与 POC 方法,不提供未经目标环境核验的兼容矩阵、性能数字、价格或厂商承诺。
这不是把两种技术排成一条“弱隔离到强隔离”的直线。vGPU 与 MIG 处在不同层面,可能独立使用,也可能在特定且受支持的技术栈中组合。真正可执行的做法,是先写清租户边界,再核对硬件、驱动、运行时、运维和商业条件。
先纠正比较前提:vGPU与MIG不在同一层
vGPU 通常指通过虚拟化与资源管理机制,向虚拟机或工作负载交付虚拟 GPU 资源的一类路线。它关注“怎样把 GPU 能力交给租户”,可能涉及宿主机、虚拟化层、主机驱动、客户机驱动、调度器和管理平台。具体实现采用怎样的调度方式、是否允许资源超额、能否动态调整以及隔离做到什么程度,不能从“vGPU”这个名称直接推出。
MIG 是受支持 GPU 上的设备内硬件分区能力。它关注“怎样在一张物理 GPU 内形成可分配的资源实例”,再由上层平台发现、调度、授权和回收这些实例。MIG 可以让部分资源边界更接近硬件层,但它没有把整台服务器变成多个完全独立的系统:主机驱动、物理卡、节点电源、网络、存储和控制面仍可能是共同依赖。
因此,两者的关系更接近“资源交付层”与“设备分区层”,而非两个完全同类的产品。某些技术栈可能允许以 MIG 实例作为底层资源,再通过虚拟化方式交付;是否支持这种组合,必须按 GPU 型号、固件、驱动、虚拟化软件、客户机环境、许可证和供应商支持范围逐项确认。
核心判断:硬件分区能加强特定资源维度的边界,但不能自动等同于完整的租户安全域或独立故障域。
“硬边界”要先拆成四种要求
租户提出“必须硬隔离”时,平台团队应追问隔离对象。如果不先拆解,安全团队说的硬边界、业务团队说的性能保障和基础设施团队说的故障隔离,很可能指向三件不同的事。
以下对比用于定义需求,不代表任何路线已经通过:
| 边界要求 | 需要回答的问题 | vGPU候选路线要验证 | MIG候选路线要验证 |
| 资源承诺 | 显存与计算资源是否按约定交付 | 虚拟资源配置、调度与回收是否一致 | 实例配置、可见资源与回收是否一致 |
| 性能干扰 | 邻居租户压力是否影响关键任务 | 共享调度、峰值争用与限额行为 | 同卡实例间干扰及配置粒度 |
| 安全边界 | 租户能否越权访问设备、任务或数据 | 虚拟化、权限、设备映射和审计 | 实例边界、权限、设备映射和审计 |
| 故障边界 | 任务、驱动、整卡或节点故障影响谁 | 共同组件失效后的影响范围 | 实例故障与整卡、驱动、节点故障的区别 |
表格给出的不是“vGPU 软、MIG 硬”的简化答案。资源承诺、性能干扰、安全和故障需要分别验收;某条路线在一个维度表现合适,不代表其他维度自然成立。如果监管或内部安全政策要求租户不共享物理设备、主机驱动或节点,选型应继续分流到整卡独占或独立节点,而不是停在 MIG。
先按租户类型分流,再比较功能清单
弹性交付优先:把vGPU放进候选集
开发测试、交互式实验或大量中小型虚拟机工作负载,通常更在意资源交付是否灵活、租户生命周期是否易管理,以及闲置资源能否回收。此时可以优先验证 vGPU 路线,但验证对象应覆盖实际实现:资源份额如何表达、任务峰值怎样处理、租户是否允许超额、客户机和宿主机版本如何匹配、监控能否解释争用。
“优先验证”并不等于预设 vGPU 的共享密度更高。若工作负载长期占满显存或计算资源,过细切分可能增加排队和运维成本;若实现要求固定配置或严格版本绑定,弹性也可能受限。密度结论只能来自目标负载与目标栈的实测。
设备内硬分区优先:把MIG放进候选集
当租户之间需要更明确的设备内资源边界,且目标硬件、驱动和运行时具备相应前提时,可以优先验证 MIG。POC 应确认实例创建、发现、分配、删除和重建是否一致,同卡多实例承压时关键任务是否符合预期,以及设备重置、驱动升级或节点维护会影响哪些实例。
MIG 的资源配置通常受目标设备支持的实例方式约束,具体粒度和可组合方式必须查验对应硬件与软件版本。固定的实例粒度可能带来资源碎片,也可能让资源承诺更清晰;哪一种结果占主导,需要结合模型显存峰值、计算占用、任务时长和资源池规模测量。
边界必须跨过整卡或节点:直接升级隔离层级
如果关键租户不能接受共享物理卡、共同驱动重置、整卡故障或节点维护影响,就不应把 MIG 当作终点。整卡独占、独立节点,甚至独立集群或安全域,可能才符合边界定义。这个分支会牺牲一部分共享弹性,但能减少共同依赖;成本和容量影响应由企业自己的负载、冗余与维护模型测算。
同一企业也不必只保留一种资源池。探索任务、普通推理和关键生产负载可以进入不同等级的资源池,以租户等级和业务影响决定 vGPU、MIG、整卡或节点隔离。分层资源池的前提是调度入口、配额、权限、成本归属和审计能够区分这些等级。关于队列和多租户治理,可参考 AI算力调度平台选型 的相关判断维度。
共享密度要用有效任务衡量
“每张卡能放多少租户”只是容量表象。平台真正需要比较的是:在目标业务约束下,一张卡能稳定承载多少有效任务,以及这种密度需要多少排队、人工调整和故障恢复成本。
建议至少记录以下口径:
- 工作负载的显存常驻量、峰值与释放行为
- 计算忙碌时间、排队时间、初始化和模型加载时间
- 同卡并发时的延迟、吞吐、失败与长尾变化
- 配置粒度造成的空闲显存、计算碎片和不可分配资源
- 任务取消、异常退出或缩容后的资源回收时间
- 节点维护、驱动升级和配置重建需要的人工步骤
vGPU 路线可能提供更细或更灵活的交付方式,但实际粒度、超额策略和调度语义依产品与版本而异。MIG 路线可能提供更明确的硬件实例,但实例配置与目标负载不匹配时也会产生碎片。共享密度的可用结论应同时满足业务SLO、租户边界和可运维性,不能只统计控制台中的实例数量。
POC 还应设置整卡基线。用相同模型、输入、并发、观察窗口和数据口径,比较整卡、vGPU 候选配置与 MIG 候选配置。结果只对该组合负责,不外推为其他 GPU、驱动、模型或平台版本的普遍性能结论。
故障域比正常运行更能暴露边界
正常任务启动成功,只证明资源交付链在当前条件下可用。租户硬边界是否成立,要看异常发生时影响停在哪里,以及平台能否把影响对象、恢复动作和责任人说清楚。
以下场景应在隔离的测试环境中逐级验证:
| 事件 | 观察对象 | 需要留下的证据 |
| 单租户进程异常 | 同卡邻居、资源释放、任务状态 | 任务事件、资源前后状态、审计记录 |
| 单租户持续施压 | 延迟、吞吐、显存、限额与队列 | 双租户指标、限制动作、异常告警 |
| 资源实例删除或重建 | 租户可见资源、设备标识、重新调度 | 配置快照、分配记录、回收与重建日志 |
| 驱动或设备重置 | 同卡实例、虚拟机或容器、恢复路径 | 影响清单、重试结果、人工操作记录 |
| 节点维护或失联 | 全部租户、队列、备用容量 | 排空记录、任务去向、恢复与回退结果 |
MIG 能否限制某类实例故障的影响,vGPU 能否在某类虚拟化故障后保持租户连续性,都必须以受控测试为准。整卡故障、主机驱动异常和节点失联通常涉及共同依赖,不能因为资源在页面上显示为多个实例,就预设故障已经被完全切开。
故障测试还要区分在线推理与训练。在线推理关注请求失败、流量切换和副本接管;训练关注检查点、队列位置、重试和重跑代价。两类任务可以共享资源池,但不应复用同一条“恢复成功”判据。
技术前提要冻结成一张组合清单
vGPU 与 MIG 的支持范围高度依赖组合。正式 POC 前,应冻结测试对象,避免测试中途更换驱动或运行时后仍沿用旧结论。
需要记录的前提包括:
- GPU 的准确型号、固件与设备模式
- 宿主机操作系统、内核、主机驱动和管理组件
- vGPU 场景中的虚拟化层、客户机系统与客户机驱动
- 容器场景中的容器运行时、GPU 工具链和设备管理组件
- MIG 场景中的设备模式、实例配置、发现与调度方式
- Kubernetes 或其他调度平台中的资源名称、配额、权限和审计方式
- 监控采集位置、指标归属、日志保留和告警责任
- 升级、降级、节点排空、配置重建与回滚步骤
这些字段的价值在于让结果可复现,而不是生成一张看似完整的兼容矩阵。不同版本的支持关系可能变化;没有核验公开资料、供应商书面说明和目标环境实测前,应标记“待确认”。涉及异构设备和平台适配时,可参考 国产GPU适配与平台验证 的验证思路,但不能把其他设备的结论直接套到 vGPU 或 MIG。
运维责任和商业条件必须进入选型主体
技术路线能否长期运行,取决于谁配置资源、谁维护版本、谁处理故障,以及许可证和支持范围是否覆盖生产场景。以下责任建议在 POC 开始前分配:
| 责任对象 | 需要确认的事项 | 交付证据 |
| 基础设施团队 | 设备模式、固件、驱动、节点维护与备件 | 资产清单、维护流程、回滚记录 |
| 虚拟化团队 | 宿主机与客户机组合、资源交付和升级顺序 | 版本清单、配置快照、升级演练 |
| AI平台团队 | 调度、配额、租户权限、回收、监控和审计 | 策略、事件、指标、审计导出 |
| 业务团队 | 模型、负载、SLO、检查点与重试要求 | 负载样本、基线、验收条件 |
| 采购与供应商 | 许可证、订阅、支持版本、SLA与退出安排 | 报价范围、授权条款、支持说明 |
vGPU 方案可能涉及按产品、设备、并发、订阅或其他方式授权,具体口径不能从通用名称推断。MIG 是硬件能力,也不能据此推断上层管理软件、虚拟化交付、企业支持或升级服务无需许可证。采购团队应要求供应商明确许可对象、计量方式、离线或私有环境要求、版本支持周期、故障响应范围和合同终止后的使用边界。
许可证与商业支持没有书面证据时,状态应是“待核验”,不能写成已包含、免费、永久支持或天然兼容。 同样,平台交付方不能替硬件、驱动或虚拟化供应商承诺未验证的组合。
POC用六组证据完成分流
POC 的目的不是选出普遍赢家,而是确认哪条路线适合哪类租户。建议用同一组代表性负载,按以下顺序执行:
- 组合预检: 固定硬件、驱动、虚拟化层、运行时、管理组件和许可证状态,未确认项单独列出。
- 资源生命周期: 创建、分配、启动、缩容、删除和重新分配,核对控制面记录与任务实际可见资源。
- 双租户压力: 让一个租户进入资源峰值,观察另一个租户的指标、错误、限额和审计事件。
- 异常与故障: 依次验证任务异常、资源实例重建、设备或驱动事件和节点维护,记录共同故障域。
- 维护与升级: 演练节点排空、版本变更、配置重建与回退,确认资源标识、租户归属和监控连续性。
- 运营复盘: 汇总有效任务密度、人工步骤、恢复责任、许可证缺口和不建议场景。
每组证据都应包含输入条件、允许结果、拒绝结果、时间窗口、日志或指标位置、责任人和未覆盖项。若某项尚未测试,应保持“未验证”,而不是用功能截图或成功演示替代。
最终可按以下方式分流:
- 租户主要需要虚拟化交付、生命周期管理和弹性共享:vGPU 进入优先 POC,但要验证干扰、回收、版本与许可证。
- 租户需要受支持设备内更明确的硬件资源分区:MIG 进入优先 POC,但要验证配置粒度、同卡故障域和平台治理。
- 租户不能共享物理卡、驱动或节点故障域:转向整卡独占、独立节点或更高层级隔离。
- 业务风险差异较大:建立分层资源池;若计划组合 vGPU 与 MIG,先取得明确支持证据,再做独立 POC。
先形成边界声明,再启动采购比较
vGPU 和 MIG 的选择应从一页“租户边界声明”开始:允许共享什么、不能共享什么、哪些故障可以共担、哪些资源需要保证、谁负责升级与恢复。边界声明完成后,再用真实负载比较共享密度、故障行为和运维成本,采购讨论才不会停留在功能名称。
建议先选取探索任务、普通生产任务和关键任务各一类,完成组合预检与双租户故障 POC,再决定是否建设 vGPU 池、MIG 池或整卡池。若企业还需要统一队列、配额、权限与资源运营,可进一步 了解AI算力管理方案;具体 vGPU、MIG、硬件、驱动和商业支持范围仍需在目标项目中单独确认。
常见问题
vGPU和MIG能直接理解成软件切分与硬件切分吗?
不建议这样一一对应。vGPU 是一类面向虚拟机或工作负载交付虚拟 GPU 资源的路线,背后可能包含不同的调度、设备映射和隔离实现;MIG 则是受支持 GPU 上的设备内硬件分区能力。前者关注资源如何被虚拟化和交付,后者关注物理设备内部如何形成资源实例,比较层级并不完全相同。
在某些经明确支持的组合中,MIG 实例可能成为虚拟化交付的底层资源,但这不代表所有 vGPU 产品、GPU 型号、驱动、虚拟化平台和客户机系统都能这样组合。评估时应分别记录硬件实例、虚拟资源、租户权限和管理平台四层对象,再查验公开支持矩阵、许可证条款与目标环境结果。若这些证据缺失,只能标记为待核验。
租户要求硬边界时,选择MIG就一定足够吗?
不一定。MIG 可以在受支持设备内形成更明确的硬件资源分区,但“硬边界”可能还包含物理卡、主机驱动、节点、网络、存储、身份权限和运维控制面。多个 MIG 实例仍可能共享同一张物理卡和同一节点;整卡故障、驱动重置、供电或节点维护会产生什么影响,需要在受控环境中验证,不能从分区名称推断。
安全团队应把要求写成可验收条件,例如租户是否允许共享物理卡、是否允许共同维护窗口、管理员能看到哪些设备与日志、故障能否扩散到同卡或同节点任务。若政策要求不共享设备或共同驱动故障域,应升级到整卡独占或独立节点;若只要求设备内资源边界和可审计分配,MIG 才是值得重点验证的候选路线。
追求更高共享密度时,为什么不能直接选择vGPU?
共享密度取决于工作负载和实现,不由技术名称单独决定。vGPU 可能提供适合虚拟机与多租户的资源交付方式,但实际配置粒度、调度策略、资源超额、客户机开销、许可证限制和版本组合都会影响可承载数量。若模型长期占满显存或计算单元,增加虚拟实例并不会自动增加有效吞吐,反而可能带来排队、长尾和人工调整。
POC 应把“实例数”改成“满足业务约束的有效任务数”,同时记录显存峰值、计算忙碌时间、排队、错误、回收、维护步骤和邻居干扰。还要与整卡和 MIG 候选配置使用相同负载对照。只有在业务 SLO、租户边界和运维成本同时可接受时,密度提升才有意义;测试结果也只适用于当前硬件、驱动、运行时与模型组合。
vGPU和MIG的许可证、驱动及商业支持应该怎样核验?
先由技术团队冻结目标组合,包括 GPU 型号与固件、宿主机系统和驱动、虚拟化层、客户机系统与驱动、容器运行时、设备管理组件、MIG 配置方式及平台版本。随后让供应商按这张清单逐项书面确认支持状态、限制、升级顺序和问题归属,而不是只回答“支持 vGPU”或“支持 MIG”。公开资料与书面答复不一致时,应把差异带入 POC。
采购核验还应覆盖许可证对象、计量方式、订阅期限、私有或离线环境要求、版本支持周期、SLA、补丁与安全响应、升级服务、合同结束后的使用和数据导出。MIG 属于硬件能力,并不自动说明上层管理与企业支持免费;vGPU 的授权方式也不能按其他产品经验推断。所有未取得证据的项目都应保留“待核验”状态,并在报价、合同、验收单和运行手册中明确责任人。
原创声明:本文为 Alauda 原创技术内容,非商业转载须注明出处:https://www.alauda.cn/blog/1921/。
文中图示和文章内容未经许可不得用于商业转载、培训课件、营销材料或二次分发。