AI Infra 的下一堵墙在配电:800VDC 为什么会反向改写集群调度
AI Infra 过去两年的主问题是“能拿到多少 GPU”,接下来会越来越像“现有土地、电力、配电和冷却条件下,能交付多少稳定有效的计算”。
8 月 11 日,NVIDIA 公布面向 AI factory 的 800VDC 路线:先用兼容既有 AC 设施的行内 power rack,把 800VDC 送到计算机架;再演进到每排最高 2MW 的 row power center;最终在新建园区用 facility-scale DC power block,把中压电网更直接地转换成 800VDC。8 月 18 日,AMD 又公布其 2024–2026 年机架级 AI 能效估算提升 4 倍,并继续以 2030 年提升 20 倍为目标。
这两条新闻指向同一个变化:芯片、机架和建筑电气已经不能分别优化。AI 平台团队要开始理解配电路径,设施团队也要开始理解 workload、token 与调度。
为什么电压会成为算力问题
最基本的关系是:
P = V × I
在传输相同功率时,提高电压可以降低电流。线缆和母排上的电阻损耗近似为:
P_loss = I² × R
只做一个帮助理解量级的理想化比较:同样传 1MW,48V 对应约 20,833A,800V 对应 1,250A;电流相差约 16.7 倍。如果导体电阻完全相同,电阻损耗会相差约 278 倍。
现实系统当然不会保持相同导体、拓扑和保护设计,这个数字不能拿来宣称 800VDC 能让整座数据中心节能 278 倍。它说明的是工程压力:低电压在兆瓦级功率下需要极粗母排、大量铜材、复杂连接和更高热损耗;提高分配电压,可以让高密度机架继续扩展。
800VDC 优化的不是一个电源,而是一整条转换链
传统数据中心通常从电网 AC 开始,经变压、UPS、整流和机架内电源,最终给加速器提供低压 DC。每次转换都有损耗、设备体积、故障点和维护成本。功率密度越高,几个百分点的损耗就越接近一个独立机房的热量。
800VDC 的方向是减少重复转换,在更高电压的 DC 母线上分配功率,再靠近计算负载完成最后变换。它带来三类收益:
- 更低电流,降低铜材、母排和连接器压力;
- 减少部分 AC/DC、DC/AC 往返,改善转换效率;
- 把一排机架视为统一电力域,便于集中冗余和动态分配。
但它也引入新的故障边界。高压直流没有 AC 的自然过零点,电弧更难熄灭;保护、隔离、维护程序、连接器、熔断器和固态变压器必须一起成熟。不能只购买一只 800V 电源模块,就声称设施已经具备 800VDC 架构。
混合路线比“一次重建机房”更现实
NVIDIA 的近期方案不是要求现有数据中心推倒重来。计划在 2026 年下半年推出的 MGX-compatible 800VDC power rack 可以接入已有 AC 基础设施,在机架行内部完成转换,再向计算机架提供 800VDC。2027 年路线进一步把转换集中到 row power center,并以架空母线覆盖多排机架。
这种演进顺序很重要。数据中心最贵的不只是服务器,还有土地、并网容量、变电站、建筑、冷却和长期合同。如果新一代机架只能进入全新园区,部署速度会被土建周期锁死。混合架构的价值,是让既有设施先获得一条迁移坡道。
但迁移评估不能只问“能不能供电”,还要问:
- 既有开关柜、UPS、母线和冷却还能保留多少;
- 行内转换的效率、噪声、热量和维护空间是否可接受;
- 800VDC 域的故障会影响一个机架、一排还是整个数据厅;
- N+1 或 2N 冗余如何实现,旁路与维护如何演练;
- 消防、人员防护、锁定挂牌和本地规范怎样适配高压直流。
从 FLOPS/W 到 tokens-per-joule,还差一层业务语义
AMD 把能效目标定义在机架级,强调芯片、HBM、缓存、互联、软件和系统设计的协同。这比只比较 GPU TDP 更接近真实世界,但“每瓦浮点性能”仍不是 AI 服务最终指标。
训练和推理都存在大量不能直接转化为业务结果的计算:padding、通信等待、失败重跑、低命中缓存、无效输出、空闲保活和过度推理。更合理的指标链应该是:
设施电能
-> 芯片有效计算
-> 有效 token / 样本
-> 通过质量门的任务
-> 业务结果
因此平台至少要同时记录:
| 层级 | 指标例子 | 防止什么误判 |
|---|---|---|
| 设施 | PUE、配电损耗、冷却功率 | 芯片高效但机房低效 |
| 机架 | kW、功率封顶、热余量 | 额定能力无法持续运行 |
| 训练 | samples/J、有效 GPU 时间、重跑率 | 失败训练也被算作产能 |
| 推理 | tokens/J、TTFT、TPOT、cache hit | 只追吞吐牺牲体验 |
| 任务 | verified tasks/kWh | 低质量长输出看起来很繁忙 |
AMD 的“2026 年约 4 倍”和“2030 年 20 倍”是厂商基于代表性机架、测量数据与部分建模形成的目标与估算,不应当被直接当成任意工作负载的实测收益。尤其“2030 年两排机架相当于 2024 年 570 排”的表述依赖未来产品和给定训练工作负载。采购决策仍需要自己的模型、精度、并行策略和设施边界下的基准。
功率开始进入调度器的资源模型
Kubernetes 习惯调度 CPU、内存和扩展资源,GPU 平台则进一步考虑型号、显存、NVLink 拓扑和队列配额。兆瓦级机架让功率与冷却余量也必须进入调度决策。
同一排机架不可能让所有 GPU 永远同时跑峰值。训练任务、长上下文 prefill、decode、数据处理和检查点的功率曲线不同。如果平台能观测实时功率并理解 workload 阶段,就可以:
- 把功率峰值错开的任务放在同一电力域;
- 在不触发设施上限的前提下临时提高关键任务功率;
- 电网需求响应时优先延后可中断训练,而不是随机限频;
- 根据温度、冷却能力和电价在集群间迁移弹性任务;
- 把功率预算与业务优先级、SLA 和队列配额连接起来。
NVIDIA DSX 文档已经把 Dynamic Power Software、workload power profiles 和 DSX Flex 放在同一体系:前者在 GPU、机架和 workload 之间重新分配功率,后者接收削峰、需求响应和价格信号,让工作负载适应电网状态。
这意味着未来的 AI scheduler 不只是找“哪张卡空闲”,还要回答“此时此地用多少瓦运行这项工作最划算”。
电力感知调度不能变成隐蔽降频
动态功率分配有价值,也容易制造难排查的性能漂移。如果平台在负载高峰时悄悄降频,训练 ETA、推理 P99 和分布式同步都会抖动。电力控制面必须像发布系统一样可观察、可解释、可回滚。
建议把以下信息记录为任务运行证据:
- 任务请求、获批和实际功率上限;
- 限频开始与结束时间、触发原因;
- 节点、机架、行级功率与温度;
- throttling 对 step time、TTFT、TPOT 的影响;
- 是否因功率调整触发超时、重试或检查点;
- 调度器作出的迁移、暂停和优先级决策。
对于同步训练,一个节点被限频会拖慢整个 data-parallel group;看平均 GPU 功率会误以为节能成功,实际所有其他 GPU 都在等待。功率策略必须理解任务拓扑,按 gang 或 stage 决策。
旧机房升级,先做四张预算表
企业不需要因为 800VDC 新闻立即替换基础设施。更实际的准备是先把容量模型补全:
- 电力预算:从园区并网到芯片的每级容量、冗余和损耗;
- 热预算:供回水温度、流量、CDU、机架换热和最坏环境;
- 故障预算:每个 breaker、busway、power shelf 和冷却回路影响哪些任务;
- 业务预算:哪些任务可延迟、可降频、可迁移,哪些必须维持 SLA。
随后用一排机架做混合架构试点,验证转换效率、保护选择性、维护流程、监控一致性和 workload 功率画像。没有观测和故障演练的 800VDC,只是把容量瓶颈换成新的未知风险。
趋势判断:电力将成为 AI Infra 的第一类 API
过去软件团队把电力看作机房给出的常量,设施团队把计算任务看作不可解释的负载。高密度 AI 打破了这个边界。配电架构需要了解机架和 workload,调度器也需要理解电网、储能、温度和转换容量。
800VDC 是否成为所有数据中心的统一答案,还取决于标准、供应链、监管、保护技术和实际 TCO。但方向已经清楚:算力扩展不再只由晶体管决定,而由芯片、内存、互联、配电、冷却和软件共同决定。
下一代 AI Infra 团队的竞争力,不只是把 GPU 点亮,而是在固定的电力和风险预算里,持续交付更多通过验证的智能任务。