新思科技
Ansys

什么是人工智能和高性能计算(HPC)数据中心(AI工厂)?

索海尔·莫迪尔扎德

2026年10月21日 / 阅读时间17分钟

关键要点

  • 建设规模: 麦肯锡预测,到2030年,全球数据中心将需要6.7万亿美元的 资本投资,以建设足够的容量来满足计算需求——其中5.2万亿美元将用于建设具备人工智能能力的设施——而新增容量需求的约70%将来自人工智能工作负载。
  • 电力是关键约束 : 2018年,美国 数据中心耗电量为76太瓦时,占美国总用电量的1.9%。预计到2028年,这一数字将达到325至580太瓦时,占全国能源消耗的6.7%至12%(劳伦斯伯克利国家实验室)。
  • 制冷是最大的开销: 人工智能数据中心中多达 40%的电力消耗来自用于为芯片散热的系统,而非计算硬件(Ansys)。
  • 这些约束条件在不同尺度上相互作用:性能 、功耗和热限制从晶体管开始,经由机架一直延伸到整栋建筑,彼此耦合。孤立地优化某个尺度可能只是将问题转移而非真正解决,这就是为什么人工智能设施的设计首先是一个分析问题,其次才是建设问题。

定义

人工智能与高性能计算(HPC)数据中心,也称为“AI工厂”,是一种专为人工智能和高性能计算工作负载而设计的设施,其特点在于配备了高密度加速器机架、定制芯片、液冷系统,且机架功率密度比传统设施高出数倍。

什么是人工智能和高性能计算(HPC)数据中心?

数据中心容纳了计算基础设施,例如服务器、存储设备、网络设备以及支撑这些设备的供电和制冷系统,组织机构利用这些基础设施来处理和存储数据。人工智能(AI)和高性能计算(HPC)数据中心,也被称为“AI工厂”,是专为处理当前最耗费计算资源的工作负载而设计的特殊类型:包括大规模人工智能模型训练与推理、科学仿真、金融建模、天气预报、基因组学,以及连接这些工作负载的高带宽数据传输。

高性能计算(HPC)数据中心的出现比当前的人工智能(AI)建设早了几十年。它们最初是为科学和工程仿真而建,应用于流体动力学、分子建模和地震分析等领域——对于这些规模过大、单台机器无法处理的问题,大规模并行计算是唯一可行的解决方案。如今的变化在于,AI工作负载现在需要与HPC所开创的相同架构特征:高密度并行计算、高速互连以及专为持续高功率运行设计的散热系统。 其结果是两者的融合。从架构上看,大多数现代人工智能设施实质上就是高性能计算设施,这两个术语也越来越常被并用。

这两者与传统设施的区别在于内部的硬件配置。传统数据中心运行的是功率密度适中的通用处理器,而人工智能或高性能计算(HPC)设施的机架中则装满了专为并行计算设计的人工智能加速器和定制芯片。这种芯片层面的变化带动了下游所有环节的变革,包括供电架构、冷却系统、物理足迹 以及确保设施正常运行所需的工程技术。

区分人工智能或高性能计算(HPC)设施与传统设施的四个维度

图1. 使人工智能或高性能计算(HPC)设施区别于传统设施的四个维度。 芯片、机架功率密度、冷却方式和工作负载特征。每项差异都源于其上层因素:芯片决定了密度,密度决定了冷却方式,而工作负载特征则决定了负载的持续性。

AI工厂与AI数据中心:这两个术语之间的关系

“AI工厂”已成为此类设施的通用术语,其含义比“AI数据中心”略为狭窄。实践中已形成的区别主要在于范围。AI数据中心是指设施本身:包括建筑、电力基础设施、制冷系统以及其中部署的高密度加速器计算设备。而AI工厂则是将该设施视为一个生产系统,其设计贯穿模型训练、微调和推理的完整生命周期,实现端到端的工程化。

这一概念框架最初由英伟达提出,该公司有意通过这种表述,将人们的思维模式从“存放服务器的建筑”转向“制造智能的工厂”——以数据和电力为原材料,产出代币。此后,这一概念已超越了任何单一供应商的范畴。Omdia目前将“AI Factory”作为独立的市场类别 进行追踪,并描述其已跨越不可逆转的门槛,进入工业化时代,其中 2026 年和 2027 年是建设的关键窗口期。

这两个术语描述的是同一个物理工程问题,因此本指南将AI和HPC数据中心视为统称,而在强调生产框架时则使用“AI工厂”这一术语。每个AI工厂都是一个AI数据中心;但并非每个AI数据中心都运行完整的AI生命周期,从而使其成为真正的AI工厂。

三种操作模式

人工智能和高性能计算(HPC)设施大致可分为三类,许多现代设施同时兼具这三类特征:

  • 训练集群经过 优化,可处理构建基础模型所需的持续数周的工作负载。一旦开始运行,负载就会很高且相对稳定。
  • 推理集群经过 优化,可为已训练模型提供低延迟、高吞吐量 的部署服务。负载会根据需求波动变化。
  • 高性能计算(HPC)模拟设施旨在 支持持续的科学和工程计算,其互连和存储的优先级通常与人工智能训练不同。

每种应用场景对计算密度、网络带宽和热管理都有独特的要求。这三者都遵循相同的“约束 ”核心理念:每瓦特和每平方英尺的计算效率均高于以往任何一代设施。

Why AI and HPC Data Centers Are Different

需求激增

这一投资规模在科技行业尚无明确先例。麦肯锡预测,到2030年,全球数据中心将需要6.7万亿美元的资本投资以满足计算能力的需求,其中5.2万亿美元用于配备人工智能处理能力的设施,1.5万亿美元用于运行传统应用程序的设施。 到2030年,全球对数据中心容量的需求可能增长近三倍,达到219吉瓦,其中约70%的新需求将来自AI工作负载。 从规模上看,这大约相当于美国总发电能力的六分之一——美国总发电能力接近1,400吉瓦;换言之,相当于约一百座胡佛水坝满负荷运转的发电量。预计仅人工智能工作负载的电力需求就将从2025年的44吉瓦增至本十年末的156吉瓦。

短期内的资本支出数据同样惊人。据彭博新能源财经(BloombergNEF)估算,2026年全球14家最大的上市数据中心运营商的资本支出将接近7500亿美元,而前一年的这一数字略低于4500亿美元。截至2025年9月底,全球在建的数据中心IT容量超过23吉瓦,其中约四分之三位于美国。

功率密度的转变

传统的企业级机架功耗为 5 至 15 千瓦。而密集部署加速器的 AI 训练机架功耗则从 30 千瓦到 100 千瓦以上不等。这种功耗的增加会对每个下游系统产生连锁影响:配电、不间断电源的容量配置、母线和电缆布线 ,尤其是散热系统。

美国数据中心的能耗:实测值与预测值。

图2. 美国数据中心能耗:实测值与预测值。 2018年,数据中心能耗达到76太瓦时,占美国总用电量的1.9%。2028年的预测值是一个区间——325至580太瓦时,占全国能源消耗的6.7%至12%——而该区间的幅度本身就是一项重要发现。来源:劳伦斯伯克利国家实验室。

从全国范围来看,这些数据十分惊人。据劳伦斯伯克利国家实验室统计,2018年美国数据中心的用电量为76太瓦时,占美国总用电量的1.9%。 预计到2028年,这一数字将在325至580太瓦时之间,约占美国能源总消耗量的6.7%至12%。这一范围的宽度至关重要:它反映了人们对建设速度和能效提升的真实不确定性,而仅引用其上限会夸大该数据源所主张的内容。

高盛研究部预测,到2030年,全球数据中心的电力需求将增长160%。

定制高性能硅

传统的通用处理器并非为人工智能和高性能计算(HPC)工作负载中占主导地位的大规模并行矩阵运算而设计。加速器、定制的人工智能芯片以及专为高性能计算设计的系统级芯片,在训练、推理和仿真方面,其每瓦特吞吐量 ( )的性能实现了数量级的提升。

这些芯片的架构设计、仿真和验证本身就构成了一系列艰巨的工程挑战。正如《新思科技 高性能计算与数据中心解决方案》所描述的,要为这些工作负载以最低功耗处理海量数据,如今不仅需要先进的硅工艺节点、包括SerDes 在内的高速接口IP以及2.5D或3D先进封装技术,还需进行软硬件协同优化和早期架构探索,以满足严苛的开发进度要求。 这些先进设计不仅需要进行功能正确性仿真,还必须对时序、多物理场效应以及日益复杂且不断增加的设计规则进行验证。

供电与散热的挑战

电力与电网

德勤预测,2023年至2026年间,支撑数据中心、处理器、存储、制冷和网络的关键电力消耗将几乎翻一番,全球总量将达到约96吉瓦,其中仅人工智能运算就可能消耗其中40%以上的电力。 德勤还预计,到2026年,人工智能数据中心的年耗电量将达到约90太瓦时,约占全球所有数据中心预计总耗电量681太瓦时的七分之一。

国际能源署预计,2024年全球数据中心的用电量约为415太瓦时,约占全球用电量的1.5%;根据该机构的基本情景预测,这一数字将上升至约945太瓦时,略低于全球用电量的3%。

在这个规模下,数据中心已不再仅仅是IT基础设施。它们是能源基础设施,也是国家能源规划、电网弹性 以及碳核算中的重要因素。目前,多个市场的并网排队时间已长达数年,这意味着电网的可用性在很大程度上决定了设施的选址,而非由选址决定并网。

AI 密度下的散热

人工智能数据中心中,多达40%的电力消耗来自用于为芯片散热的系统,而非计算硬件本身。这使得热管理成为高密度容量面临的主要工程约束 。

随着密度增加,风冷技术已达到其实际应用的极限。对于传统的企业级密度而言,风冷仍非常有效;对于特定平台,风冷设计本身就是一项优势——新思科技 的ZeBu 硬件加速 风冷服务器便是客户直接看重这一优势的典型案例。但随着机架功率进入30至100+ kW区间的较高端,仅靠风冷已无法满足需求,因此业界已开始转向液冷技术,以应对密度最高的部署场景。

有两种方法可实现这一转变。直接芯片液冷技术通过安装在封装上的冷板,将冷却液输送至发热量最大的组件。热量在源头就被带走,而服务器的其余部分则保持干燥。浸没式冷却则采取了相反的方法,将整个服务器置于介电液浴中,因此热量在机架中均匀散发,风扇和大部分空气处理设备也就不再需要了。

在部署之前,均可利用计算流体力学和热分析对这两者进行建模和优化。有关冷却技术和方法的详细信息,请参阅《什么是数据中心冷却?》。

可持续发展与效率问题

容量的快速扩张与企业及国家的可持续发展承诺之间产生了矛盾。到2030年,全球数据中心的用电量将接近翻番,这将使该行业成为电力需求增长最快的来源之一。大型数据中心会产生可测量的局部热效应,而用于冷却的直接用水和用于发电的间接用水问题也日益引发关注。

电源使用效率(设施总功耗除以IT设备功耗)仍是主要的能效指标。该值若为1.0,则意味着进入设施的每瓦电力都用于计算,但这在物理上是不可能实现的。 设计合理的人工智能(AI)和高性能计算(HPC)设施通常以该指标的低端为目标;而老旧设施的数值往往远高于此。据正常运行 研究所数据显示,自2020年以来,行业平均值一直维持在1.55至1.59之间,该平均值与专用设施所达到的数值之间的差距,主要源于设计层面而非运营层面。

这就是在施工前将其关闭的理由。为了解决模型本应揭示的能效问题而对已投入使用的设施进行改造,是一种代价高昂的排查方式。

从芯片到设施的架构

“从芯片到设施”是指将硅级仿真与设施级多物理场仿真相连接的集成工程分析体系: 新思科技 芯片和封装层上的硅级工具,以及机架、机房和设施层上的Ansys 多物理场求解器。这并非一个独立的行业术语,而是本文中用于描述如何将 新思科技 与Ansys 工具如何共同应对AI设施设计中涉及的四个工程尺度。

之所以在这个特定话题上架构至关重要,是因为人工智能设施的各项约束条件之间存在紧密的耦合关系。从晶体管到机架再到整栋建筑,性能、功耗和热管理限制相互影响;如果仅在某个层面上进行优化而忽略其他方面,就会导致瓶颈、资源配置过剩甚至彻底故障。这种错误最常见的表现形式是:孤立优化芯片,随后才发现设施无法对其进行冷却。

四个尺度,以及在它们之间流动的方向分析

图3. 四个尺度及其之间的方向分析流程。 芯片和封装分析确定热源及功耗map 。电路板和机架分析将其纳入气流模型。机房和设施分析则完善了建筑整体图景。运行模型将实测行为反馈至下一设计周期。

芯片与封装

每一座人工智能设施都始于其内部的硅芯片。整个设施的效率、功耗和热行为在很大程度上由这一层面决定,因此芯片设计和IP选择成为决定数据中心成本、可扩展性和可持续性的首要因素。

一款人工智能芯片必须在芯片面积、封装、散热和成本预算范围内,按具有竞争力的时间表,达到极具挑战性的每瓦性能目标。主要挑战在于数据传输:内存与计算单元之间的数据传输消耗了大部分能量,因此设计人员会最大限度地提高片上存储容量并提高数据复用率。异构计算集成以及先进节点 的扩展——在此过程中,漏电 和热效应会加剧——进一步加剧了这一挑战。

IP选型是这一风险方程的核心。在领先的 边缘节点中,功耗、性能、面积和延迟在很大程度上取决于IP的选择,而非仅由架构决定;若在未经硅验证的IP 的情况下贸然采用新接口标准 或新工艺节点 ,将增加重新设计(re-spin)的风险,而每次迭代 都需要耗费数月时间并消耗预算。 经过验证的IP使团队能够将有限的工程资源投入到差异化领域——如定制加速器和系统级优化——而非标准 功能上。实际上,基于经过验证的IP进行开发,不仅能将项目周期缩短数月,其成本也仅为内部开发相同功能的一小部分。

在制造前验证设计是问题的另一半。现代人工智能芯片包含数百亿个晶体管,必须对其功能正确性 、时序、功耗完整性 、信号完整性 、热行为以及可制造性进行验证——这如今已成为开发 周期中占比最大的环节之一,因为未被发现的缺陷会导致需要重新设计。 多芯片设计和先进封装进一步加剧了这一问题,因为必须在硅片、封装、服务器和机架层面协同优化性能、功耗和散热。基于人工智能且集成多物理场分析的电子设计自动化,是实现“一次成功”流片成功 的核心。

该 新思科技 该IP组合涵盖逻辑库、嵌入式存储器、I/O库、非易失性存储器、接口IP、安全 IP以及 子系统,所有产品均已通过硅验证。IP Accelerated提供架构设计专业知识、硬化的优化,以及信号和功耗完整性 分析,以缩短IP集成和硅初启 时间。

新思科技 Fusion Design Platform可将设计从架构探索阶段一直推进到签核阶段。FusionCompiler针对single-die 设计,提供从寄存器传输级(RTL)到寄存器传输级(GDSII )的物理实现,而3DICCompiler则在统一的探索到签核平台中,提供多芯片和先进封装的协同设计与优化。

在签核阶段,PrimeTime、PrimeShield、PrimeClosure 和 IC Validator 分别提供静态时序分析、设计稳定性 、设计闭合优化以及物理验证 。

RedHawk-SC提供电源完整性 分析,可识别电压降热点以及电迁移 风险,这些风险若不加以处理,最终将表现为现场故障。Exalto提供针对信号和电源完整性 的硅优化电磁建模,在先进工艺节点上,那些曾经可以忽略不计的影响如今已成为首要约束条件。PathFinder-SC负责静电放电可靠性签核,这对在热裕度临界点附近运行的器件尤为重要。RedHawk-SC 与 3DICCompiler 集成,为多芯片和先进封装的协同设计提供了从探索到签核的连续流程。

食宿、机架和机房

一旦硅芯片投入使用,问题就转向了承载它的系统和建筑本身。Ansys Icepak软件可对元器件、电路板和机箱进行电子设备散热分析,在硬件制造之前预测机架和散热配置的热行为。Ansys Fluent软件将分析范围扩展至房间和建筑层面,可对气流模式、过道气流封装、供暖、通风和空调(HVAC)系统行为,以及液冷部署(包括两相冷却和浸没式冷却系统)的行为进行建模。

Ansys 机械软件涵盖结构方面,包括在持续高密度运行条件下的振动、重量载荷和热膨胀,随着液冷机架重量接近一公吨(2,200 磅),这些因素变得尤为重要。Ansys 声学软件作为同一“结构”产品组合的一部分,可预测设施产生的声学影响误报 ——对于靠近居民区的场地而言,这日益成为规划和许可审批约束 中的关键考量因素。

设施与运营

在设施层面,需要考虑的问题属于宏观层面:场地布局、电力分配、环境足迹 以及热回收。Ansys Discovery软件可支持对布局和环境影响的早期评估。Ansys Maxwell软件和Ansys Q3D Extractor 软件可对设施层面的母线、电缆和供电网络中的电磁场及寄生参数 效应进行建模。

设施产生的余热通常会散失到大气中。液体冷却可将回水温度提高到足以使该余热用于区域供热或工业工艺的程度,而通过分析可以确定回收回路在特定地点是否可行,包括热量产生的位置、传递路径以及可在何处以经济的方式进行回收。

Ansys Twin Builder软件将高保真模型压缩为低阶模型,这些模型的运行速度足以满足实际运行需求;而Ansys TwinAI软件则将物理模型与测量数据相结合,使模型能够随着设备老化而自动重新校准。在芯片层面,硅生命周期管理(Silicon Lifecycle Management)在芯片中嵌入了监控模块,用于追踪设备在使用过程中的性能、可靠性和热行为。这些技术共同构成了设计意图与运行条件之间的闭环。 

新思科技 以及Ansys ——面向人工智能和高性能计算数据中心的解决方案

这些技术是根据各自适用的规模进行分类的。

组技术功能
芯片设计与实现FusionCompiler 、DSO.ai、3DICCompiler 、多芯片设计解决方案从寄存器传输级到布局实现,以及基于人工智能的设计空间探索,其中设定了功耗和热预算
验证和验证VCS、ZeBu用于验证复杂芯片设计以及验证系统级硬件和软件行为的软件仿真与硬件硬件加速
芯片功耗与热设计验证RedHawk-SC、Exalto、PathFinder-SC压降, 电磁特性, 电热响应, 静电放电可靠性
硅 IP 以及现场测量面向高性能计算(HPC)和数据中心系统级芯片(SoC)的IP,以及硅片生命周期管理高性能、低延迟、低功耗的接口、基础模块和安全 IP;来自现场的片上监控器报告
设施分析与运营孪生体Ansys Icepak 软件、Fluent 软件、Mechanical 软件、Sound 软件、Discovery 软件、Maxwell 软件、Q3D Extractor 软件、Twin Builder 软件、TwinAI 软件从电路板到建筑的热分析、结构分析、电磁分析、声学分析和流体分析,以及面向运营的双模型构建

新思科技, Inc.(纳斯达克代码:SNPS)专注于在芯片层开发芯片设计、验证和IP技术。Ansys 作为 新思科技旗下公司xml-ph-0000@deepl.internal,则在设施端开发多物理场分析和数字孪生技术。

关于模拟驱动方法在实践中的应用说明。 Vertiv 与Ansys 合作,利用人工智能增强的换热器盘管优化技术以及全企业范围的模拟数据管理,开发了数据中心冷却系统,通过虚拟方式评估设计方案,而非对每种方案都进行实体原型制作。

延伸阅读

探索人工智能和高性能计算(HPC)数据中心解决方案

人工智能和高性能计算设施的设计与运营,从晶体管到整栋建筑,都需要工程级的精确度。

新思科技 提供从芯片到系统的工程解决方案。

常见问题解答

人工智能与高性能计算(HPC)数据中心——此类人工智能设施也被广泛称为“人工智能工厂”——是专为人工智能和高性能计算工作负载而设计的设施,包括模型训练、推理、科学仿真以及它们之间的高带宽数据传输。 它与传统设施的区别在于:所采用的芯片以加速器为主而非通用芯片;机架功率密度在30千瓦至100千瓦以上,而非5至15千瓦;在密度最高的部署中,采用液冷而非风冷。

这两个概念密切相关,且这两个术语常被互换使用,但侧重点有所不同。AI数据中心指的是设施本身:包括建筑、供电基础设施、冷却系统以及内部高密度加速器的计算环境。 而“AI工厂”则是将该设施视为一个生产系统,旨在覆盖模型从训练、微调到推理的完整生命周期——这是英伟达提出的一个概念框架,用来描述一个通过数据和电力制造智能的工厂,而非仅仅是存放服务器的建筑。每一个AI工厂都是一个AI数据中心;但并非每一个AI数据中心都运行着使其成为AI工厂的完整AI生命周期。 无论哪种情况,工程上的限制都是一样的:高密度加速器机架,每机架功耗从30千瓦到100千瓦以上,在最高密度部署中采用液冷,而功耗则是决定性的限制因素。

由于各数据中心的能耗因规模和工作负载构成差异过大,难以得出具有代表性的具体数值,因此有参考价值的应是汇总数据。2018年,美国数据中心总用电量为76太瓦时,占美国总用电量的1.9%;预计到2028年,这一数字将达到325至580太瓦时,占全国能源消耗的6.7%至12%。 在机架层面,一个加速器密集型训练机架的功耗在30千瓦至100千瓦以上。高盛研究部预测,到2030年,全球数据中心的电力需求将增长160%。

在传统的企业级密度下,风冷仍能有效发挥作用;对于某些平台而言,风冷设计甚至是一项刻意追求的优势。 随着机架密度升至30至100+ kW区间的较高水平,仅靠空气冷却已不再足够。直接芯片冷却技术通过安装在封装上的冷板将冷却液输送至最热的组件;浸没冷却技术则将整个服务器置于介电浴中。这两种方法的散热效率都远高于空气冷却,且均可使用Ansys 的Icepak和Ansys 的Fluent软件进行预先建模。

四个维度。硅芯片:采用密集部署加速器的机架和定制系统级芯片(SoC),而非通用处理器。功率密度:每机架30千瓦至100千瓦以上,而非5至15千瓦。散热:在密度最高的部署中采用液体冷却,而非全程使用空气冷却。工作负载特征:用于训练、推理或模拟的持续并行计算,而非企业应用、数据库和网络服务的广泛组合。

硅是决定设施功耗和热特性的最大单一因素。由于设施总功耗等于IT功耗乘以功耗利用率,因此在芯片端减少1瓦功耗,也就相应减少了原本用于支持该功耗的散热和配电开销。 要做到这一点,首先是电子设计自动化(EDA)和知识产权(IP)层面的问题,其次才是设施层面的问题:综合与布局布线决策确定了功耗-性能-面积(PPA)边界;功耗完整性 和电热签核能发现并消除那些原本会随产品出货的热点;而经过硅验证的接口、基础架构和内存IP的选择,则决定了内存与计算单元之间数据传输的功耗——这正是芯片能耗的主要来源。 采用这种方式设计的芯片运行温度更低、功耗更小,而这种节能效果会在设施内的每台设备上产生累积效应。

分析能在设计阶段就识别出限制因素,从而在设计过程中予以消除。在芯片层面,分析可确定功耗map 及热源位置;在电路板和机架层面,分析可确定冷却气流实际到达负载的位置;在设施层面,分析则涉及建筑气流、结构荷载以及热回收等问题。建设完成后,降阶模型将相同的物理原理应用于运营决策中。

继续阅读

Ask BETA This experience is in beta mode. Please double check responses for accuracy.

结束聊天

关闭此窗口将清除您的聊天记录并结束本次会话。您是否确定要结束本次聊天?