关键要点
现代数据中心已不再仅仅是容纳服务器的建筑。它是一个由计算、存储、网络、配电和热管理基础设施组成的高度复杂且相互依存的系统。作为数字经济的物理基础,数据中心处理、存储和分发数据,这些数据驱动着从企业应用到全球云服务以及先进的人工智能(AI)工作负载等方方面面的运作。
这一基础设施的规模正在迅速扩大。据麦肯锡预测,到2030年,全球数据中心需求预计将达到220吉瓦(GW),预计需要6.7万亿美元的全球投资。这种增长正在改变这些设施的设计、建设和运营方式。
对于工程团队、架构师和 IT 领导者而言,要理解数据中心架构,必须超越 IT 设备的范畴。现代数据中心面临的挑战是一个多物理场问题:在极高的功率密度与热限制之间取得平衡,确保具备故障 容错能力的冗余机制,并从晶体管层级到设施层级优化能效比 。
本指南从工程角度概览 了现代数据中心架构、核心基础设施组件、设施类型,以及人工智能需求如何重塑数据中心设计。
从本质上讲,数据中心是一个专用的实体设施,或是建筑物内的专用空间,旨在容纳关键的计算机系统及其相关组件。其主要功能是为IT运营提供一个安全、可靠且高度受控的环境。
从工程学的角度来看,数据中心更应被视为一个持续运行的处理引擎。它输入电力和原始数据,通过高密度的硅芯片阵列对数据进行处理,并输出处理后的信息和热量。
工程定义: 数据中心是一种 具备故障 容错能力的设施,其设计旨在通过冗余供电、精密热管理以及安全的网络连接,在严格的环境参数范围内,确保高密度IT设备持续运行。
数据中心的复杂性在于其各系统之间的相互依赖关系。某个领域出现的故障 或效率低下会引发连锁反应,波及其他领域。例如,计算密度的提高需要相应增加供电能力,这会产生更多热量,进而需要更强力的冷却措施,而这又会消耗更多电力。要打破这一循环,需要在整个设施生命周期内进行先进的仿真和优化。
在计算能力持续微型化和数据呈指数级增长的推动下,数据中心架构已经历了几个截然不同的发展阶段。当前这一阶段——通常被称为“AI工厂”——指的是专门为GPU 为核心的工作负载而设计的设施,其密度和规模是早期设施设计无法支持的。本文中使用该术语时,即采用这种描述性含义,作为行业内的简称。
时代 | 架构 | 特征定义 | 功率密度 |
1940年代至1970年代 | 大型机时代 | 庞大且仅用于单一用途的计算机(如ENIAC),需要专门的机房、定制的电源以及简易的空调系统。 | < 1 kW per rack equivalent |
1980年代至1990年代 | 客户端/服务器时代 | 微型计算机和分布式网络的兴起。服务器机房在企业办公楼中变得司空见惯。 | 每机架 1–3 千瓦 |
2000s | 互联网与虚拟化 | 互联网热潮推动了专用机房设施的兴建。虚拟化技术使得多个操作系统能够在单台物理服务器上运行,从而提高了利用率。 | 每机架 3–5 千瓦 |
2010s | 云计算与超大规模 | 从企业自有设施向大型集中式 云服务提供商(AWS、Google、Azure)的转变。谷歌于2006年在俄勒冈州达尔斯市建成的设施(面积130万平方英尺)为超大规模架构树立了典范。 | 每机架 5–10 千瓦 |
2020年代至今 | AI工厂 | 工作负载正从以CPU 为中心向以GPU/NPU为中心转变。相关设施专为并行处理而设计,需要液冷系统和庞大的供电基础设施。 | 每机架 40–100+ 千瓦 |
图1. 数据中心架构的演变。 数据中心架构历经五个截然不同的发展阶段,每个阶段都由计算技术的进步和需求的变化所驱动。机架功率密度已增长约100倍——从大型机时代的不到1千瓦,到当今AI工厂的40–100+千瓦。AI时代是首个需要在同一设计周期内对供电、散热和结构设计进行协调性重新思考的时代。
训练大型语言模型(LLMs)和运行复杂模拟所提出的要求,已将传统风冷数据中心的设计推至其物理极限,使其难以满足最高密度工作负载的需求,这迫使人们必须重新构想这些设施的供电和散热基础设施。
现代数据中心建立在五大支柱之上。虽然IT设备(计算、存储、网络)负责实际的数据处理,但设施基础设施(供电、制冷)则确保处理过程能够持续、安全地进行。
1. 计算基础设施
计算层是数据中心的“大脑”,由执行应用程序和处理数据的物理服务器组成。这些服务器的架构决定了整个设施的物理布局。
2. 存储基础设施
数据中心需要大规模、高可用且具有弹性的存储系统,以容纳正在处理的艾字节级数据。存储架构取决于数据的访问方式及其检索速度。
3. 网络基础设施
网络是该设施的中枢神经系统。它负责将服务器相互连接(东西向流量),并将数据中心与外部世界连接起来(南北向流量)。随着分布式计算和微服务架构已成为标准 ,东西向流量的规模呈爆炸式增长,这迫使人们对网络拓扑进行重新设计。
图 2. 数据中心网络拓扑。 传统的三层网络(核心层 → 汇聚层 → 接入层)会导致跳数不固定,并产生汇聚层瓶颈,从而限制东西向流量。叶-脊架构解决了这两个问题:每台叶交换机都连接到每台脊交换机,使得任何服务器到其他任何服务器只需恰好两个跳——这正是GPU 到GPU 之间的人工智能训练流量所需要的可预测且统一的延迟。
4. 电力基础设施
电力分配是现代数据中心面临的最关键、最复杂的工程挑战之一。电力基础设施必须具备高度可靠性、经过优化处理且完全冗余,以防止系统停机。此外,它还必须具备可扩展性,以满足超大规模设施的需求。
5. 散热与热管理
制冷基础设施负责带走计算系统和供电系统产生的热量。随着机架密度的提高,制冷基础设施已成为高密度工作负载下数据中心容量的主要约束 。
数据中心并非千篇一律;它们根据所有权、规模和主要应用场景进行分类。理解这些区别对于架构规划至关重要。
数据中心类型 | 所有权与运营 | 规模与足迹 | 主要用例 |
企业 | 由单一组织拥有并运营。 | 中小型(1–10 兆瓦) | 托管专有企业应用程序、敏感数据和内部IT基础设施。 |
机房托管(Colo) | 由第三方供应商所有;空间、电力和制冷设施出租给多个租户。 | 中大型(10–50+ 兆瓦) | 希望拥有自己的IT硬件,但又希望避免建设及维护设施基础设施所产生的资本支出的组织。 |
托管服务 | 由第三方所有;该服务提供商同时负责管理该设施和IT设备。 | 中型(5–20 兆瓦) | 希望将IT运营完全外包,但又不希望迁移到公有云模式的企业。 |
云 / 超大规模 | 由主要云服务提供商(AWS、Google、Microsoft、Meta)拥有并运营。 | 大型(50–200+ 兆瓦) | 为全球数百万客户提供可扩展的、按需的基础设施即服务(IaaS)和平台即服务(PaaS)。 |
混合云 | 一种混合架构模型:企业利用自有基础设施处理敏感或稳态工作负载,同时借助超大规模公有云容量来处理弹性、突发或全新工作负载。工作负载布局 采用策略驱动和软件定义的方式。 | 从小到大(可变——取决于本地足迹 以及已签约的云端容量) | 需要满足数据驻留或监管要求(如金融服务、医疗保健、政府部门),同时仍需为突发性工作负载或全新AI项目提供弹性容量的组织。 |
Edge | 由各类实体(电信运营商、云服务提供商、企业)拥有。 | Micro to Small (< 1 MW) | 位于最终用户或数据源附近,以最大限度地降低实时应用(物联网、自动驾驶汽车、5G)的延迟。 |
人工智能 / 高性能计算 | 由超大规模云服务商、专业人工智能云服务提供商或研究机构拥有。 | 大型至超大型(50–500+ 兆瓦) | 专为训练大型语言模型和运行复杂模拟而设计。其特点是功率密度极高且采用液冷技术。 |
人工智能数据中心的兴起
尽管企业级和托管设施仍然是传统IT的支柱,但最重大的架构变革正发生在人工智能(AI)和高性能计算(HPC)领域。这些设施的设计围绕GPU 集群的具体要求展开,其中网络架构(如InfiniBand)和热管理系统决定了建筑的物理布局。
如需更深入地了解这些高密度设施的具体架构要求,请参阅《AI 与 HPC 数据中心》一书:概览 。
人工智能与企业工作流的融合,是过去十年间推动数据中心架构变革的最大驱动力。据麦肯锡预测,到2030年,人工智能工作负载预计将占数据中心总需求的70%。
这一转变不仅仅只是增加更多服务器的问题;它改变了数据中心的运行机制。
功率密度挑战
人工智能对数据中心架构最直接、最显著的影响,是功率密度的指数级增长。传统的企业级数据中心建于虚拟化和早期云计算时代,其设计旨在支持5至10千瓦(kW)的机架功率密度。在此密度下,标准 的架空地板风冷系统和常规配电单元已足够满足需求。
如今,单个用于训练大型语言模型(LLMs)的高性能GPU机架的功耗可达40至100+千瓦,而新一代芯片将使这一数值进一步攀升。 这意味着在相同的物理空间内,功率密度增加了10倍足迹 。10年前设计的设施无法简单地改装以适应现代AI硬件;供电系统会导致断路器跳闸,而冷却基础设施则无法有效散热,领先的 ,从而导致热节流(通过降低时钟频率来减少热量输出)或硬件损坏。
这种密度所驱动的宏观层面的能源需求十分庞大。据劳伦斯伯克利国家实验室统计,2018年美国数据中心的用电量达到76太瓦时(TWh),占美国能源总消耗量的1.9%。 到2028年,主要受人工智能热潮推动,这一数字预计将达到325至580太瓦时——占美国总能源消耗的比重最高可达12%。
图3. 美国数据中心能耗增长情况。 美国数据中心的能耗已从2018年的76太瓦时(占全国能源消耗的1.9%)激增至2023年的预计176太瓦时,并预计到2028年将达到325–580太瓦时——约占美国能源总消耗的12%。这一增长加速主要由AI 工作量 的扩张所驱动。 来源:劳伦斯伯克利国家实验室(LBNL),《2024年美国数据中心能耗报告》。
向并行处理和高速互连架构的转变
AI训练和推理需要强大的并行处理能力,而传统CPU无法高效地提供这种能力。这推动了GPU和专用神经网络处理单元(NPU)的普及。这些芯片体积庞大,往往接近半导体制造中光罩尺寸的极限,且与传统CPU相比,它们在更高温度下消耗的电流更大,操作 也更高。
AI 工作负载具有高度分布式特征。 训练单个基础模型需要数千块GPU协同工作,并以极高的速度和超低的延迟进行通信,以防止计算引擎在等待数据时处于空闲状态。这需要专用的高带宽网络架构(如InfiniBand或高级以太网配置),并部署集成式光模块。这些高速互连技术进一步增加了机架的功耗和热负荷,加剧了密度方面的挑战。
人工智能数据中心中多达40%的能耗并非来自计算硬件,而是来自为冷却这些芯片而构建的系统。管理这一热负荷是现代高密度数据中心容量面临的主要工程约束 。
在AI密度下的空气冷却的局限性
几十年来,热管理领域的标准 一直是风冷技术。数据中心依靠计算机机房空调(CRAC)或计算机机房空气处理机组(CRAH)来冷却空气,随后将冷空气强制送入架空地板下方,并通过穿孔地板板向上推入服务器机架之间的冷通道。 服务器吸入这股冷空气,使其流经内部散热器,并将热空气排入热通道,随后热空气返回计算机机房空调机组进行再次冷却。对于传统的企业级密度,以及诸如新思科技 的ZeBu 硬件加速 等采用风冷技术的专用验证平台——在这些场景中,风冷部署本身就是面向客户的优势——这种方法仍然非常有效。
然而,当超过AI工作负载典型的每机架20–30 kW阈值时,空气的导热性能相对较差,而散热所需的空气流量和流速在物理上已难以实现。 为了推动如此大量的空气(包括服务器内部和CRAC机组内部),所需的风扇开始消耗数据中心总电力预算中相当大的一部分,从而侵蚀了能效比 。此外,将高速气流强制通过密集的服务器机箱,还会产生误报 的噪音水平,这对操作人员构成危害。
人工智能密集型设施向液冷技术的转型
为了支持40–100+ kW密度的人工智能工作负载,业界正在迅速采用液体冷却技术。处理过的水或专门设计的介电液体等液体,其比热容比空气高出数千倍,因此能够比风扇更高效地捕获和散发热量,且所需的泵送能耗更低。
图4. 数据中心冷却架构对比。 覆盖不同密度范围的三种冷却架构。风冷(每机架最高约20 kW,PUE 1.3–1.6)采用冷热通道隔离和CRAC机组,对于传统企业级及专用验证级密度仍具有极高的冷却效率。 直通芯片液冷(每机架40–100+ kW,PUE 1.1–1.25)通过冷板捕获70–80%的热量,剩余部分由空气处理。浸没式冷却(每机架100+ kW,PUE低于1.1)将服务器浸没在介电液体中以实现近乎完全的热量捕获,从而突破了最高密度环境下的热量限制。
现代数据中心巨大的能耗,使得可持续发展在经济必要性和监管压力的推动下,已成为工程领域的一项关键优先事项。
关键效率指标
该行业主要依靠两项核心指标来评估设施的效率:
可再生能源并网
为了降低碳足迹 ,主要数据中心运营商已成为可再生能源(风能、太阳能、地热能)的最大企业采购方之一。可再生能源的间歇性与数据中心全天候不间断的电力需求存在冲突。这需要先进的储能解决方案(例如大型锂离子电池组)以及智能 电网互动型不间断电源 系统,这些系统能够平衡负荷,甚至在用电高峰期将电力回馈至电网。
本指南中提到的“从芯片到设施”是指将硅级仿真与设施级多物理场仿真相连接的集成工程分析体系: 新思科技 即在芯片和封装层级的硅级工具,以及在机架、机房和设施层级的Ansys 多物理场求解器。这并非一个独立的行业术语,而是本文中用于描述 解决方案如何整合 新思科技 +Ansys 解决方案如何应对现代数据中心设计中涉及的四个工程尺度。
设计一个现代的高密度数据中心,其复杂性和高成本使得采用试错式工程方法已不再可行。电源、热管理和结构系统之间的相互依赖性,要求采取一种整体的仿真方法,范围涵盖从晶体管的纳米级、服务器机箱的厘米级,直至数据中心设施本身的宏观尺度。
1. 芯片级功耗与热分析
数据中心的热分布始于硅片内部。随着芯片在复杂的3DIC封装中集成专用处理单元(如NPU),它们体验 大功率波动。该 新思科技 该设计与签核产品组合可端到端地解决这一层面的问题:
2. 机架级和板级电子设备散热
在了解芯片的热分布情况后,工程师必须设计PCB和服务器机箱以散去这些热量。Ansys Icepak电子设备散热仿真软件可提供电子设备散热仿真功能,使设计人员能够对电路板和机架层面的热传导进行建模。这确保了散热片、冷板和内部风扇能够针对特定芯片的热输出进行优化。
3. 房间级气流与计算流体动力学(CFD)
在机房层面,数百个机架之间的相互作用会产生复杂的热行为。Ansys 的Fluent流体仿真软件通过计算流体力学(CFD)仿真,对整个服务器机房的气流进行建模。工程师可以优化CRAC机组的布局 、冷热通道隔离的设计,以及液冷汇流管布线 ,从而消除热点并最大限度地降低制冷基础设施的能耗。
4. 设施级结构与数字孪生
最后,必须对整个设施进行建模。Ansys 机械结构有限元分析软件可提供结构仿真,以确保建筑物能够承受高密度机架和液体冷却基础设施的重量。随后,可将这些仿真模型整合到Ansys 的Twin Builder仿真型数字孪生平台中,以此创建该设施的数字孪生,从而使操作人员能够实时监控和优化性能。
图5. 从芯片到设施的仿真堆栈。 该“芯片到设施”仿真体系将四个工程尺度相互连接:芯片级功耗与时序签核;机架和电路板电子设备散热;机房级计算流体动力学(CFD)与散热;以及设施级结构分析与运营数字孪生。热与功耗边界条件从芯片向下传递至设施,每一层的输出结果为下一层提供输入。
模拟技术的理论优势已在实践中得到验证,这得益于那些正在构建人工智能革命物理基础设施的企业。作为全球关键数字基础设施供应商,Vertiv正与Ansys (隶属于 新思科技,共同推动其数据中心冷却系统设计实现数字化转型。
换热器(HX)盘管是将热量从硬件中带走的关键组件。其设计是一项复杂的多物理场挑战,传统上需要耗时较长的物理原型制作。
通过部署Ansys 的optiSLang工艺集成与设计优化软件,Vertiv的工程团队能够快速模拟理想的设计方案,从而在无需反复制作实体原型的情况下,减少材料用量并降低成本。Ansys 的Minerva仿真流程与数据管理网络应用程序使企业内无论是专家还是非专家都能访问自动化仿真功能,从而解决了因设计人员与工程师之间的交接环节而导致的时间延误问题。
“Ansys' industry-领先的 的仿真解决方案将助力Vertiv推动其商业模式,助力我们设计面向未来的解决方案。我们的使命是彻底改变世界对数据中心的构想和开发方式——从制冷和供电技术,到在数据中心设计中应用人工智能。”
——史蒂夫·布莱克韦尔,Vertiv工程副总裁。来源: Ansys 新闻稿,2024年11月14日。
在设计阶段创建的仿真模型,在设施建成后依然具有重要价值。通过将这些高保真3D模型转换为降阶模型(ROM ),工程师可以创建数据中心的实时运行数字孪生。
操作员利用Ansys Twin Builder软件,将数字孪生与物理设施的实时传感器数据相连接。他们可以监控热性能,在设备故障发生前进行预测,并模拟运营变更的影响(例如,“如果我们将4号过道的机架密度提高20%,PUE会发生什么变化?”),而无需对实际运行环境造成风险。
数据中心数字孪生是更广泛的数字孪生类别 的一个应用,该领域涵盖电子领域的深度(新思科技 适用于芯片、SoC、ECU及完整电子架构的eDT技术)以及系统与物理领域的广度(Ansys 数字孪生技术,适用于机械、热力、流体、电磁及多物理场系统)。关于类别 级环境 ,请参阅《什么是电子数字孪生?》。
由于数据中心是数字经济的基础,因此停机是绝对不可接受的。这些设施在设计时采用了不同级别的冗余措施,以确保即使在硬件故障或公用设施中断的情况下,也能保持连续运行。
评估该可靠性的行业标准标准 是正常运行 研究所的等级分类系统。
等级 | 冗余架构 | 预期正常运行 | 典型用例 |
一级 | 基本容量:电源和散热均为单路径;无冗余组件(N)。 | 99.671%(每年停机时间28.8小时) | 小型企业;非关键工作负载。 |
第二层 | 冗余容量组件:电源和冷却系统采用单路径设计,但关键组件采用冗余设计(N+1)。 | 99.741%(每年停机22小时) | 中型企业;标准 IT运维。 |
III级 | 可并行维护:具备多条供电和散热路径,但仅有一条处于活动状态。采用冗余组件(N+1)。移除任何组件均不会影响运行。 | 99.982%(每年停机时间1.6小时) | 大型企业;关键业务应用程序。 |
第四级 | 故障 容错性:具备多条主动供电和散热路径。组件完全冗余(2N 或 2N+1)。系统中任意位置的单个故障 均不会影响运行。 | 99.995%(每年停机时间26.3分钟) | 超大规模云服务商;金融机构;关键任务型人工智能工作负载。 |
数据中心是一种经过精密设计、能够容忍故障 的设施,旨在容纳关键的IT基础设施(计算、存储、网络)以及确保这些设备持续运行所需的冗余供电和制冷系统。
云是一种服务模式(通过互联网提供的软件、平台或基础设施),而数据中心则是承载该云基础设施的实体设施。当您使用 AWS 或 Azure 等云服务时,您的数据会在其超大规模数据中心之一中进行处理。
传统企业数据中心的功耗通常为每机架 5 至 10 千瓦(kW)操作 ,而专为GPU 集群设计的现代人工智能数据中心,其功耗则高达每机架 40 至 100 多千瓦(kW)操作 。一个超大规模的人工智能园区的耗电量可达数百兆瓦(MW),相当于一座小城市的用电量。
电源使用效率(PUE)是标准 针对数据中心制定的指标能效比 。其计算方法是将进入设施的总功率除以严格由IT设备消耗的功率。PUE值为1.0代表效率达到完美;现代超大规模设施的PUE值通常在1.1到1.2之间。
随着机架功率密度超过 30 kW(主要由人工智能和高性能计算工作负载驱动),传统的风冷技术在物理上已无法以足够快的速度散热。液冷技术(直接芯片冷却或浸没式冷却)利用比空气具有更高比热容的流体,从而高效管理这些极端热负荷。在低于该功率密度的场景下——包括传统的企业级计算和风冷验证平台——风冷技术仍能操作 ,其性能完全在可接受范围内。
数据中心数字孪生是物理设施的虚拟复制品,它通过先进的仿真模型(例如Ansys Twin Builder软件)创建,并与实时传感器数据相连。它使运维人员能够在无风险的虚拟环境中监控性能、预测故障并模拟运营变更。
设计和运营新一代人工智能数据中心,需要从晶体管到设施层面都具备工程精度。 新思科技, Inc.(纳斯达克代码:SNPS)与Ansys (隶属于 新思科技,共同开发了上述“从芯片到设施”的工具集。
新思科技 提供从芯片到系统的工程解决方案。