AI 및 HPC 데이터 센터(AI 팩토리)란 무엇인가?

데이터 센터는 조직이 데이터를 처리하고 저장하는 데 사용하는 서버, 스토리지, 네트워킹, 그리고 이를 지원하는 전력 및 냉각 시스템과 같은 컴퓨팅 인프라를 수용합니다. ‘AI 팩토리’라고도 불리는 AI 및 HPC 데이터 센터는 현재 존재하는 가장 컴퓨팅 집약적인 워크로드를 처리하기 위해 구축된 특수한 형태로, 대규모 AI 모델 훈련 및 추론, 과학적 시뮬레이션, 금융 모델링, 기상 예보, 유전체학, 그리고 이를 연결하는 고대역폭 데이터 전송을 처리합니다.

고성능 컴퓨팅(HPC) 데이터 센터는 현재의 AI 인프라 구축보다 수십 년 앞서 등장했습니다. 이 데이터 센터들은 유체 역학, 분자 모델링, 지진 분석과 같은 과학 및 공학 시뮬레이션을 위해 구축되었으며, 단일 컴퓨터로는 처리하기 너무 방대한 문제를 해결하기 위해서는 대규모 병렬 계산이 유일한 실용적인 방법이었기 때문입니다. 달라진 점은 이제 AI 워크로드가 HPC가 개척한 것과 동일한 아키텍처적 특성, 즉 고밀도 병렬 연산, 고속 상호 연결, 지속적인 고전력 작동을 위해 설계된 냉각 시스템을 요구한다는 것입니다. 그 결과 두 분야가 융합되고 있습니다. 대부분의 현대 AI 시설은 아키텍처 측면에서 HPC 시설과 동일하며, 이 두 용어는 점점 더 함께 사용되고 있습니다.

이들 시설이 기존 시설과 차별화되는 점은 내부 하드웨어에 있습니다. 기존 데이터 센터가 적당한 전력 밀도로 범용 프로세서를 구동하는 반면, AI 또는 HPC 시설은 병렬 연산을 위해 설계된 AI 가속기와 맞춤형 칩으로 랙을 가득 채웁니다. 이러한 칩의 변화는 전력 공급 아키텍처, 냉각 시스템, 물리적 설치 공간, 시설 운영을 유지하는 데 필요한 엔지니어링 등 후속 단계의 모든 요소에 영향을 미칩니다.

수요 급증

이러한 투자 규모는 기술 산업에서 전례가 거의 없는 수준입니다. 맥킨지(McKinsey)는 컴퓨팅 성능 수요를 따라잡기 위해 2030년까지 전 세계 데이터 센터에 6.7조 달러의 자본 투자가 필요할 것으로 전망하며, 이 중 5.2조 달러는 AI 처리 부하를 감당할 수 있는 시설에, 1.5조 달러는 기존 애플리케이션을 실행하는 시설에 투입될 것으로 예상합니다. 2030년까지 전 세계 데이터 센터 용량 수요는 219GW로 거의 3배 가까이 증가할 전망이며, 이 새로운 수요의 약 70%는 AI 워크로드에서 발생할 것으로 보인다. 규모를 가늠해 보면, 이는 1,400GW에 육박하는 미국 전체 발전 용량의 약 6분의 1에 해당하며, 달리 말하면 최대 출력으로 가동되는 후버 댐 약 100개 분량에 해당한다. 특히 AI 워크로드에 필요한 전력 수요는 2025년 44GW에서 2030년 말까지 156GW로 증가할 것으로 전망된다.

단기적인 자본 지출 규모도 마찬가지로 가파르게 증가하고 있다. 블룸버그NEF에 따르면, 상위 14개 상장 데이터센터 운영사의 2026년 자본 지출은 전년의 4,500억 달러 미만에서 7,500억 달러에 육박할 것으로 전망된다. 2025년 9월 말 기준, 전 세계적으로 23GW 이상의 데이터센터 IT 용량이 건설 중이었으며, 이 중 약 4분의 3이 미국에 집중되어 있었다.

전력 밀도의 변화

일반적인 엔터프라이즈 랙의 전력 소비량은 5~15kW입니다. 반면, 가속기가 밀집된 AI 훈련용 랙의 전력 소비량은 30kW에서 100kW 이상에 이릅니다. 이러한 전력 소비량의 증가는 전력 분배, 무정전 전원 공급 장치(UPS)의 용량 산정, 버스바 및 케이블 배선, 그리고 무엇보다도 냉각 시스템 등 모든 하류 시스템에 연쇄적으로 영향을 미칩니다.

전국적인 차원에서 보면 그 수치는 매우 충격적이다. 로렌스 버클리 국립연구소(Lawrence Berkeley National Laboratory)에 따르면, 2018년 미국 데이터 센터의 전력 소비량은 76 TWh로, 이는 미국 전체 전력 소비량의 1.9%를 차지했다. 2028년까지는 325~580 TWh, 즉 미국 전체 에너지 소비량의 6.7~12%에 달할 것으로 전망된다. 이 범위의 폭이 중요한데, 이는 시설 확충 속도와 효율성 향상 정도에 대한 실질적인 불확실성을 반영하기 때문이다. 따라서 상한치만을 인용하는 것은 해당 출처가 주장하는 바를 과장하는 것이 된다.

골드만삭스 리서치는 전 세계적으로 2030년까지 데이터센터의 전력 수요가 160% 증가할 것으로 전망하고 있다.

맞춤형 고성능 실리콘

기존의 범용 프로세서는 AI 및 HPC 워크로드에서 주를 이루는 대규모 병렬 행렬 연산을 처리하도록 설계되지 않았습니다. 가속기, 맞춤형 AI 칩, 그리고 전용 HPC 시스템온칩(SoC)은 훈련, 추론, 시뮬레이션 분야에서 와트당 처리량을 한 차원 높은 수준으로 향상시킵니다.

이러한 칩의 아키텍처 설계, 설계, 시뮬레이션 및 검증 과정 자체만으로도 방대하고 까다로운 공학적 과제들을 수반합니다. Synopsys 의 HPC 및 데이터 센터 솔루션에서 설명하고 있듯이, 이러한 워크로드에 대해 최소 전력 소비로 대량의 데이터를 처리하려면 이제 첨단 실리콘 공정 노드, 고속 메모리 인터페이스( 인터페이스 IP , SerDes 포함) 및 3차원( 2.5D ) 또는 3D 첨단 패키징이 필요할 뿐만 아니라, 까다로운 일정을 맞추기 위해 하드웨어와 소프트웨어의 공동 최적화 및 초기 아키텍처 탐색도 필수적입니다. 이러한 첨단 설계는 올바른 기능성뿐만 아니라 타이밍, Multiphysics 효과, 그리고 복잡하고 끊임없이 늘어나는 설계 규칙에 대해서도 시뮬레이션 및 검증이 이루어져야 합니다.

전력과 전력망

딜로이트는 데이터 센터, 프로세서, 스토리지, 냉각 및 네트워킹을 지원하는 핵심 전력 소비량이 2023년부터 2026년 사이 전 세계적으로 거의 두 배로 증가해 약 96GW에 달할 것으로 전망하며, AI 운영만으로도 이 전력 소비량의 40% 이상을 차지할 가능성이 있다고 내다봤다. 또한 딜로이트는 2026년까지 AI 데이터센터의 연간 전력 소비량이 약 90 TWh에 달할 것으로 전망하며, 이는 전 세계 모든 데이터센터의 예상 전력 소비량 681 TWh의 약 7분의 1에 해당하는 수치다.

국제에너지기구(IEA)는 2024년 전 세계 데이터센터의 전력 소비량이 약 415 TWh로, 전 세계 전력 소비량의 약 1.5%를 차지할 것으로 전망하며, IEA의 기본 시나리오(Base Case)에 따르면 이 수치는 약 945 TWh로 증가해 전 세계 전력 소비량의 3%에 약간 못 미치는 수준이 될 것으로 내다보고 있다.

이러한 규모에 이르면 데이터 센터는 더 이상 단순한 IT 인프라에 그치지 않습니다. 데이터 센터는 에너지 인프라이자 국가 에너지 계획, 전력망 복원력, 탄소 배출량 산정의 중요한 요소가 됩니다. 현재 여러 시장에서 상호연결 대기 기간이 수년에 달하고 있는데, 이는 시설 건립 결정에 따라 부지가 정해지기보다는 전력망 가용성이 시설 건립 장소를 결정하는 요인이 점점 더 커지고 있음을 의미합니다.

AI 밀도에서의 냉각

AI 데이터 센터에서 사용되는 전력의 최대 40%는 컴퓨팅 하드웨어 자체가 아닌, 칩을 냉각하기 위해 구축된 시스템에서 소비됩니다. 따라서 열 관리는 고밀도 용량 구축에 있어 가장 중요한 공학적 제약 요소입니다.

밀도가 높아짐에 따라 공랭식 냉각은 실질적인 한계에 도달합니다. 기존의 기업용 밀도 수준에서는 여전히 매우 효과적이며, 특정 플랫폼의 경우 공랭식 설계 자체가 장점이 되기도 합니다. 공랭식 Synopsys ZeBu 에뮬레이션 서버는 고객이 이를 직접적으로 높이 평가하는 사례입니다. 그러나 랙의 전력 소비량이 30~100kW 이상의 상위 범위로 진입함에 따라 공기 냉각만으로는 더 이상 충분하지 않게 되었으며, 업계는 밀도가 가장 높은 구축 환경을 위해 액체 냉각 방식으로 전환하고 있습니다.

이러한 전환을 이끄는 두 가지 방식이 있습니다. ‘직접 칩 냉각(Direct-to-chip liquid cooling)’ 방식은 패키지에 장착된 콜드 플레이트를 통해 열을 가장 많이 발생시키는 부품에 냉각수를 공급합니다. 열은 발생 원천에서 바로 배출되므로 서버의 나머지 부분은 건조한 상태를 유지합니다. 반면 ‘침지 냉각(Immersion cooling )’ 방식은 정반대의 접근 방식을 취하여 서버 전체를 절연액 욕조에 담그기 때문에, 열이 랙 전체에 걸쳐 균일하게 배출되며 팬과 대부분의 공기 처리 장비가 불필요해집니다.

두 가지 모두 배포 전에 전산 유체 역학 및 열 해석을 활용하여 모델링하고 최적화할 수 있습니다. 냉각 기술 및 방법에 대한 자세한 내용은 “데이터 센터 냉각이란 무엇인가?”를 참조하십시오.

지속 가능성과 효율성 문제

급속한 용량 확장은 기업 및 국가 차원의 지속가능성 약속과 상충을 일으키고 있다. 2030년까지 전 세계 데이터센터의 전력 소비량이 거의 두 배로 증가할 경우, 이 부문은 전력 수요 증가 속도가 가장 빠른 분야 중 하나가 될 것이다. 대규모 시설은 지역적으로 상당한 열 영향을 미칠 수 있으며, 냉각을 위한 직접적인 물 사용과 발전용 간접적인 물 사용 모두 점점 더 큰 우려 사항으로 대두되고 있다.

전력 사용 효율(전체 시설 전력 소비량을 IT 장비 전력 소비량으로 나눈 값)은 여전히 가장 중요한 효율 지표로 꼽힙니다. 이 수치가 1.0이라면 시설로 유입되는 모든 와트가 연산에 사용된다는 것을 의미하지만, 이는 물리적으로 불가능합니다. 잘 설계된 AI 및 HPC 시설은 이 척도의 하한선을 목표로 하는 반면, 구형 시설은 종종 그보다 훨씬 높은 수치를 기록합니다. 업타임 인스티튜트(Uptime Institute)에 따르면, 2020년 이후 업계 평균은 1.55에서 1.59 사이를 유지해 왔으며, 이 평균과 전용 시설이 달성하는 수치 간의 격차는 운영상의 문제라기보다는 주로 설계상의 차이에서 비롯된 것입니다.

이것이 건설 전에 이를 중단해야 한다는 주장입니다. 모델링을 통해 드러났을 효율성 문제를 해결하기 위해 가동 중인 시설을 개조하는 것은, 그 문제를 파악하는 데 있어 비용이 많이 드는 방법입니다.

‘칩-투-시설(Chip-to-facility)’이란 실리콘 수준의 시뮬레이션과 시설 수준의 Multiphysics 시뮬레이션을 연결하는 통합 엔지니어링 분석 스택을 의미합니다: Synopsys 칩 및 패키지 계층의 실리콘 수준 도구와 Ansys Multiphysics 랙, 실, 시설 계층의 솔버를 포함합니다. 이는 독립적인 업계 용어가 아닙니다. 이는 결합된 Synopsys 및 Ansys 도구들이 AI 시설 설계에 관련된 네 가지 엔지니어링 규모를 어떻게 다루는지를 설명하기 위해 본 문서에서 사용하는 개념적 틀입니다.

특히 이 주제에 있어 스택이 중요한 이유는 AI 시설의 제약 조건들이 서로 밀접하게 연관되어 있기 때문입니다. 성능, 전력, 열적 한계는 트랜지스터부터 랙, 건물에 이르기까지 상호 작용하며, 한 가지 규모에서만 문제를 해결하고 다른 요소들을 무시할 경우 병목 현상, 과도한 자원 할당, 또는 명백한 장애가 발생합니다. 이러한 실수 중 가장 흔한 사례는 칩을 독립적으로 최적화한 후, 시설에서 이를 냉각할 수 없다는 사실을 뒤늦게 깨닫는 경우입니다.

칩 및 패키지

모든 AI 시설은 그 내부에 탑재된 실리콘 칩에서 시작됩니다. 전체 설비의 효율성, 전력 소비량, 열적 특성은 대부분 이 수준에서 결정되므로, 칩 설계와 IP 선정은 데이터 센터의 비용, 확장성, 지속 가능성을 좌우하는 주요 요인이 됩니다.

AI 칩 는 다이 에서 정한 크기, 패키징, 열 설계 및 비용 예산 범위 내에서, 경쟁력 있는 일정 내에 공격적인 와트당 성능 목표를 달성해야 합니다. 가장 큰 과제는 데이터 이동입니다. 에너지 소비의 상당 부분이 메모리와 연산 장치 간의 데이터 전송에서 발생하기 때문에, 설계자들은 온칩 저장 용량을 극대화하고 데이터 재사용을 늘리려고 합니다. 또한 누설 전류와 열 효과가 심화되는 이종 연산 통합 및 첨단 노드 스케일링이 이러한 과제를 더욱 가중시킵니다.

IP 선정은 이러한 위험 요소의 핵심에 자리 잡고 있습니다. 최첨단 노드에서는 전력, 성능, 면적, 지연 시간이 아키텍처만큼이나 IP 선택에 의해 결정되며, 실리콘 검증된 IP 없이 새로운 인터페이스 표준이나 공정 노드를 도입할 경우 재설계 위험이 높아지는데, 이 경우 매번의 반복 작업마다 수개월의 시간과 예산이 소요됩니다. 검증된 IP를 활용하면 개발 팀은 표준 기능 구현에 공력을 쏟기보다, 맞춤형 가속기나 시스템 수준 최적화와 같은 차별화 요소에 한정된 엔지니어링 자원을 집중할 수 있습니다. 실제로 검증된 IP를 기반으로 개발하면, 동일한 기능을 사내에서 개발하는 데 드는 비용의 일부만으로 개발 일정을 수개월 단축할 수 있습니다.

제조 전에 설계를 검증하는 것은 문제의 또 다른 절반을 차지합니다. 현대의 AI 칩 는 수백억 개의 트랜지스터를 포함하고 있으며, 기능적 정확성, 타이밍, 전력 무결성, 신호 무결성, 열적 거동 및 제조 가능성 측면에서 검증되어야 합니다. 이는 현재 개발 주기의 가장 큰 구성 요소 중 하나인데, 감지되지 않은 버그가 재설계(re-spin)로 이어지기 때문입니다. 다중다이 설계와 첨단 패키징은 이러한 문제를 더욱 가중시킵니다. 성능, 전력, 냉각을 실리콘, 패키지, 서버, 랙 전반에 걸쳐 종합적으로 최적화해야 하기 때문입니다. 통합된 Multiphysics 분석을 갖춘 AI 기반 전자 설계 자동화(EDA)는 첫 번째 실리콘 제작 성공의 핵심입니다.

이 Synopsys IP 포트폴리오는 로직 라이브러리, 임베디드 메모리, I/O 라이브러리, 비휘발성 메모리, 인터페이스 IP, 보안 IP, 및 서브시스템을 포함하며, 모두 실리콘 검증 완료된 제품입니다. IP Accelerated는 아키텍처 설계 전문 지식, 하드닝, 신호 및 전력 무결성 분석을 제공하여 IP 통합 및 실리콘 가동 시간을 단축합니다.

Synopsys Fusion Design Platform 건축적 탐색 단계부터 최종 승인 단계에 이르기까지 설계 과정을 수행합니다. Fusion Compiler 단일다이 설계에 대해 레지스터 전송 레벨(RTL)부터 GDSII에 이르는 물리적 구현을 수행하며, 3DIC Compiler 통합된 탐색-사인오프 플랫폼에서 다중다이 및 첨단 패키지 공동 설계 와 최적화를 제공합니다.

승인 시, PrimeTime, PrimeShield, PrimeClosure, 그리고 IC Validator정적 타이밍 분석, 설계 견고성, 설계 클로저 최적화, 물리적 검증 기능을 각각 제공합니다.

RedHawk-SC전력 무결성 분석을 제공하여, 그렇지 않으면 현장 고장으로 나타날 수 있는 전압 강하 핫스팟과 전자이동 위험 요소를 식별합니다. Exalto 신호 및 전력 무결성 에 대해 실리콘에 최적화된 전자기 모델링을 제공하며, 여기서는 과거에는 무시할 수 있었던 영향들이 첨단 노드에서는 1차 제약 조건이 됩니다. PathFinder-SC 열 마진 근처에서 작동하는 부품에 더욱 중요한 정전기 방전(ESD) 신뢰성 사인오프를 처리합니다. RedHawk-SC 는 3DIC Compiler 와 통합되어, 탐색 단계부터 사인오프에 이르기까지 다중다이 및 첨단 패키지 공동 설계 를 위한 연속적인 경로를 제공합니다.

보드, 랙, 룸

실리콘이 일단 개발되면, 문제는 이를 수용하는 시스템과 건물로 옮겨갑니다. Ansys Icepak 소프트웨어는 부품, 기판 및 인클로저에 대한 전자기기 냉각 분석을 제공하여, 하드웨어가 제작되기 전에 랙과 냉각 구성의 열적 거동을 예측합니다. Ansys Fluent 소프트웨어는 이를 실내 및 건물 규모로 확장하여, 기류 패턴, 통로 밀폐, 난방·환기·공조(HVAC) 거동, 그리고 2상 및 침지 시스템을 포함한 액체 냉각 시스템의 거동을 모델링합니다.

Ansys 기계 설계 소프트웨어는 지속적인 고밀도 가동 조건 하에서 발생하는 진동, 하중, 열팽창을 포함한 구조적 측면을 다루며, 이는 액체 냉각식 랙의 무게가 1미터톤(2,200파운드)에 육박함에 따라 중요한 요소로 대두됩니다. Ansys 동일한 Structures 포트폴리오의 일부인 음향 설계 소프트웨어는 시설에서 발생하는 소음을 예측하며, 이는 주거 지역 인근 부지의 경우 계획 및 허가 과정에서 점점 더 큰 제약 요인으로 작용하고 있습니다.

시설 및 운영

시설 규모에서는 부지 배치, 전력 분배, 환경적 영향, 열 회수 등 거시적인 문제들이 대두됩니다. Ansys Discovery 소프트웨어는 배치 및 환경적 영향에 대한 초기 단계 평가를 지원합니다. Ansys Maxwell 소프트웨어와 Ansys Q3D Extractor 소프트웨어는 시설 규모에서 버스바, 케이블 및 전력 공급 네트워크의 전자기장과 기생 효과를 모델링합니다.

일반적으로 시설에서 배출되는 열은 대기로 방출되어 손실됩니다. 액체 냉각 방식은 회수수의 온도를 충분히 높여, 그 열을 지역 난방이나 산업 공정에 유용하게 활용할 수 있게 합니다. 또한 분석을 통해 특정 현장에서 열 회수 루프의 타당성, 열이 발생하는 위치, 열의 이동 경로, 그리고 경제적으로 열을 회수할 수 있는 지점을 파악하게 됩니다.

Ansys Twin Builder 소프트웨어는 고정밀 모델을 운영에 충분히 빠르게 실행될 수 있는 저차원 모델로 압축하며, Ansys TwinAI 소프트웨어는 이러한 물리 모델과 측정 데이터를 결합하여 장비의 노후화에 따라 모델이 재보정되도록 합니다. 실리콘 측면에서는, 실리콘 수명주기 관리 서비스 중 성능, 신뢰성 및 열적 거동을 추적하는 온칩 모니터를 내장하고 있습니다. 이 두 기술이 결합되어 설계 의도와 운영 조건 간의 피드백 루프를 완성합니다. 

각 기술은 해당 기술이 다루는 규모에 따라 분류됩니다.

Synopsys, Inc. (나스닥: SNPS)는 스택의 실리콘 단계에서 칩 설계, 검증 및 IP 기술을 개발합니다. Ansys,의 자회사인 Synopsys의 자회사인 는 시설 단계에서 Multiphysics 분석 및 디지털 트윈 기술을 개발합니다.

실무에서 시뮬레이션 중심 접근 방식에 대한 참고 사항. Vertiv는 Ansys 와 협력하여, 열교환기 코일의 AI 기반 최적화 기술과 전사적 시뮬레이션 데이터 관리 기술을 활용해 데이터센터 냉각 시스템을 개발했으며, 각 설계 구성을 물리적으로 시제품을 제작하는 대신 가상으로 평가했습니다.

• 데이터 센터란 무엇인가? — 시설 유형, 아키텍처, 구성 요소, 그리고 AI 워크로드가 데이터 센터를 어떻게 변화시켰는지
• 데이터 센터 냉각이란 무엇인가? — 공기 냉각, 액체 냉각, 칩 직접 냉각, 침지 냉각 비교
• AI 가속기 란 무엇인가? — AI 시설의 고밀도화를 이끄는 핵심 기술, 실리콘
• AI 칩 설계란 무엇인가? — AI 워크로드가 칩 설계 과제를 어떻게 변화시키는가
• AI 데이터 센터의 에너지 수요 충족 — 칩부터 시설에 이르기까지 에너지 과제를 해결하다

AI 및 HPC 시설을 설계하고 운영하려면 트랜지스터부터 건물에 이르기까지 공학적 정밀성이 요구됩니다.

• 칩 수준: 인텔® 아키텍처 기반 시스템 온 칩( Synopsys ) HPC 및 데이터 센터 솔루션은 이러한 워크로드에 필수적인 고성능의 전력 효율적인 시스템 온 칩(SoC) 개발을 지원합니다.
• 시설 수준: Ansys 데이터 센터 솔루션은 열, 구조 및 전자기 분석을 통해 효율성과 복원력을 확보합니다.

Synopsys 실리콘에서 시스템까지 의 엔지니어링 솔루션을 제공합니다.