데이터 센터란 무엇인가요?

기술적 정의: 데이터 센터는 엄격한 환경 조건 하에서 중복 전원 공급, 정밀한 열 관리 및 안전한 네트워크 연결을 통해 고밀도 IT 장비의 지속적인 가동을 유지하도록 설계된 내결함성 시설입니다.

데이터 센터의 복잡성은 시스템 간의 상호 의존성에 기인합니다. 한 영역에서 발생하는 장애나 비효율성은 다른 영역으로 연쇄적으로 파급됩니다. 예를 들어, 컴퓨팅 밀도가 증가하면 이에 비례하여 전력 공급량도 증가해야 하는데, 이로 인해 더 많은 열이 발생하고, 결과적으로 더 강력한 냉각이 필요해지며, 이는 다시 더 많은 전력을 소비하게 됩니다. 이러한 악순환을 끊기 위해서는 시설의 전체 수명 주기에 걸쳐 정교한 시뮬레이션과 최적화가 필요합니다.

데이터 센터 아키텍처는 연산 능력의 지속적인 소형화와 데이터의 기하급수적인 증가에 힘입어 몇 가지 뚜렷한 단계를 거쳐 발전해 왔습니다. 흔히 ‘AI 팩토리’라고 불리는 현재의 시대는, 기존 시설 설계로는 지원할 수 없었던 밀도와 규모로 GPU 중심의 워크로드를 처리하기 위해 특별히 구축된 시설을 의미합니다. 이 용어는 여기서는 그러한 설명적 의미에서, 업계의 약어로 사용됩니다.

대규모 언어 모델(LLM) 훈련 및 복잡한 시뮬레이션 실행에 필요한 요구 사항으로 인해, 최고 밀도의 워크로드를 처리하는 기존 공랭식 데이터 센터 설계는 물리적 한계에 도달하게 되었으며, 이로 인해 해당 시설의 전력 및 열 관리 인프라를 근본적으로 재구상해야 할 필요성이 대두되었습니다.

현대적인 데이터 센터는 다섯 가지 핵심 요소 위에 구축됩니다. IT 장비(컴퓨팅, 스토리지, 네트워킹)가 실제 데이터 처리를 수행하는 반면, 시설 인프라(전력, 냉각)는 이러한 처리가 지속적이고 안전하게 이루어질 수 있도록 보장합니다.

1. 컴퓨팅 인프라

컴퓨팅 계층은 데이터 센터의 두뇌 역할을 하며, 애플리케이션을 실행하고 데이터를 처리하는 물리적 서버들로 구성됩니다. 이러한 서버들의 아키텍처에 따라 전체 시설의 물리적 배치가 결정됩니다.

• 랙 서버: 업계 표준인 폭 19인치 또는 23인치 랙에 장착되도록 설계된 표준화된 독립형 서버입니다. 이 서버의 크기는 랙 유닛(U) 단위로 측정되며, 1U는 높이 1.75인치에 해당합니다. 일반적인 랙 서버의 크기는 1U에서 4U 사이입니다. 각 랙 서버에는 자체 전원 공급 장치, 냉각 팬 및 네트워크 인터페이스가 내장되어 있어 유연성을 제공하지만, 고밀도 대안 제품에 비해 컴퓨팅 사이클당 더 많은 물리적 공간과 전력을 소비합니다.
• 블레이드 서버: 평방피트당 컴퓨팅 밀도를 극대화하기 위해 엔지니어들은 블레이드 서버를 개발했습니다. 블레이드 서버는 핵심 처리 구성 요소(CPU, 메모리, 로컬 스토리지)만 포함된 간소화된 서버 보드입니다. 여러 개의 블레이드가 하나의 공유 섀시에 장착되며, 이 섀시는 중앙 집중식 전원 공급, 냉각 및 네트워크 연결 기능을 제공합니다. 이러한 공유 인프라는 에너지 효율을 높이고 배선 복잡성을 줄여주므로, 블레이드 인클로저는 고밀도 기업 환경 구축의 표준으로 자리 잡았습니다.
• 메인프레임: 흔히 구식 기술로 여겨지지만 , 최신 메인프레임은 높은 거래 처리 속도, 보안성 및 내결함성이 필요한 금융 기관, 항공사 및 정부 기관에 여전히 필수적인 역할을 하고 있습니다. 최신 메인프레임 한 대만으로도 하루에 수십억 건의 암호화된 거래를 처리할 수 있으며, 내부 중복 구조를 갖추고 있어 시스템 가동 중단 없이 하드웨어를 교체할 수 있습니다.
• 프로세서 (CPU 대 GPU/NPU): 컴퓨팅 계층에서 가장 중요한 아키텍처적 변화는 프로세서 유형의 전환입니다. 기존의 엔터프라이즈 워크로드(웹 서버, 데이터베이스, 가상 머신)는 순차 처리 및 신속한 컨텍스트 전환에 최적화된 중앙 처리 장치(CPU)에 의존합니다. 현대적인 AI 훈련, 추론 및 고성능 컴퓨팅(HPC) 워크로드는 방대한 병렬 처리 능력을 필요로 합니다. 이로 인해 그래픽 처리 장치(GPU)와 특수화된 신경망 처리 장치(NPU)가 널리 보급되었습니다. 이러한 칩들은 기존 CPU에 비해 물리적으로 크기가 더 크고, 더 많은 전류를 소비하며, 더 높은 온도에서 작동합니다. CPU 중심에서 GPU 중심의 컴퓨팅으로의 이러한 전환은 업계 전반에 걸쳐 랙 전력 밀도가 기하급수적으로 증가하는 주된 원인입니다.

2. 스토리지 인프라

데이터 센터는 처리되는 엑사바이트 규모의 데이터를 저장하기 위해 방대하고 가용성이 높으며 복원력이 뛰어난 스토리지 시스템이 필요합니다. 스토리지 아키텍처는 데이터에 접근하는 방식과 데이터를 검색할 수 있는 속도에 따라 결정됩니다.

• 직접 연결 스토리지(DAS): 스토리지 드라이브(HDD 또는 SSD)가 특정 서버 내부에 물리적으로 설치되거나 해당 서버에 직접 연결되는 가장 단순한 아키텍처입니다 . DAS는 낮은 지연 시간과 저렴한 비용을 제공하지만, 광범위한 네트워크 전반에서 데이터를 쉽게 공유하거나 확장할 수 없는 고립된 데이터 섬을 형성합니다.
• 네트워크 연결 스토리지(NAS): NAS 시스템은 근거리 통신망(LAN)에 직접 연결된 파일 단위 스토리지를 제공합니다. 이 시스템은 전용 파일 서버로 작동하며, 여러 클라이언트 서버가 네트워크 파일 시스템(NFS)이나 서버 메시지 블록(SMB)과 같은 표준 프로토콜을 사용하여 공유 파일에 동시에 액세스할 수 있도록 합니다. NAS는 비정형 데이터, 파일 공유 및 아카이빙에 이상적입니다.
• 스토리지 영역 네트워크(SAN): 고성능과 낮은 지연 시간이 필요한 미션 크리티컬 애플리케이션의 경우 , 엔지니어들은 SAN을 구축합니다. SAN은 블록 수준의 스토리지 액세스를 제공하는 전용 고속 네트워크(LAN과는 별개)입니다. 클라이언트 서버에서 볼 때, SAN 볼륨은 마치 로컬에 연결된 물리적 드라이브와 똑같이 나타납니다. SAN은 파이버 채널(Fiber Channel)이나 인터넷 소형 컴퓨터 시스템 인터페이스(iSCSI)와 같은 고속 프로토콜을 활용하며, 대규모 데이터베이스, 가상화 환경 및 기업 자원 계획(ERP) 시스템에 필수적입니다.
• 오브젝트 스토리지: 클라우드 컴퓨팅과 빅데이터 분석 이 발전함에 따라 , 오브젝트 스토리지 는 대규모 확장성을 위한 주류 아키텍처로 부상했습니다. NAS와 같이 계층적 파일 시스템으로 데이터를 구성하거나 SAN과 같이 원시 블록 형태로 데이터를 관리하는 대신, 오브젝트 스토리지 는 데이터를 개별 객체로 관리하며, 각 객체에는 데이터 자체와 가변적인 메타데이터, 전역 고유 식별자(GUID)가 포함됩니다. 이러한 평면형 아키텍처를 통해 hyperscale 제공업체들은 분산 클러스터 전반에 걸쳐 수십억 개의 파일(이미지, 동영상, 백업 등)을 저장하고 검색할 수 있으며, 거의 무한에 가까운 확장성을 확보할 수 있습니다.
• NVMe(비휘발성 메모리 Express): 물리적 저장 매체도 진화했습니다. 회전식 하드 디스크 드라이브(HDD)는 여전히 저렴하고 대용량의 아카이빙 용도로 사용되고 있지만, 활성 스토리지 계층은 이제 솔리드 스테이트 드라이브(SSD)가 주류를 이루고 있습니다. NVMe는 SSD를 위한 최신 프로토콜 표준으로, 고속 PCIe(Peripheral Component Interconnect Express) 버스를 활용하도록 특별히 설계되었습니다. 회전식 디스크용으로 설계된 기존 SATA/SAS 인터페이스를 우회함으로써, NVMe는 더 높은 처리량과 더 낮은 지연 시간을 제공하며, 이는 데이터 소비량이 많은 AI 워크로드를 처리하는 데 필수적입니다.

3. 네트워킹 인프라

네트워크는 시설의 중추 신경계와 같습니다. 네트워크는 서버 간 연결(동서 방향 트래픽)과 데이터 센터와 외부 세계 간의 연결(남북 방향 트래픽)을 담당합니다. 분산 컴퓨팅과 마이크로서비스 아키텍처가 표준으로 자리 잡으면서 동서 방향 트래픽의 양이 폭발적으로 증가했고, 이로 인해 네트워크 토폴로지를 재설계해야만 했습니다.

• 리프-스파인 토폴로지: 현대 데이터 센터는 전통적인 3계층 네트워크 아키텍처(코어, 어그리게이션, 액세스)에서 대체로 벗어나 리프-스파인(CLOS) 토폴로지를 채택하고 있습니다. 이 평면형 아키텍처에서는 모든 리프 스위치(서버에 직접 연결됨)가 모든 스파인 스위치(네트워크의 백본을 형성함)에 연결됩니다. 이를 통해 모든 서버가 다른 어떤 서버와도 동일한 수의 네트워크 홉 거리 내에 위치하게 되어, 지연 시간을 최소화하고 계층적 설계에서 흔히 발생하는 병목 현상을 제거합니다. 리프-스파인 토폴로지가 여전히 업계 표준으로 자리 잡고 있지만, AI 데이터 센터들은 대규모 AI 워크로드의 규모, 동기화 및 트래픽 패턴에 더 잘 부합하기 위해 메쉬, 토러스, 팻-트리, 드래곤플라이, 레일 최적화 패브릭, 광직접연결 네트워크(ODCN)와 같은 대체 토폴로지를 모색하고 있습니다.
• Top-of-Rack(ToR) 스위치: 각 서버 랙의 상단(때로는 중간이나 하단)에 설치된 고성능 스위치입니다. 이 스위치는 해당 랙 내 모든 서버의 네트워크 연결을 집계한 후, 고속 업링크를 통해 리프 스위치에 연결합니다. 이 아키텍처를 통해 서버마다 개별 케이블을 연결할 필요 없이, 랙에서 코어 네트워크까지 소수의 대용량 케이블만 연결하면 되므로 필요한 케이블의 양을 줄일 수 있습니다.
• 광 인터커넥트 및 CPO: 데이터 전송 속도가 400G, 800G를 넘어 1.6T로 향함에 따라 , 기존의 구리 케이블은 장거리 전송 시 심각한 신호 저하와 과도한 전력 소비 문제를 겪고 있습니다. 이를 해결하기 위해 엔지니어들은 광섬유를 활용하고 있습니다. 이러한 전환의 최첨단 기술은 CPO( 공동 패키지 광학 )로, 광 트랜시버를 인쇄회로기판(PCB)의 가장자리에서 분리하여 네트워킹 ASIC(특정 용도용 집적회로) 바로 옆에 직접 패키징하는 방식입니다. 이를 통해 전기적 트레이스 길이가 줄어들어 전력 소비가 감소하고, 고대역폭 AI 워크로드에 대한 처리 밀도( 신호 무결성 )가 향상됩니다.

4. 전력 인프라

전력 분배는 현대 데이터 센터에서 가장 중요하고 복잡한 공학적 과제 중 하나입니다. 가동 중단을 방지하기 위해서는 전력 인프라가 높은 신뢰성을 갖추고, 적절한 전압 조절이 이루어지며, 완전한 이중화 구조를 갖춰야 합니다. 또한 하이퍼스케일( hyperscale ) 시설의 수요를 충족할 수 있도록 확장 가능해야 합니다.

• 전력 변전소 및 스위치기어: 대규모 시설의 경우 , 전력은 고압 전력망에서 직접 현장 내 전용 변전소로 유입됩니다. 변압기는 이 고전압(대개 115 kV 이상)을 중전압(일반적으로 13.8 kV 또는 34.5 kV)으로 강압하여 캠퍼스 전역에 배전합니다. 이후 스위치기어는 이 전력을 다양한 건물과 시스템으로 분배하며, 회로 보호 및 절연의 1차 계층을 제공합니다.
• 무정전 전원 공급 장치(UPS): UPS는 전력 이상 현상에 대한 첫 번째 방어선입니다. UPS는 두 가지 중요한 기능을 수행합니다. 첫째, 유입되는 상용 전력을 정제하여(전압 저하, 전압 급상승 및 주파수 변동을 완화함으로써 민감한 IT 장비에 깨끗한 전력을 공급) 하고, 둘째, 상용 전력이 완전히 중단될 경우 즉각적이고 단기적인 배터리 백업 전원을 제공합니다. 이 배터리 작동 시간(일반적으로 5~15분)은 백업 발전기가 시동되어 부하와 동기화될 때까지 서버를 계속 가동하기에 충분한 시간입니다.
• 비상 발전기: 장기간의 전력 공급 중단 상황에서도 운영을 유지하기 위해 데이터 센터는 디젤 또는 천연가스 발전기에 의존합니다. 이러한 산업용 엔진은 시설 전체의 부하(IT 장비 및 냉각 인프라)를 며칠 동안 감당할 수 있도록 설계되어 있으며, 유일한 제약은 현장 내 연료 저장 용량뿐입니다.
• 전원 분배 장치(PDU): UPS를 통해 전원이 정제되면 , 데이터 센터 층에 위치한 PDU로 전달됩니다. 이 장치들은 전압을 다시 낮춘 후(북미의 경우 일반적으로 208V 또는 415V로) 개별 서버 랙으로 전원을 분배합니다. 최신 지능형(스마트) PDU는 콘센트 단위의 전력 소비량을 실시간으로 모니터링하여, 운영자가 효율성을 추적하고 미사용 용량을 파악하며, 차단기가 작동하지 않도록 하면서도 랙 밀도를 안전하게 높일 수 있게 해줍니다.

5. 냉각 및 열 관리

냉각 인프라는 컴퓨팅 및 전원 시스템에서 발생하는 열을 제거합니다. 랙 밀도가 높아짐에 따라, 냉각 인프라는 고밀도 워크로드의 경우 데이터 센터 용량을 제한하는 주요 요인이 되었습니다.

• 서버실 공조(CRAC) / 공기 처리(CRAH): 냉각된 공기를 서버실 전체로 순환시키는 기존 시스템으로, 대개 이중 바닥 설계를 활용하여 천공 타일을 통해 차가운 공기를 위로 밀어 올려 냉각 통로로 유입시킵니다.
• 핫/콜드 통로 격리: 서버로 유입되는 차가운 공기와 서버에서 배출되는 뜨거운 배기 공기를 분리하여 혼합을 방지하고 냉각 효율을 높이는 물리적 장벽.
• 액체 냉각: AI 고밀도 시설에서 흔히 볼 수 있는 랙당 30~40kW 이상의 임계값을 넘어서면 , 공랭식 냉각은 점점 더 실용적이지 않게 됩니다. 액체 냉각 시스템(직접 칩 냉각 또는 침지식)은 공기보다 열용량이 훨씬 높은 유체를 사용하여 부품에서 열을 직접 제거합니다. 이 임계값 이하에서는, 기존의 기업용 컴퓨팅 및 특수 검증 플랫폼에서 흔히 볼 수 있는 밀도 수준을 포함하여, 공랭식 냉각이 여전히 한계 범위 내에서 원활하게 작동합니다.

데이터 센터는 단순히 ‘ 모놀리식 ’가 아닙니다. 데이터 센터는 소유권, 규모, 주요 용도에 따라 분류됩니다. 이러한 차이점을 이해하는 것은 아키텍처 계획 수립에 있어 매우 중요합니다.

설계 단계에서 생성된 시뮬레이션 모델은 시설이 완공된 후에도 그 가치를 잃지 않습니다. 엔지니어들은 이러한 고정밀 3D 모델을 저차원 모델(ROM)로 변환함으로써 데이터 센터의 실시간 운영 시뮬레이션 환경( 디지털 트윈 )을 구축할 수 있습니다.

운영 담당자는 ‘Ansys ’ Twin Builder 소프트웨어를 사용하여 ‘ 디지털 트윈 ’를 실제 시설의 실시간 센서 데이터에 연결합니다. 이를 통해 열 성능을 모니터링하고, 장비 고장이 발생하기 전에 예측하며, 실제 환경에 위험을 초래하지 않고 운영 변경 사항이 미치는 영향을 시뮬레이션할 수 있습니다(예: “4번 통로의 랙 밀도를 20% 높이면 PUE는 어떻게 변할까?”).

데이터 센터( 디지털 트윈 )는 광범위한 ‘전자 기술( 디지털 트윈 )’ 범주 중 하나의 응용 분야로, 이 범주는 전자 분야의 심도(Synopsys 칩, SoC, ECU 및 전체 전자 아키텍처를 위한 eDT 기술)과 시스템 및 물리 분야의 폭넓은 범위(Ansys 디지털 트윈 기계, 열, 유체, 전자기 및 Multiphysics 시스템을 위한 기술)을 아우릅니다. 범주 수준의 맥락에 대해서는‘전자 디지털 트윈 란 무엇인가?’를 참조하십시오.

데이터 센터는 디지털 경제의 기반이므로, 가동 중단은 절대 용납될 수 없습니다. 따라서 시설은 하드웨어 고장이나 전력 공급 중단 시에도 지속적인 운영이 보장될 수 있도록 다양한 수준의 이중화 기능을 갖추고 설계됩니다.

이러한 신뢰성을 평가하는 업계 표준은 업타임 인스티튜트(Uptime Institute)의 티어 분류 체계입니다.