AI 가속기는 신경망과 같은 AI 워크로드를 효율적으로 처리하기 위해 특별히 설계된 고성능 병렬 연산 시스템입니다.
전통적으로 소프트웨어 설계에서 컴퓨터 과학자들은 특정 문제에 부합하는 알고리즘적 접근 방식을 개발하고 이를 고수준 절차적 언어로 구현하는 데 집중했습니다. 사용 가능한 하드웨어를 활용하기 위해 일부 알고리즘은 스레드화될 수 있었으나, 암달의 법칙(Amdahl’s Law)의 한계로 인해 대규모 병렬 처리를 구현하기는 어려웠습니다.
현재 AI 가속기 환경에는 데이터 센터와 엣지라는 두 가지 별개의 영역이 존재합니다.
데이터 센터, 특히 하이퍼스케일 데이터 센터에는 대규모로 확장 가능한 컴퓨팅 아키텍처가 필요합니다. 이 분야에서 칩 업계는 대규모로 나아가고 있습니다. 예를 들어, 세레브라스(Cerebras)는 딥러닝 시스템을 위해 사상 최대 규모의 칩인 ‘웨이퍼 스케일 엔진(WSE)’을 최초로 개발했습니다. WSE는 더 많은 컴퓨팅 성능, 메모리, 통신 대역폭을 제공함으로써 기존 아키텍처에 비해 획기적으로 빠른 속도와 확장성을 바탕으로 AI 연구를 지원할 수 있습니다.
엣지(Edge)는 이와 전혀 다른 영역을 대변합니다. 중앙 집중식 위치가 아닌 네트워크 엣지에 인공지능이 분산되기 때문에, 이곳에서는 전력 효율성이 극도로 중요하며 칩 면적의 제약도 큽니다. AI 가속기 IP는 엣지 SoC 기기에 통합되어, 스마트폰에서 구동되는 대화형 프로그램이나 산업용 로보틱스 등의 분야에서 요구되는 거의 즉각적인 연산 결과를 그 어떤 소형 기기에서도 구현해 냅니다.
AI 칩의 복잡성을 극복하고 설계부터 배포까지 성공적인 실리콘 구현을 달성하기 위한 필수 가이드입니다.
WSE는 AI 애플리케이션의 성능을 가속화하는 한 가지 방법이지만, 대형 칩 하나가 필요하지 않은 애플리케이션을 위한 다양한 유형의 하드웨어 AI 가속기가 존재합니다. 그 예로는 다음과 같은 것들이 있습니다:
이들 각각은 독립적인 칩으로, 수십 개에서 수백 개를 결합하여 더 큰 시스템으로 구성함으로써 대규모 신경망을 처리할 수 있습니다. 거시적 재구성 가능 아키텍처(CGRA)는 성능과 에너지 효율성이라는 측면과 다양한 신경망을 프로그래밍할 수 있는 유연성 사이에서 매력적인 균형을 제공할 수 있기 때문에, 이 분야에서 상당한 주목을 받고 있습니다.
예를 들어, 자연어 처리(NLP) 분야에서 세계 최대 규모의 트랜스포머 기반 언어 신경망 모델 중 하나인 Megatron을 살펴보겠습니다. NVIDIA의 응용 딥러닝 연구팀이 개발한 Megatron은 NVIDIA에 따르면 8방향 모델 병렬 처리와 64방향 데이터 병렬 처리를 지원하는 83억 개의 파라미터로 구성된 트랜스포머 언어 모델을 제공합니다. 일반적으로 33억 개의 단어로 구성된 데이터셋으로 사전 학습되는 이 모델을 실행하기 위해, 이 회사는 312 teraFLOPs의 FP16 연산 성능을 제공하는 NVIDIA A100 GPU를 개발했습니다. 구글의 TPU 역시 또 다른 예시이며, 신경망 모델 학습을 위해 100 petaFLOPS 이상의 연산 성능을 제공하는 포드(pod) 구성으로 결합할 수 있습니다.
출처:Open AI
AI 가속기의 아키텍처에 따라 성능상의 장단점이 다를 수 있지만, 시스템 수준의 성능을 발휘하기 위해서는 모두 관련 소프트웨어 스택이 필요합니다. 그렇지 않으면 하드웨어가 충분히 활용되지 못할 수 있습니다. TensorFlow™나 PyTorch™와 같은 상위 레벨 소프트웨어 프레임워크와 다양한 AI 가속기 간의 연결을 원활하게 하기 위해, 상호 운용성을 가능하게 하는 머신러닝 컴파일러들이 등장하고 있습니다. 대표적인 예로 Facebook Glow 컴파일러를 들 수 있습니다.
AI 가속기의 성능 측정은 오랫동안 논쟁의 대상이 되어 왔습니다. 머신러닝 하드웨어, 소프트웨어 및 서비스의 훈련 및 추론 성능을 독립적으로 평가하고자 하는 팀은, 산업계와 학계의 엔지니어 및 연구자들로 구성된 독립 기관인 MLPerf를 참고할 수 있습니다.
많은 애플리케이션에서 지능이 엣지로 이동함에 따라, AI 가속기 간의 차별화도 더욱 뚜렷해지고 있습니다. 엣지 환경은 매우 다양한 애플리케이션을 제공하며, 이에 따라 AI 가속기는 최종 애플리케이션의 요구 사항에 따라 지연 시간, 에너지 효율, 메모리 등 다양한 특성에 맞춰 구체적으로 최적화되어야 합니다. 예를 들어, 자율 주행은 20μs 이내의 연산 응답 지연 시간을 요구하는 반면, 음성 및 영상 어시스턴트는 10μs 이내에 음성 키워드를 인식하고 수백 밀리초 이내에 손 제스처를 파악해야 합니다.
앞으로 인간의 사고 과정을 모방하는 것을 목표로 하는 인지 시스템이 더욱 두드러지게 등장할 것입니다. 오늘날의 신경망에 비해, 인지 시스템은 다른 추상화 수준에서 데이터를 해석하는 방법에 대해 더 깊이 이해하고 있습니다.
처리 속도와 확장성은 AI 애플리케이션의 두 가지 핵심 요구 사항인 만큼, AI 가속기는 이러한 애플리케이션의 가치를 높여주는 거의 즉각적인 결과를 제공하는 데 결정적인 역할을 합니다. 이제 AI 가속기의 주요 이점을 좀 더 자세히 살펴보겠습니다:
하드웨어 설계는 AI 시대의 혁신을 이끄는 핵심 동력이 되었습니다. 동시에, 클라우드와 엣지 분야 모두 성능, 전력, 면적 측면에서 기존 반도체 기술의 한계를 계속해서 넓혀가고 있어, 이 분야의 선구자들에게는 독특한 일련의 과제를 안겨주고 있습니다.
데이터 센터 AI 설계는 거대한 규모, 다중 계층의 물리적 계층 구조, 국부 동기화 및 전역 비동기화 아키텍처, 그리고 매우 분산된 평면도가 특징입니다. 엣지 AI 설계는 수백 개의 설계 코너, 극도한 변동성, 초저전력 요구 사항, 그리고 이종 통합(예: 센서)을 처리해야 합니다.
Synopsys 엣지 디바이스용 IP부터 복잡한 워크로드를 신속하게 구동할 수 있는 Zebu® Server 4 에뮬레이션 시스템에 이르기까지, 업계에서 가장 포괄적인 AI 설계 포트폴리오를 제공하며, Fusion Design Platform IC 설계 전반에 걸쳐 AI를 활용한 결과 품질(QoR) 및 결과 도출 시간(TTR)을 향상시킵니다.
Synopsys 칩 설계 분야 최초의 자율형 AI 애플리케이션인 DSO.ai™(설계 공간 최적화 AI)를 선보였습니다. DSO.ai 는 칩 설계의 방대한 해법 공간에서 최적화 대상을 탐색할 수 있습니다. 설계 워크플로우 내 옵션 탐색을 대폭 확대하고 중요도가 낮은 의사결정을 자동화함으로써, DSO.ai 는 특수 목적 AI 가속기의 설계부터 시장 출시까지의 과정을 획기적으로 가속화할 수 있습니다.
당사의 첨단 AI 기반 솔루션 제품군을 통해 실리콘 성능을 최적화하고, 칩 설계를 가속화하며, 전체 EDA 워크플로우 전반에 걸쳐 효율성을 향상시키십시오.