AI 가속기는 신경망과 같은 AI 워크로드를 효율적으로 처리하기 위해 특별히 설계된 고성능 병렬 연산 시스템입니다.
전통적으로 소프트웨어 설계 분야에서 컴퓨터 과학자들은 특정 문제에 적합한 알고리즘적 접근 방식을 개발하고, 이를 고수준 절차형 언어로 구현하는 데 주력해 왔습니다. 사용 가능한 하드웨어의 성능을 최대한 활용하기 위해 일부 알고리즘은 스레드화될 수 있었지만, 암달의 법칙이 시사하는 바 때문에 대규모 병렬 처리를 달성하기는 어려웠습니다.
현재 AI 가속기 환경에는 데이터 센터와 엣지라는 두 가지 별개의 영역이 존재합니다.
데이터 센터, 특히 하이퍼스케일 데이터 센터에는 대규모로 확장 가능한 컴퓨팅 아키텍처가 필요합니다. 이 분야에서 칩 업계는 대규모로 나아가고 있습니다. 예를 들어,세레브라스(Cerebras)는 딥러닝 시스템을 위해 사상 최대 규모의 칩인 ‘웨이퍼 스케일 엔진(WSE)’을 최초로 개발했습니다. WSE는 더 많은 컴퓨팅 성능, 메모리, 통신 대역폭을 제공함으로써 기존 아키텍처에 비해 획기적으로 빠른 속도와 확장성을 바탕으로 AI 연구를 지원할 수 있습니다.
엣지는 스펙트럼의 반대편을 나타냅니다. 여기서는 에너지 효율성이 핵심이며, 지능이 중앙 집중식 위치가 아닌 네트워크의 엣지에 분산되어 있기 때문에 공간적 제약이 따릅니다. AI 가속기 IP는 엣지 SoC 장치에 통합되어 있으며, 이 장치는 아무리 작더라도 스마트폰에서 실행되는 대화형 프로그램이나 산업용 로봇 등에 필요한 거의 즉각적인 결과를 제공합니다.
AI 칩 의 복잡성을 극복하고 설계부터 배포에 이르기까지 성공적인 칩 개발 결과를 달성하기 위한 필수 가이드.
WSE는 AI 애플리케이션의 성능을 가속화하는 한 가지 방법이지만, 대형 칩 하나가 필요하지 않은 애플리케이션을 위한 다양한 유형의 하드웨어 AI 가속기가 존재합니다. 그 예로는 다음과 같은 것들이 있습니다:
이들 각각은 독립적인 칩으로, 수십 개에서 수백 개를 결합하여 더 큰 시스템으로 구성함으로써 대규모 신경망을 처리할 수 있습니다. 거시적 재구성 가능 아키텍처(CGRA)는 성능과 에너지 효율성이라는 측면과 다양한 신경망을 프로그래밍할 수 있는 유연성 사이에서 매력적인 균형을 제공할 수 있기 때문에, 이 분야에서 상당한 주목을 받고 있습니다.
예를 들어, 자연어 처리(NLP)를 위한 세계 최대 규모의 트랜스포머 기반 언어 신경망 모델 중 하나인 ‘메가트론(Megatron)’을 살펴보겠습니다. NVIDIA의 응용 딥러닝 연구팀이 개발한 메가트론은 NVIDIA에 따르면, 83억 개의 매개변수를 가진 트랜스포머 언어 모델로, 8중 모델 병렬 처리와 64중 데이터 병렬 처리를 지원합니다. 일반적으로 33억 단어의 데이터셋으로 사전 훈련된 이 모델을 실행하기 위해, 엔비디아는 312 테라플롭스의 FP16 연산 성능을 제공하는 NVIDIA A100 GPU를 개발했습니다. 구글의 TPU도 또 다른 예시입니다. TPU는 포드(pod) 구성으로 결합되어 신경망 모델 훈련을 위해 100 페타플롭스 이상의 처리 성능을 제공할 수 있습니다.
출처:Open AI
AI 가속기의 아키텍처에 따라 성능상의 장단점이 다를 수 있지만, 시스템 수준의 성능을 발휘하기 위해서는 모두 관련 소프트웨어 스택이 필요합니다. 그렇지 않으면 하드웨어가 충분히 활용되지 못할 수 있습니다. TensorFlow™나 PyTorch™와 같은 상위 레벨 소프트웨어 프레임워크와 다양한 AI 가속기 간의 연결을 원활하게 하기 위해, 상호 운용성을 가능하게 하는 머신러닝 컴파일러들이 등장하고 있습니다. 대표적인 예로 페이스북의 Glow컴파일러를 들 수 있습니다.
AI 가속기의 성능 측정은 줄곧 논란의 대상이 되어 왔습니다. 머신러닝 하드웨어, 소프트웨어 및 서비스의 훈련 및 추론 성능을 독립적으로 평가하고자 하는 팀은, 산업계와 학계의 엔지니어 및 연구자들로 구성된 독립 기관인 MLPerf를 참고할 수 있습니다.
많은 애플리케이션에서 지능이 엣지로 이동함에 따라, AI 가속기 간의 차별화도 더욱 뚜렷해지고 있습니다. 엣지 환경은 매우 다양한 애플리케이션을 제공하며, 이에 따라 AI 가속기는 최종 애플리케이션의 요구 사항에 따라 지연 시간, 에너지 효율, 메모리 등 다양한 특성에 맞춰 구체적으로 최적화되어야 합니다. 예를 들어, 자율 주행은 20μs 이내의 연산 응답 지연 시간을 요구하는 반면, 음성 및 영상 어시스턴트는 10μs 이내에 음성 키워드를 인식하고 수백 밀리초 이내에 손 제스처를 파악해야 합니다.
앞으로 인간의 사고 과정을 모방하는 것을 목표로 하는 인지 시스템이 더욱 두드러지게 등장할 것입니다. 오늘날의 신경망에 비해, 인지 시스템은 다른 추상화 수준에서 데이터를 해석하는 방법에 대해 더 깊이 이해하고 있습니다.
처리 속도와 확장성은 AI 애플리케이션의 두 가지 핵심 요구 사항인 만큼, AI 가속기는 이러한 애플리케이션의 가치를 높여주는 거의 즉각적인 결과를 제공하는 데 결정적인 역할을 합니다. 이제 AI 가속기의 주요 이점을 좀 더 자세히 살펴보겠습니다:
하드웨어 설계는 AI 시대의 혁신을 이끄는 핵심 동력이 되었습니다. 동시에, 클라우드와 엣지 분야 모두 성능, 전력, 면적 측면에서 기존 반도체 기술의 한계를 계속해서 넓혀가고 있어, 이 분야의 선구자들에게는 독특한 일련의 과제를 안겨주고 있습니다.
데이터 센터 AI 설계는 방대한 규모, 다단계 물리적 계층 구조, 국부적으로는 동기식이지만 전체적으로는 비동기식인 아키텍처, 그리고 매우 파편화된 평면 배치로 특징지어집니다. 테스트 용이화 설계(DFT) 이러한 설계는 수백 가지의 설계 코너, 극심한 변동성, 초저전력 요구 사항, 그리고 센서( 이종 집적 ) 등을 처리할 수 있어야 합니다.
Synopsys 엣지 디바이스용 IP부터 복잡한 워크로드를 신속하게 구동할 수 있는 Zebu® Server 4 에뮬레이션 시스템에 이르기까지, 업계에서 가장 포괄적인 AI 설계 포트폴리오를 제공하며, Fusion Design Platform IC 설계 전반에 걸쳐 AI를 활용한 결과 품질(QoR) 및 결과 도출 시간(TTR)을 향상시킵니다.
Synopsys 칩 설계 분야 최초의 자율형 AI 애플리케이션인 DSO.ai™(설계 공간 최적화 AI)를 선보였습니다. DSO.ai 는 칩 설계의 방대한 해법 공간에서 최적화 대상을 탐색할 수 있습니다. 설계 워크플로우 내 옵션 탐색을 대폭 확대하고 중요도가 낮은 의사결정을 자동화함으로써, DSO.ai 는 특수 목적 AI 가속기의 설계부터 시장 출시까지의 과정을 획기적으로 가속화할 수 있습니다.
당사의 첨단 AI 기반 솔루션 제품군을 통해 실리콘 성능을 최적화하고, 칩 설계를 가속화하며, 전체 EDA 워크플로우 전반에 걸쳐 효율성을 향상시키십시오.