Synopsys
Ansys

AI 가속기란 무엇인가요?

Synopsys 편집팀

2020년 11월 9일 / 예상 읽기 시간: 6분

정의

AI 가속기는 신경망과 같은 AI 워크로드를 효율적으로 처리하기 위해 특별히 설계된 고성능 병렬 연산 시스템입니다.

전통적으로 소프트웨어 설계에서 컴퓨터 과학자들은 특정 문제에 부합하는 알고리즘적 접근 방식을 개발하고 이를 고수준 절차적 언어로 구현하는 데 집중했습니다. 사용 가능한 하드웨어를 활용하기 위해 일부 알고리즘은 스레드화될 수 있었으나, 암달의 법칙(Amdahl’s Law)의 한계로 인해 대규모 병렬 처리를 구현하기는 어려웠습니다.

암달의 법칙이 미치는 영향 | Synopsys

AI 가속기는 어떻게 작동하나요?

현재 AI 가속기 환경에는 데이터 센터와 엣지라는 두 가지 별개의 영역이 존재합니다.

데이터 센터, 특히 하이퍼스케일 데이터 센터에는 대규모로 확장 가능한 컴퓨팅 아키텍처가 필요합니다. 이 분야에서 칩 업계는 대규모로 나아가고 있습니다. 예를 들어,  세레브라스(Cerebras)는 딥러닝 시스템을 위해 사상 최대 규모의 칩인 ‘웨이퍼 스케일 엔진(WSE)’을 최초로 개발했습니다. WSE는 더 많은 컴퓨팅 성능, 메모리, 통신 대역폭을 제공함으로써 기존 아키텍처에 비해 획기적으로 빠른 속도와 확장성을 바탕으로 AI 연구를 지원할 수 있습니다.

엣지(Edge)는 이와 전혀 다른 영역을 대변합니다. 중앙 집중식 위치가 아닌 네트워크 엣지에 인공지능이 분산되기 때문에, 이곳에서는 전력 효율성이 극도로 중요하며 칩 면적의 제약도 큽니다. AI 가속기 IP는 엣지 SoC 기기에 통합되어, 스마트폰에서 구동되는 대화형 프로그램이나 산업용 로보틱스 등의 분야에서 요구되는 거의 즉각적인 연산 결과를 그 어떤 소형 기기에서도 구현해 냅니다.


AI 칩 개발의 길잡이

AI 칩의 복잡성을 극복하고 설계부터 배포까지 성공적인 실리콘 구현을 달성하기 위한 필수 가이드입니다.


다양한 유형의 하드웨어 AI 가속기

WSE는 AI 애플리케이션의 성능을 가속화하는 한 가지 방법이지만, 대형 칩 하나가 필요하지 않은 애플리케이션을 위한 다양한 유형의 하드웨어 AI 가속기가 존재합니다. 그 예로는 다음과 같은 것들이 있습니다: 

이들 각각은 독립적인 칩으로, 수십 개에서 수백 개를 결합하여 더 큰 시스템으로 구성함으로써 대규모 신경망을 처리할 수 있습니다. 거시적 재구성 가능 아키텍처(CGRA)는 성능과 에너지 효율성이라는 측면과 다양한 신경망을 프로그래밍할 수 있는 유연성 사이에서 매력적인 균형을 제공할 수 있기 때문에, 이 분야에서 상당한 주목을 받고 있습니다.

AI 가속기 의 다양한 아키텍처 | Synopsys

예를 들어, 자연어 처리(NLP) 분야에서 세계 최대 규모의 트랜스포머 기반 언어 신경망 모델 중 하나인 Megatron을 살펴보겠습니다. NVIDIA의 응용 딥러닝 연구팀이 개발한 Megatron은 NVIDIA에 따르면 8방향 모델 병렬 처리와 64방향 데이터 병렬 처리를 지원하는 83억 개의 파라미터로 구성된 트랜스포머 언어 모델을 제공합니다. 일반적으로 33억 개의 단어로 구성된 데이터셋으로 사전 학습되는 이 모델을 실행하기 위해, 이 회사는 312 teraFLOPs의 FP16 연산 성능을 제공하는 NVIDIA A100 GPU를 개발했습니다. 구글의 TPU 역시 또 다른 예시이며, 신경망 모델 학습을 위해 100 petaFLOPS 이상의 연산 성능을 제공하는 포드(pod) 구성으로 결합할 수 있습니다.

AlexNet에서 AlphaGo Zero까지: 30만 배 증가한 연산량

출처:Open AI

 

AI 가속기의 아키텍처에 따라 성능상의 장단점이 다를 수 있지만, 시스템 수준의 성능을 발휘하기 위해서는 모두 관련 소프트웨어 스택이 필요합니다. 그렇지 않으면 하드웨어가 충분히 활용되지 못할 수 있습니다. TensorFlow™나 PyTorch™와 같은 상위 레벨 소프트웨어 프레임워크와 다양한 AI 가속기 간의 연결을 원활하게 하기 위해, 상호 운용성을 가능하게 하는 머신러닝 컴파일러들이 등장하고 있습니다. 대표적인 예로 Facebook Glow 컴파일러를 들 수 있습니다.

AI 가속기의 성능 측정은 오랫동안 논쟁의 대상이 되어 왔습니다. 머신러닝 하드웨어, 소프트웨어 및 서비스의 훈련 및 추론 성능을 독립적으로 평가하고자 하는 팀은, 산업계와 학계의 엔지니어 및 연구자들로 구성된 독립 기관인 MLPerf를 참고할 수 있습니다.

많은 애플리케이션에서 지능이 엣지로 이동함에 따라, AI 가속기 간의 차별화도 더욱 뚜렷해지고 있습니다. 엣지 환경은 매우 다양한 애플리케이션을 제공하며, 이에 따라 AI 가속기는 최종 애플리케이션의 요구 사항에 따라 지연 시간, 에너지 효율, 메모리 등 다양한 특성에 맞춰 구체적으로 최적화되어야 합니다. 예를 들어, 자율 주행은 20μs 이내의 연산 응답 지연 시간을 요구하는 반면, 음성 및 영상 어시스턴트는 10μs 이내에 음성 키워드를 인식하고 수백 밀리초 이내에 손 제스처를 파악해야 합니다.

앞으로 인간의 사고 과정을 모방하는 것을 목표로 하는 인지 시스템이 더욱 두드러지게 등장할 것입니다. 오늘날의 신경망에 비해, 인지 시스템은 다른 추상화 수준에서 데이터를 해석하는 방법에 대해 더 깊이 이해하고 있습니다. 

AI 가속기의 이점

처리 속도와 확장성은 AI 애플리케이션의 두 가지 핵심 요구 사항인 만큼, AI 가속기는 이러한 애플리케이션의 가치를 높여주는 거의 즉각적인 결과를 제공하는 데 결정적인 역할을 합니다. 이제 AI 가속기의 주요 이점을 좀 더 자세히 살펴보겠습니다:

  • 에너지 효율성. AI 가속기는 범용 컴퓨팅 시스템보다 100~1,000배 더 효율적일 수 있습니다. 냉각이 필요한 데이터 센터 환경에서 사용되든, 전력 예산이 제한된 엣지 애플리케이션에서 사용되든, AI 가속기는 방대한 양의 계산을 수행하는 동안 과도한 전력을 소비하거나 과도한 열을 방출해서는 안 됩니다.
  • 지연 시간 및 연산 속도. AI 가속기는 뛰어난 연산 속도 덕분에 답변을 도출하는 데 걸리는 지연 시간을 줄여줍니다. 이러한 낮은 지연 시간은 1초도 놓칠 수 없는 첨단 운전자 보조 시스템(ADAS)과 같은 안전이 최우선인 애플리케이션에서 특히 중요합니다.
  • 확장성. 문제를 처리하기 위한 알고리즘을 작성하는 것은 어려운 일입니다. 이 알고리즘을 여러 코어에 걸쳐 병렬화하여 처리 능력을 높이는 것은 더욱 어려운 과제입니다. 그러나 신경망 분야에서는 AI 가속기를 통해, 관련된 코어 수에 거의 필적할 정도의 성능 향상 수준을 달성할 수 있습니다.
  • 이종 아키텍처. 이 접근 방식을 통해 특정 시스템은 다양한 특화 프로세서를 수용하여 특정 작업을 지원함으로써 AI 애플리케이션에 필요한 연산 성능을 제공할 수 있습니다. 또한 서로 다른 실리콘 구조의 자기적 및 정전기적 특성, 메모리, 심지어 연산에 빛을 활용하는 방식 등 다양한 디바이스의 장점을 활용할 수 있습니다.

AI 가속기와 Synopsys

하드웨어 설계는 AI 시대의 혁신을 이끄는 핵심 동력이 되었습니다. 동시에, 클라우드와 엣지 분야 모두 성능, 전력, 면적 측면에서 기존 반도체 기술의 한계를 계속해서 넓혀가고 있어, 이 분야의 선구자들에게는 독특한 일련의 과제를 안겨주고 있습니다.

데이터 센터 AI 설계는 거대한 규모, 다중 계층의 물리적 계층 구조, 국부 동기화 및 전역 비동기화 아키텍처, 그리고 매우 분산된 평면도가 특징입니다. 엣지 AI 설계는 수백 개의 설계 코너, 극도한 변동성, 초저전력 요구 사항, 그리고 이종 통합(예: 센서)을 처리해야 합니다.

Synopsys 엣지 디바이스용 IP부터 복잡한 워크로드를 신속하게 구동할 수 있는 Zebu® Server 4 에뮬레이션 시스템에 이르기까지, 업계에서 가장 포괄적인 AI 설계 포트폴리오를 제공하며, Fusion Design Platform IC 설계 전반에 걸쳐 AI를 활용한 결과 품질(QoR) 및 결과 도출 시간(TTR)을 향상시킵니다.

Synopsys 칩 설계 분야 최초의 자율형 AI 애플리케이션인 DSO.ai™(설계 공간 최적화 AI)를 선보였습니다. DSO.ai 는 칩 설계의 방대한 해법 공간에서 최적화 대상을 탐색할 수 있습니다. 설계 워크플로우 내 옵션 탐색을 대폭 확대하고 중요도가 낮은 의사결정을 자동화함으로써, DSO.ai 는 특수 목적 AI 가속기의 설계부터 시장 출시까지의 과정을 획기적으로 가속화할 수 있습니다.

Synopsys.ai: AI 기반 EDA

당사의 첨단 AI 기반 솔루션 제품군을 통해 실리콘 성능을 최적화하고, 칩 설계를 가속화하며, 전체 EDA 워크플로우 전반에 걸쳐 효율성을 향상시키십시오.

계속 읽기

Ask BETA This experience is in beta mode. Please double check responses for accuracy.

채팅 종료

이 창을 닫으면 채팅 기록이 삭제되고 세션이 종료됩니다. 채팅을 종료하시겠습니까?