創鑫智慧與新思科技合作 成功推出開創性的AI加速器

應用於數據資料中心的Direct-to-ASIC工程方法

就雲端資源的使用而言，AI推薦系統，特別是DLRM，在機器學習應用中扮演著主導的地位。採用新穎的DLRM能產生更有用的預測，但同時需要在固定的能源和空間限制下具備更多的運算能力。創鑫智慧開創direct-to-ASIC獨特的工程方法，透過專門建構的特定領域的AI加速器以及共同設計的編譯器和運行時期軟體來加速系統軟體開發。在創鑫智慧的非同步與異質的數據資料流程架構中，每種類型的IP和處理器都是為能優化DLRM 邏輯架構元件而精心定製。而可配置的新思科技ARC® 處理器，具有低功耗和高性能特性，在 RecAccel™-N3000 的突破性效能中扮演著不可或缺的角色。

RecAccel™-N3000的其他功能包括：

• 160MB晶粒內建(on-die) SRAM
• 具備inline錯誤修正碼(error correction code, ECC)的4x64 LPDDR5
• 高達 128GB的卡式DRAM
• 多達 16 個 PCI Express® (PCIe®) 3.0、4.0 和 5.0通道
• 嵌入式安全硬體信任根(root-of-trust)模組

為能率先進入市場，創鑫智慧尋求能幫助其加快其設計週期的相關技術支援、設計和驗證工具以及IP。透過由新思科技與台灣工業技術研究院(Industrial Technology Research Institute, ITRI)共同成立的AI晶片設計實驗室，創鑫智慧找到所需的資源。創鑫智慧的團隊已有許多人熟悉新思科技的技術，因此當下就決定與新思科技合作進行這項不凡的計畫。

AI晶片設計實驗室位於臺灣新竹工研院總部，獲得來自台灣新思科技與經濟部技術處全球研發夥伴專案計畫的支持；實驗室旨在提供最新的設計工具以及設計與驗證服務，協助台灣半導體在AI產業應用發展。AI 晶片設計實驗室提供的主要產品之一是以ARC AI參考設計平台為基礎的新思科技系統級(system-level)解決方案，涵蓋架構設計、虛擬原型設計建造和系統驗證等。此設計平台旨在協助降低AI的進入門檻並縮短設計週期。

縮短晶片開發時程達一年以上

基於DLRM其獨特的特性，難以透過一般通用型AI加速器達成。創鑫智慧開發的RecAccel™-N3000具備客製的硬體IP，可加速嵌入表(embedding table)，矩陣乘法(matrix multiplication)和特徵交互作用(feature interaction)。創鑫智慧與新思科技合作，借助ARC AI 參考設計平台實現早期軟硬體共同開發，從而節省了一年以上的系統晶片開發時間。透過該設計平台，創鑫智慧團隊得以儘早開發和驗證RecAccel™-N3000特定領域AI加速器的PCIe 5.0子系統及其LPDDR5子系統，並將其整合到整個晶片中。同時也採用新思科技雲端ZeBu® Server 4 仿真(emulation)系統，對子系統及完整 RecAccel™-N3000晶片進行驗證。

RecAccel™-N3000 利用一系列新思科技IP 模塊，包括：

• 新思科技ARC HS48 處理器
• 新思科技ARC EV 72 處理器
• 新思科技介面IP，適用於AMBA(先進高效能匯流排、先進周邊匯流排)、LPDDR5及和PCIe
• 新思科技記憶體編譯器 ，具備先進電源管理功能
• 新思科技硬體安全模組 ，具備信任根，可為數據資料中心的IT設備提供安全性，以確保啟動代碼安全性和進行設備身份驗證

使用經矽晶驗證的新思科技IP ，幫助創鑫智慧團隊降低整合風險並縮短設計週期。新思科技的應用工程師亦協助創鑫智慧團隊優化以雲端為基礎的晶片設計代碼、進行 IP配置 以及在以FPGA為基礎的 ZeBu Server 4 系統上進行模擬和驗證，將完整的ASIC RTL模擬時程從兩週縮短到大約20分鐘。

參與RelAccel™-N3000開發的其他設計和驗證工具還包括：新思科技 Design Compiler RTL合成解決方案、新思科技 VCS®功能驗證解決方案、新思科技 SpyGlass®靜態和形式驗證平台、新思科技Verdi®自動除錯系統，新思科技 Formality®等效性檢查工具、新思科技PrimeTime®靜態時序分析工具、新思科技PrimePower RTL簽核功耗分析工具以及新思科技 IC Compiler™ II 佈局繞線解決方案。

總結

隨著推薦系統在數位世界中變得越來越普遍，創鑫智慧RelAccel™-N300的誕生恰逢其時。透過加速資料中心的推薦系統推理，高效、節能與可擴展的 AI 平台可望協助各行各業在網路上實現客戶體驗的個人化。藉由與新思科技、工研院和其他台灣半導體生態系夥伴密切合作，創鑫智慧加速了上市時程，在提供有效AI解決方案的競爭市場中拔得頭籌。