何謂人工智慧驅動的晶片設計？

人工智慧能夠在龐大的解決方案空間中，以最快速度找出能帶來最高投資報酬率的正確參數組合。 換言之，其產出的結果不僅品質更佳，速度也比傳統方式更快。透過處理晶片開發週期中的重複性任務，人工智慧讓工程師能將更多時間投入於提升晶片品質與差異化。舉例來說，諸如設計空間探索 、驗證覆蓋率與回歸分析，以及測試程式生成等任務——每項任務的範圍與規模都可能極為龐大——皆可由人工智慧快速且高效地處理。

強化學習 由於具備全面分析複雜問題並以人類單憑自身能力無法企及的速度解決問題的能力，因此非常適合用於電子設計自動化（EDA）的工作負載。強化學習 演算法能夠迅速適應並回應環境變化，且能以持續、動態的方式進行學習。RL 技術已在業界超過 1,000 次晶片流片中應用於晶片設計，現已可視為一項經過驗證的技術。

半導體產業在晶片開發中所運用的另一項人工智慧技術，便是生成式人工智慧。生成式人工智慧基於大型語言模型，能學習輸入資料的模式與結構，並迅速生成內容——例如文字、影片、圖像及音訊。生成式人工智慧模型已在多種應用領域展現其能力，其中 ChatGPT 聊天機器人目前是公眾最為熟知的範例之一。  

在 EDA 領域中，這些聊天機器人通常以「副駕駛」的形式出現，協助工程師進行設計流程。它們可用於初始程式碼生成、查閱文件，或是幫助初級工程師更快上手。對於 EDA 領域而言，由於晶片設計相關資料大多屬於專有資訊，生成式人工智慧有望支援更客製化的平台，或甚至能優化內部流程以提升生產力。

另一項開始被應用於晶片開發的技術是 AI 代理。AI 代理能夠自動化處理瑣碎或重複性的任務，讓設計人員得以專注於更具策略性與創造性的工作。此外，AI 代理在第一級（L1）至第五級（L5）的能力階段中，具備相互協作的潛力；最終，AI 代理將能獲得完全自主權，自行做出允許範圍內的決策。

透過將更強大的智慧與速度相結合，以處理原本重複性的任務，人工智慧驅動的晶片設計不僅能產生更優質的晶片成果，更能大幅提升工程生產力。人工智慧驅動的晶片設計具有多項優勢，包括：

• 強化 PPA：在每項晶片設計中，皆有機會為其目標應用提供最佳的 PPA。然而，龐大的設計空間中蘊含著近乎無窮無盡的設計選項，僅憑人力根本無法在專案時限內找出正確的選擇。人工智慧能透過探索這些龐大的設計空間來識別可優化的領域，從而提升 PPA。
• 提升生產力：工程師們一再反映，在資源日益緊縮且人才短缺的環境下，工作負荷始終沉重。透過處理重複性任務，人工智慧讓工程師得以專注於晶片設計的差異化與品質提升，同時達成產品上市時程目標。
• 支援重複利用：由於可將某個專案的經驗保留下來並應用於下一個專案，人工智慧能進一步提升晶片開發流程的效率。
• 更快速的设计遷移：在人工智慧的支援下，晶片設計團隊能夠更迅速地將設計從一個製程節點遷移至另一個製程節點。

由人工智慧驅動的晶片設計確實面臨一些獨特的挑戰。作為一項相對較新的嘗試，要將人工智慧技術整合到不同的晶片設計解決方案中，需要具備新的技能與工作模式，例如提示工程。 此外，由於業界多數工作屬於專有技術，可用於人工智慧訓練的資料集相當有限。懷疑態度也構成另一項挑戰，因為有些工程師質疑機器如何可能得出比他們更好的結果。隨著人才短缺影響半導體產業，業界將需要發掘那些具備專業知識且有興趣運用人工智慧技術優化 EDA 流程，以及強化 EDA 演算法運算平台的人才。

AI 工作負載規模龐大，需要大量的頻寬和處理能力。因此，AI 晶片——無論是 GPU、XPU，還是專為最有效率地處理 AI 工作負載而設計的專用加速器——都需要具備獨特的架構，其中包含最佳化的處理器、記憶體陣列、安全性及即時資料連線能力。 傳統 CPU 雖非常適合執行序列化任務，但在加速 AI 工作負載所需的處理效能方面通常有所不足。另一方面，GPU 能夠處理 AI 乘積累積運算所涉及的大規模並行運算，並可應用於 AI 應用場景。事實上，GPU 可以作為 AI 加速器，提升神經網路及類似工作負載的效能。 對於大型資料中心和邊緣部署而言，軟體驅動的客製化 ASIC 正日益普及，因其能提供量身打造的效能並優化電源效率。隨著 AI 成為主流，傳統 CPU 正整合 AI 加速技術，其中包括專為 AI 個人電腦設計的功能。    

分區 由於其複雜性，AI 晶片往往會突破光罩的限制，或者透過將設計拆分為多個晶粒 或 小晶片 (小晶片 (Chiplet))。由多個晶片（異質整合 ）組成的多晶片（multi-晶粒 ）架構，或 小晶片 (小晶片 (Chiplet))，正迅速成為人工智慧應用的理想架構。多晶粒 系統是因應摩爾定律放緩的解決方案，其優勢超越了單晶片 系統單晶片（SoC）所能達到的範疇：能以更低的風險和更快的上市時間，實現系統功能的加速且具成本效益的擴展。

AI 加速器是另一種針對 AI 工作負載進行優化的晶片，此類工作負載通常需要即時回應。作為一款高效能的平行運算裝置，AI 加速器 既可應用於資料中心等大規模部署環境，也能用於空間與功耗受限的應用場景，例如邊緣 AI 。

GPU、大規模多核心標量處理器以及空間加速器，都是硬體 AI 加速器的幾個例子。這類晶片可整合至較大的系統中，用以處理大型神經網路。AI 加速器的幾項主要優勢包括：

• 相較於通用運算機器，其人工智慧工作負載的效能與能源效率更為優化
• 更低的延遲加上快速的運算速度
• 異質架構，可容納多個專門用於特定任務的專用處理器
• 可擴展性

無論採用何種架構，人工智慧驅動的晶片設計技術都在簡化人工智慧晶片的設計流程，藉此提升效能、功耗與面積（PPA）的表現，並提高工程生產力，使設計能更快推向市場。

人工智慧技術正逐步在 EDA 工作流程中日益普及，從單晶片 系統單晶片（SoC）到多晶粒 設計，皆能藉此提升開發效能。這些技術將持續協助產出品質更佳、週轉時間更短的矽晶片。此外，晶片開發流程中還有許多其他環節，皆可透過人工智慧加以優化。

雖然這個領域存在諸多挑戰，但挑戰之中也蘊藏著機遇。透過提升生產力與成果，人工智慧不僅能彌補人才短缺所造成的缺口，也能填補資深工程師離職時留下的知識空缺。此外，探索人工智慧提升晶片設計的其他方式——包括人工智慧晶片——亦蘊藏著發展機遇。

人工智慧應用對能源消耗的影響日益顯著。然而，透過優化人工智慧處理器晶片（以及設計、驗證和測試這些晶片的工作流程），以提升能源效率，人工智慧設計工具便能降低其碳足跡。

隨著人工智慧正逐步改變各行各業，在半導體領域中，區分以下兩個關鍵概念至關重要：AI 晶片 設計與AI 驅動的晶片設計。

AI 晶片 設計重點在於打造驅動現代人工智慧的專用硬體。這些晶片——例如 GPU、NPU 以及客製化ASIC——旨在高效處理深度學習和生成式人工智慧等 AI 模型所需的複雜運算與海量資料。設計流程的核心在於架構創新：透過優化運算核心、記憶體頻寬及互連架構，為從資料中心到邊緣裝置等各類 AI 應用，提供最佳的效能、能源效率與可擴展性。

相較之下，人工智慧驅動的晶片設計是指在晶片開發流程中直接運用人工智慧。在此過程中，諸如強化學習 、生成式人工智慧及自主代理等人工智慧技術，被整合至電子設計自動化（EDA）工具中，用以自動化並優化晶片設計、驗證與測試。透過運用人工智慧快速探索 設計方案並處理重複性的工程任務，團隊能更快地取得更佳成果，讓工程師得以專注於創意發想與產品差異化。

簡而言之，AI 晶片 設計旨在開發用於人工智慧的晶片，而人工智慧驅動的晶片設計則是利用人工智慧來提升晶片開發的生產力與效率。

新思科技 是「晶片即服務」（普及式智慧 ）領域的先驅，該服務運用相互連結、協作式的AI 賦能 EDA 工具，涵蓋完整的矽晶片生命週期，包括架構、設計、驗證、實作、系統驗證、簽核、製造、產品測試以及現場部署。於 2023 年 3 月推出的新思科技.ai，是業界首套全堆疊、由人工智慧驅動的 EDA 套件，能協助工程師更快地將符合正確規格的晶片推向市場。 隨著後續持續優化，該套件目前包含：

• 新思科技 DSO.ai™ 能在晶片設計中極其龐大的解空間中，自主搜尋優化目標
• 新思科技 VSO.ai，該系統能自主實現更快速的驗證覆蓋率收斂 及回歸分析，從而加速功能測試的完成、提高測試覆蓋率，並實現預測性錯誤偵測
• 新思科技 TSO.ai，該技術能在龐大的測試搜尋空間中自動搜尋最佳解，以將圖樣數量 的處理時間及自動測試圖樣產生 （ATPG）的周轉時間降至最低
• 新思科技 ASO.ai™ 能自主加速類比設計 工作流程，並實現跨製程節點的快速類比 IP 遷移與高效設計重用
• 新思科技.ai Copilot 運用生成式人工智慧，提供專業指導、自動化設計任務，並提升整個晶片設計堆疊的生產力