人工智慧與AI晶片設計洐生出全新的「先有雞還是先有蛋」難題

人工智慧與AI晶片設計洐生出全新的「先有雞還是先有蛋」難題

「先有雞還是先有蛋?」這是個大家都耳熟能詳的問題。很多人在小時候還對這個問題樂在其中。其實,它是一則因果關係的練習題,也就是「何者導致了何者」。拋開先有雞與先有蛋的這個 (讓人頭疼的問題) 版本,讓我們來看看一個更為現代且更高科技的版本─「先有人工智慧(AI),還是先有可加速人工智慧的晶片?」乍看之下,這似乎是個很詭異的問題。AI演算法已經存在很長一段時間,這項研究領域早在1950年代就開始,顯然遠比有晶片可以加速AI演算法還要更早,而在當時根本還沒有什麼晶片。

然而,這個問題還有另一個轉折,那就是--人工智慧是在什麼時間點被實現的?人們可能會主張,只要有能夠以符合人類需求的速度來執行AI演算法的晶片,就能實現。當有人詢問智能助理Alexa一道問題時,他們期望能在一秒鐘之內就得到回答而不是等到下週。所以,人工智慧的加速晶片讓真正的人工智慧得以實現,但如果沒有AI演算法,也就沒有晶片可以加速的標的。現在我們進入一個「先有這還是先有那」的無限循環。

真正的問題是 -- 誰在乎呢?

行文至此,讀者可能已經準備好將這道問題視為有趣但無關緊要的推理題。但在下這種定論之前,請先考慮下面的內容。

隨著人工智慧的普級,對於更快、更小、功耗更低的加速器需求也不斷成長。要設計這種加速器非常困難。為了需要更快速滿足上市時間的需求,只會讓工作變得更加困難。如果可以把人工智慧應用到人工智慧晶片的設計上,結果會如何呢?這很有可能將改變遊戲規則。而事實也證明,這是現在進行中的事。且讓我們一同仔細往下看。

應用於人工智慧晶片的人工智慧新話題

事實證明,這一切都是真的,很多人都開始談論這個議題。如果想要知道更多啟發思考的相關內容,請看今(2021)年的Hot Chips上,由新思科技董事長兼共同執行長Aart de Geus發表,名為「人工智慧還需要人工智慧架構師嗎?」的專題演講。

如果想更了解晶片設計與人工智慧之間的作用,我強烈推薦大家閱讀這篇Stelios Diamantidis撰寫的部落格文章。Stelios領導新思科技人工智慧的策略及產品管理工作,同時也是Machine Learning Center of Excellence創始人,從事如何將機器學習(ML)技術應用於整合式運算系統設計及製造的關鍵破壞式創新之相關研究。他對人工智慧與晶片設計之間的交互作用頗有研究與卓見。

Stelios也為此做出一些行動;他從事的一項備受矚目的應用研究,會使用人工智慧來學習以往晶片設計工作中的事物,使每項專案都能始終如一地取得更好的工作成果。此項技術稱為設計空間最佳化(design space optimization; DSO)。因為他說明事情的功力比我強,所以在此就節錄Stelios部落格文章中的一段話,來解釋這項技術的作用。

人工智慧在晶片設計中的一項顛覆性創新應用,正是設計空間最佳化(DSO)。這是一種生成型最佳化範式(generative optimization paradigm),使用強化學習技術自主搜尋設計空間而取得最佳解決方案。經由將人工智慧應用於晶片設計的工作流程中,DSO可促進大規模的選項探索擴展,同時將大量較不重要的決策流程予以自動化。這個方法為DSO技術創造了一個契機,可不斷建立訓練數據,並應用學習到的知識,加速完成設計定案送交製造(tapeouts)並實現功耗、性能及面積(PPA)目標。人工智慧的主要優勢之一,是支援重複使用:從一個專案中獲得的學習成果能夠被保留用於未來的專案,進而提升設計流程的效率。

要更清楚說明這類工具的效果,以圖片方式呈現是最好的。下圖就說明一個案例研究,在保持總負時序餘量(TNS)的同時找出最低功耗。這是一個未經事先學習的案例,可以發現使用AI導引的自動化系統能夠檢查許多數據點,從而得出一個優於人類專家手動完成的解決方案。

圖說:DSO.ai個案研究,無事先學習

現在就來看看進行系統學習時,結果會如何。答案是在更短時間內獲得更好的成果。

圖說:DSO.ai個案研究,使用事先學習

因此,人工智慧與晶片設計的界線模糊了。想知道是誰先出現的嗎?由於人工智慧的顯著貢獻,我們把產品名稱改為 DSO.ai™。新思科技在一年多前首次推出這項產品,並產生相當大的影響。稍後我將詳細討論這些影響。The World Electronics Achievement Awards更授予DSO.ai 2020 年年度創新產品獎(Innovative Product of the Year award )。使用屢獲殊榮的人工智慧來協助 AI晶片的設計,真是絕配呢。

誰會使用人工智慧來設計人工智慧晶片?

關於這個問題,容我提供一些看法。在最近的 Synopsys SNUG World使用者大會上,有一個主題為「人工智慧如何改變人們處理晶片設計方式?」的高階主管小組討論會,並由新思科技Stelios Diamantidis擔任討論會主持人,而與談的成員包括:

  • Artour Levin,英特爾視覺與機器學習 IP 工程副總裁
  • Paul Penzes,Qualcomm工程、設計技術副總裁
  • Sangyun Kim,三星晶片設計方法工程副總裁
  • Thomas Andersen,新思科技解決方案事業群人工智慧與機器學習工程副總裁

此小組討論會成員清楚瞭解晶片設計、人工智慧以及兩者如何產生交集。而此小組討論會同時也是SNUG World中獲得高評價的議程之一,觀賞次數名列前10;由於SNUG World有200多場議程,這是一項極具意義的成就。SNUG World的內容開放給新思科技的客戶觀看。如果您已註冊但尚未看過這些精采內容,我強烈推薦您一定要看。

如果您尚未有權限而無法觀看內容,在此提供您有關這場討論會成員對談的大概內容。以下為小組討論會議中提到的一些人工智慧技術以及小組成員對這些技術的看法。很抱歉,我無法在這邊列出人名與企業名稱。想了解詳情,您必需登入並詳閱SNUG World的內容。

DSO.ai

  • 為新的製程節點實現卓越的PPA優化
  • 「 達成傳統方法所無法實現的更全面最佳化」
  • 總功耗降低7-14% (動態與漏電流功耗的總合)
  • 一名工程師一週的時間即可提升200 MHz的最大操作速度(Fmax)
  • 一名工程師兩週半的時間,可將布局面積(floorplan)縮減15%
  • 改善電源網路優化
  • PPA目標收斂,由六週變為一週半

智慧測試選擇

  • 減少60%的種子數量(seeds)並實現相同的覆蓋率
  • 總體上可明顯找出更多錯誤

機器學習輔助資料庫特色

  • 比SPICE快上10–100倍
  • 總處理能力(throughput)提高約1.5 倍,且精確度更高

在這邊還要多分享一些資訊。最近Google和Nvidia已經在思考使用人工智慧與強化學習來優化晶片設計流程的好處。您可點擊此處查閱相關評論的詳細資訊

上述列出的其他工具參考是通用的。若想知道這些工具的出處,可在全球新思科技使用者論壇上發問或尋找。

所以說,人工智慧和AI晶片設計之間的相互作用有某些共通背景。也許,爭論哪一方先出現已不再那麼重要;但有一個更有趣且值得思考的問題,那就是「人工智慧在AI晶片設計上,究竟能把我們帶向何種境界?」至少我會很有興趣看下去。