2021年人工智慧晶片:五大創新預測

2021年人工智慧晶片:五大創新預測

人工智慧(AI)已成為所有科技中最重要的詞彙之一,開發像人類思考行為的完美機器可能性越來越高,這是因為工程創新讓以前難以想像的資料量能受到有效處理,並且符合實際耗電量(但仍然比人腦高幾個數量級)。

我們已看見人工智慧應用正為我們的生活帶來影響,從負責通訊、運輸、金融與醫療保健系統運作的數據中心,乃至於居家客廳,只要對家庭娛樂裝置下達簡單語音指令就能產生正確的回應。

然而,若是將人工智慧的開發比擬成一場棒球賽,我們可能還在前幾局。雖然目前已取得較大進展,但事實上許多創新也揭櫫實施人工智慧的挑戰有多深且複雜。對此,我們還需持續探討。幾乎所有大型科技公司(或小型科技公司)已開始著手進行重大的人工智慧計畫,同時他們正快速探索人工智慧新的應用機會。雖然數位經濟的各方面都在進行人工智慧的轉型,但我們知道,若要從機器學習、神經網路、人工智慧加速器與大型數據公司等方面發揮更多的人工智慧潛力,我們還有許多工作要做。

新思科技持續運用人工智慧策略進行創新,克服人工智慧晶片設計的複雜挑戰,在我們產品與內部製程上使用人工智慧有效進行創新與改進,最後使用人工智慧打造全新的產品。

我們積極跟國際大廠和尚未享有盛名的業界先驅們一同參與多項人工智慧晶片設計專案。此外,我們還與IBM一起合作,期能在未來十年內完成人工智慧晶片1,000倍以上效能、完善設計工具、方法論和IP,進而促使最重要的晶片成為未來AI系統的驅動力。。

我們的寶貴經驗與客戶互動關係讓我們更瞭解人工智慧的發展方向,此刻正是人們喜歡預測來年的季節,因此,我們從晶片的角度,在此分享一些關於2021年人工智慧發展的議題。

人工智慧硬體時代之架構性設計工具

人工智慧時代著重於開發前所未有的複雜且龐大的創新性硬體架構,同時,也要謹記效能功耗比在實際應用上的重要性。人工智慧「秘訣」包含新型態運算範例、特定領域架構,以及專為人工智慧運算而設計和優化的與可配置矽晶元件,同時也包含廣泛的演算法、軟體、系統整合與應用知識。

顯然人工智慧晶片開發需要有端對端(end-to-end)硬體開發之重新設計方式,我們發現即有的工具變得更具有架構性、具備新功能和方法,可以顯著地加速實施新運算範例。包括:

  • 提供整個驗證連續性之解決方案,包括原型(prototyping)和仿真(emulation)的使用;能支援詳細規則導向邏輯驗證、形式驗證(formal verification)以及詳細電源和時序分析的以軟體為基礎的驗證技術也將得到更多使用。
  • 相較於當前設計流程,設計實施解決方案能在萃取(abstraction)上更高度連接設計者需要,不僅允許在架構探索上精準預估功耗效能面積(PPA),而且還遵照高度收斂路徑至最終製造過程。
  • 隨著設計團隊希望使用通過驗證的設計元件,協助人工智慧晶片處理、記憶與即時連接性的要求,使得矽智財在人工智慧時代將更顯重要。
  • 從製造與良率觀點來看,使用新的材料、環繞式閘極三維堆疊(gate-all-around 3D stacked)架構與極紫外光(EUV)技術也將需要新方式。TCAD工具、光罩合成,及實體實施流程的高度整合性,都是Synopsys在協助晶片設計公司優化人工智慧晶片製造方式中發揮關鍵作用的所有領域。

有別於以往的CPU與GPU驅動架構,人工智慧晶片將見證我們曾經目睹的晶片設計變革性轉型。

人工智慧成為晶片設計主流

新思科技多年來投注資源在人工智慧用於EDA產品與矽智財(IP)的新方法上進行改革、創新,隨著長期使用許多統計和啟發式(heuristics)方法,人工智慧與EDA之間產生良好的協同作用。

我們預期隨著我們研究和學習如何將AI應用於更多領域的IC設計過程,這種趨勢(AI與EDA協同作用)會不斷擴大。總體而言,我們發現將其效能應用於設計、驗證與製造領域之高度潛在性,其具有下列特性:

  1. 如果任何設計工作涉及許多啟發法,我們相信人工智慧能被有效使用。
  2. 當需執行大量的人工重複工作時,例如除錯,人工智慧效能有助於大幅節省時間。
  3. 在任何設計步驟中,存在大量數據且設計者不知道該如何處理這些數據的情況,人工智慧能可有效降低搜尋空間。
  4. 人工智慧以事半功倍的方式協助提升產能,驗證就是個不錯的範例。大部分的晶片設計專案要花費30%時間進行驗證,主要重複執行相同測試。人工智慧可協助工具僅查看有改變或調整的地方,並將驗證重點放在設計的部分,可大幅減少運算時間與加速結果產出。

新思科技自2020年引入DSO.ai以來,近期內已開闢新的應用領域。DSO代表設計空間最佳化(design space optimization),是EDA產業在非常複雜的設計任務中採用人工智慧的首款產品。此產品尋找廣泛組合設計空間與半導體技術來確認最佳PPA組合。這項創新平台利用人工智慧功能來取得由設計工具,如佈局和佈線(place-and-route)以及平面圖(floor planning)生成的大型數據流,以探索、搜索設計空間。DSO.ai使用強化性學習技術來觀察設計如何隨時間變化,同時調整設計選擇、技術參數與作業流程,將探索過程引導至多元最佳化目標。像DeepMind的公司已成功採用強化性學習,為「無法解決的」問題提供驚人的解決方案,從戰勝世界冠軍Go (2016)至於2020年初已解決蛋白質摺疊挑戰。

早期使用者自2020年開始採用DSO.ai。在許多設計專案中,DSO.ai對這類複雜作業能以較少時間確認較佳的設計解決方案。隨著這項技術於2021年成為主流,我們開始在整個設計團隊中看到產能大躍進,這只能與EDA早期以及顛覆性導入RTL合成相提並論。

2020年10月,DSO.ai獲頒ASPENCORE電子「年度創新產品」獎 。

人工智慧具備許多潛力,讓設計者生產力與設計團隊效能往前躍進;我們認為這是EDA未來幾年的主要創新領域。

讓人工智慧變得更加值得信賴

可信賴的人工智慧是越來越常聽到的術語,並且具有廣泛的含意。隨著人工智慧的演進,我們對它也越來越關注。

數據進入人工智慧歷程從收集至處理與儲存,首要的就是數據的保密性。許多公司在整個作業流程中需要信賴鏈,亦對各方面的運算環境提出要求,即軟硬體、連線與數據加密。人工智慧的附加價值不僅在數據量(此為基本的),同時也需兼顧品質,要清楚數據源自何處,也就是獲得可信賴、無差錯的數據;以及數據如何被應用?我們相信,隨著數據量增加,這在未來幾年將獲得更多關注。

與保密性有關的就是安全性,我們需要確保人工智慧系統效能,遠遠超過「比人類更好」的最低限度,以降低對人類造成的風險,尤其當我們在自動駕駛運輸工具、機器人技術與工業自動化上越來越依賴人工智慧系統。在這個領域中,有越來越多強大的訓練機器學習演算法的數據集(datasets)。我們能擷取的資訊越多,相關的數據就越多,也更具意義。此外,還可以訓練模型使其更快速執行運算,以提供最快速反應時間,解決人工智慧系統最重要的延遲問題。隨著人工智慧的發展,我們預期這將持續成為主要需求。

最後,與信賴有關的就是可靠度。系統必須在任何運轉條件下都能夠精準且快速地做出決策,通常為即時反應(例如,自動導航系統加強了20ms的運算反應延遲限制時間),這是針對極端環境與保密資料實行方面的耐久性全新測試標準的開端。

從數據中心到手邊及邊緣

許多使用新思科技的設計工具與矽智財的公司,已開發專屬平台執行大量數據運算,主要初見成效的領域是在強大的高效能運算系統與數據中心。

不過,也有越來越多的跡象顯示,人工智慧已被功能更強大、價格更低廉的機器所使用,包含每天與我們接觸的日常使用機器,如行動裝置、居家娛樂系統與需要靈活的人工智慧擴充功能的工業環境等,這些「智慧邊緣」系統所需的解決方案與針對數據中心設計的晶片是截然不同。舉例來說,開發成本必須要非常低,同時往往專門針對特定功能。我們預估,隨著公司尋求更多方式來採用人工智慧,將會產生許多實驗,以及技術與商業模式研究。

新思科技協助許多公司在無需針對基於先進製程的高度複雜積體電路進行巨額投資的前提,從頭開始開發特定應用。這大部分就是來自我們廣泛的矽智財(IP portfolio),讓設計工程師能夠利用經過驗證的功能區塊的效率,並專注於其獨特的附加價值。我們的DesignWare IP支援人工智慧晶片中的專屬處理能力、高頻寬記憶體處理能力及可靠的高性能連接需求,適用於行動裝置、物聯網、汽車、數據中心與數位家庭等應用領域。我們不僅將此視為讓人工智慧更加廣泛應用的重要方式,而且還能以更多方式觀察其影響,像提供功能給更多不具有開發大型晶片能力的人們。

人工智慧從狹隘到寬廣

人工智慧最初已在特定領域中獲得驗證,一般來說,它協助以高效能電腦處理大數據。如同人工智慧用於DSO.ai所示,它同時已在預測性維護、健康科學研究、複雜財務案例,甚至應用於高度複雜技術任務,像晶片設計等領域都獲得認可。多數人工智慧在這些領域有效地應用,就是廣泛數據集開發的結果,這是個昂貴且耗時的議題,並非所有公司或市場都能承擔。

我們認為人工智慧的狹隘應用仍將持續一段時間,有些公司試圖微調商業模式,便於在更加廣泛的市場中支援人工智慧。因此,可從這次大型公司採用人工智慧的浪潮中學習經驗,而且我們預期其將隨時間而轉變。不可避免的是,當自然語言處理與人臉偵測技術等通用演算法實施效果更佳且成本更低時,我們將看見人工智慧有更加廣泛的應用,尤其在更多的消費性產品上。

總結來說,我們看見人工智慧持續擴展於所有應用與產品上。人工智慧創新不僅遭遇巨大的新挑戰,而且還需要進行許多實驗。我們相信利用正確的技術、知識與數據,就能有更多進展,繼續讓人工智慧變成我們生活中有意義的一部分。