新思科技
Ansys

什麼是「邊緣運算 」?

羅恩·洛曼

2022年4月12日 / 閱讀時間 7 分鐘

在當今這個高度互聯的時代,數據已成為全球最具價值的商品之一,這一點並不令人意外。無論規模大小或所屬產業為何,各家公司都仰賴海量數據來提取有價值的洞見,進而推動業務成長。 從特斯拉自動駕駛系統的明智決策、解決製造廠房的營運缺陷,到運用人工智慧(AI)設計互聯的遊戲世界,大數據、物聯網(IoT)與人工智慧的結合已推動了巨大的成長。隨著全球數據產量預計在 2025年前總計將達到 175 澤字節,這股趨勢絲毫沒有放緩的跡象。

然而,隨著產生、蒐集和儲存的數據量不斷湧入,對於 IT 團隊而言,要對每個傳入的位元組進行分類、處理和分析,已成為一項近乎不可能的任務。這股持續不斷、永無止境的新資訊洪流,正在重塑我們所熟知的傳統運算格局。 企業已無法僅依賴大型、集中式的資料中心,來及時且具成本效益地處理資料,因為頻寬、網路及延遲等中斷問題,已對業務關鍵運作構成風險。

這正是邊緣運算 發揮作用之處。雖然這絕非新概念,但邊緣運算 已大幅演進,不僅能降低資訊儲存與通訊成本,還能透過更低的延遲促進新應用的發展。但邊緣運算 究竟是什麼?人工智慧又如何影響其效能?

請繼續閱讀深入瞭解 ,了解邊緣運算 的基礎架構、其各種架構、推動其成長的眾多應用、晶片設計師需要克服的一些障礙,以及人工智慧未來將如何發揮深遠影響。

物聯網智慧手錶掃描

邊緣運算 其核心在於

顧名思義,「邊緣運算」(邊緣運算 )是指在更接近資料來源的位置進行資料處理與分析。此概念亦稱為「邊緣雲端運算」與「霧運算」,其將資料處理所需的大量運算與儲存資源中的一部分,移至更接近資料產生處的位置——即終端或邊緣裝置。

在傳統的企業運算中,網路功能佔據核心地位,端點裝置會從其所在位置收集資料,並將其傳送至資料中心或雲端;資料在該處經過儲存與分析後,才會將回應傳回來源。這導致整個流程耗時甚久,再加上每日產生的資料量呈指數級增長,進而引發延遲與頻寬問題。 隨著 5G 電信業者尋求透過分散式運算環境來提供新的即時服務與更多元的連線能力,「行動邊緣運算」(邊緣運算 , MEC)一詞正蔚為風潮。

邊緣運算 其重點在於將運算資源重新部署,以便在本地端收集和處理資料。無論是透過本地伺服器、小型匯聚器,還是微型資料中心,企業都能透過將工作負載移至更接近目標位置之處,獲得顯著效益。這不僅能提升容量與可靠性,還能降低傳輸成本與能源消耗。

邊緣運算 區段的類型

就邊緣運算 而言,雖然地理位置至關重要,但該如何界定「鄰近性」呢?是指 500 英里、5 英里,還是 500 英尺?理論上,雲端運算資源與終端裝置或應用程式的距離越近,處理資料所需的儲存空間、記憶體及運算資源就越少。

邊緣運算 共有三種基本的系統單晶片(SoC)架構:

  • 區域資料中心可說是雲端運算農場的微型版本,能夠容納並服務大量使用者。雖然它們有助於降低延遲,但在三種架構中,它們最接近集中式資料中心,且仍需具備龐大的運算、儲存及記憶體能力才能運作。
  • 匯總器與物聯網閘道器廣泛應用於邊緣運算 基礎架構中,用於執行有限的功能,通常每次僅以低延遲的方式執行一個或少數幾個應用程式。
  • 本地伺服器能滿足邊緣運算 的特定連線與功耗需求。由於這些伺服器部署於現場,因此能盡可能貼近終端裝置與使用者,針對特定功能進行配置,從而實現超低延遲並針對應用程式進行優化。
邊緣運算 用例流程圖 | Synopsys

這三套邊緣運算 系統均採用類似的SoC架構,由網路SoC、伺服器SoC、儲存裝置以及AI 加速器 組成,它們擁有共同的目標:實現更低的延遲,以支援新舊各類消費者服務。

推動雲端運算成長的應用

為了更全面地理解「內容分發網路」(邊緣運算 )的興起與重要性,讓我們來看看它如何影響我們的日常生活。像 Netflix 和 YouTube 這樣的公司,會利用內容分發網路(邊緣運算 )提供隨選視訊服務,讓觀眾能隨時隨地觀看影片。 為了提供快速且隨時可觀看的影片,串流服務商會將影片託管在特定地區、更接近目標用戶的位置,以避免必須從數千英里外的数据中心進行串流傳輸。透過在特定地區預先上傳或「快取」最受歡迎的影片或電影,他們便能縮短內容從發送端與接收端雙向傳輸所需的時間。

這些絕非當今推動邊緣運算 發展的主要應用案例。 市場的主要驅動力之一,是 5G 的問世及其與人工智慧能力的融合——隨著電信業者日益尋求透過既有基礎設施,在數據與語音連線之外提供更多元化的服務。為實現此目標,5G 電信業者正建構一個先進的生態系統,用以託管具備整合式人工智慧能力的獨特在地化應用程式。新增的伺服器使網路向第三方應用程式開放,從而創造出新的商業機會,將高流量內容更貼近使用者。

像 Google 和 Microsoft 這樣的網路規模、遊戲、混合實境、工業及企業集團,隨著其逐步轉向以人工智慧驅動的邊緣運算 硬體、軟體及服務,也正推動市場的成長。透過在通訊管道中採用更多自動化措施,企業能夠提升營運效率,並確保客戶體驗符合預期。


運用基於標準的 IP 架構設計物理 AI SoC,實現真實世界的智慧應用


晶片設計師需要克服哪些挑戰?

為了配合這些市場發展,晶片設計團隊必須在整個設計過程中考量幾個關鍵面向,其中首要任務之一便是降低能耗並同時提升效率。多數企業希望從資料中心轉向邊緣運算的主要原因之一,正是為了降低功耗——進而減少相關成本。為此,晶片設計團隊需要開發出功耗低於傳統資料中心系統單晶片(SoC),同時又不犧牲效能的系統單晶片。

隨著人工智慧在新型市場應用中的採用持續增長,晶片設計師與工程師也需根據其特定功能與任務,理解並找出部署人工智慧演算法的最佳位置。降低能耗的需求同樣影響了人工智慧功能在邊緣運算 中的採用,因為這涉及降低人工智慧演算法的運算能力,並減少整個應用設計所需的記憶體資源。

儘管這帶來許多挑戰,但透過伺服器晶片為所有這些邊緣運算 細分市場與應用場景增添人工智慧加速功能,是一項我們預期將隨著頻寬需求不斷演進而持續擴大的趨勢。

人工智慧:塑造明日的邊緣運算 市場

由人工智慧驅動的「邊緣運算 」技術,已在當今市場中展現其價值。隨著我們的生活日益互聯,對快速且可靠服務的需求也將持續呈指數級增長。無論是行動裝置還是人工智慧,各項應用都在朝著更先進的製程節點邁進。

為了滿足需求,各團隊需要持續將強大的 AI 功能整合至其基礎架構中,以確保高效處理、提升記憶體效能,並提供無縫的連線能力。在新思科技(Synopsys),我們經過矽片驗證的DesignWare IP®產品組合,透過一系列專為支援特殊處理、功耗、記憶體效能及即時資料連線而設計的解決方案,來滿足這些需求。

新思科技 (Synopsys) 的 ARC® EV 處理器具備標量與向量運算能力,可實現完整的人工智慧處理,為嵌入式應用提供高效能且靈活的處理能力。

我們的 IP 解決方案亦有助於支援針對各種記憶體限制所設計的高效架構,包括DesignWare 多埠記憶體以及我們的嵌入式 MRAM 編譯器 IP。舉例來說,新思科技的HBM3和LPDDR5 IP解決方案能直接解決頻寬瓶頸問題,讓設計人員得以在低延遲與最低功耗的情況下滿足其記憶體需求。

在為系統單晶片(SoC)建立高效能基礎時,功耗同樣扮演著重要角色。新思科技(Synopsys)提供廣泛的產品組合, DesignWare 基礎 IP ,涵蓋記憶體編譯器、非揮發性記憶體 (NVM)、邏輯函式庫 以及通用 I/O(GPIO ),協助 SoC 設計人員降低整合風險、在最低功耗下實現最佳效能,並加速產品上市時程。

隨著人工智慧持續拓展邊緣運算 的應用邊界,並日益深度融入各類應用中,我們非常期待能持續開發創新的深度學習解決方案,並培育人工智慧系統單晶片(AI SoC),以滿足新興的功耗、效能與面積(PPA)需求,以及產品上市時程的要求。

總結

數據爆炸的趨勢已成定局。憑藉其獨特的能力,既能將雲端服務更貼近邊緣裝置,又能降低延遲,邊緣運算 與人工智慧的融合,勢將重塑傳統運算流程,並為未來數年的新應用與服務鋪平道路。

繼續閱讀

Ask BETA This experience is in beta mode. Please double check responses for accuracy.

結束聊天

關閉此視窗將清除您的聊天紀錄並結束本次會話。您是否確定要結束這次聊天? ```