新思科技
Ansys

什麼是 Compute Express Link (CXL) 3.0?

蓋瑞·拉格爾斯, 馬杜米塔·桑亞爾, 理查德·所羅門

2022年9月5日 / 閱讀時間 6 分鐘

定義

Compute Express Link (CXL) 3.0 是一項先進的互連標準,旨在強化 CPU 與加速器、記憶體裝置及其他周邊設備之間的通訊。其資料傳輸速率達 64 GT/s,是前一代標準的兩倍,並具備低延遲、先進的交換功能及高效的資源共享能力,因此非常適合用於高效能運算、資料中心及人工智慧應用。

試想,倘若你能徹底重新定義解決問題的方式。舉例來說,與其將一個大問題拆解成較小的部分,若有一套系統能直接從整體上解決問題,會是怎樣的景象? 這些正是 Compute Express Link™(CXL™)為高效能運算(HPC)與雲端應用程式帶來的可能性。隨著最新版本的規格 CXL 3.0 正式發布,資料中心與超級電腦正朝著提供更快速、更高效能的表現邁進。

換句話說,這些強大的系統將不再受制於以往的限制。

對於致力於解決當代重大課題的人士而言,這無疑是個好消息,無論是人類基因組測序、氣候變遷建模,還是疫苗研發皆然。與此同時,CXL 3.0 也為分散式資料中心、自動駕駛等邊緣應用,以及需要快速即時回應的相對較小規模應用(例如電玩遊戲)提供了極具前景的記憶體共享優勢。 在這篇部落格文章中,我們將深入探討 CXL 3.0 能為各類資料驅動型應用帶來的可能性——這些應用需要越來越高的記憶體容量、更高的頻寬、更強的安全性以及更低的延遲。


人工智慧的擴展並非偶然

探索 能實現高效能、可擴展人工智慧系統的智慧財產權


Compute Express Link 如何因應數據量的增長

非結構化資料(例如影片、影像、文字和語音)的增長,正推動著新型運算架構的發展,使得資料中心工作負載中有更大比例是在加速器上運行。CXL 被譽為針對處理器、記憶體擴充及加速器的「突破性」CPU 至裝置間、具快取一致性的互連技術。 CXL 運行於標準 PCI Express® (PCIe®) 物理層 (PHY) 之上(因此採用標準 PCIe PHY),並採用靈活的處理器埠,可自動協商採用標準 PCIe 交易協定或替代性的 CXL 交易協定,旨在為新的快取與記憶體交易實現極低的延遲。

該協定主要由資料中心伺服器、超級電腦及企業級運算系統的設計人員採用,應用於人工智慧與機器學習等領域,可讓 CPU 與加速器相互存取彼此的記憶體。其技術規格由開放式產業標準組織「CXL 聯盟」所制定。 CXL 3.0 的速度是前一代的兩倍,可提供高達 64GT/s 的資料傳輸速率(與 PCIe 6.0 相同),且相較於前幾代產品並未增加任何延遲。根據 CXL 聯盟的說法,最新規格還具備以下特點:

  • 進階交換與網路架構功能
  • 高效的點對點通訊
  • 以及橫跨多個運算域的細粒度資源共享

這些功能意味著更高的可擴展性與更優化的系統級資料流。此外,它還與前幾代 CXL 具備向下相容性;更重要的是,設計人員可選擇在較低的鏈路速度下使用 CXL 3.0,藉此善用許多最新功能。

CXL 之所以能成為運算密集型應用中系統單晶片(SoC)的理想選擇,在於它能夠在 CPU 記憶體空間與連接裝置上的記憶體之間維持記憶體一致性。記憶體一致性透過資源共享、降低軟體堆疊的複雜性,以及降低整體系統成本,為提升效能鋪平道路。設計人員因此能夠專注於應用程式的目標工作負載,而非設計中加速器內冗餘的記憶體管理硬體。

CXL 3.0 完美契合當前資料中心解耦的趨勢。在解耦架構中,儲存、運算、記憶體和網路等同質化資源透過光學互連進行連接。此方法能提升平台靈活性、提高密度並優化資源利用率,讓資料中心設計人員能根據特定工作負載的需求來調用資源。 CXL 3.0 將資源視為可互換的元件,從而實現解耦式資料中心所需的更靈活資源配置與管理。

一名人士穿過資料中心

從一開始就放眼長遠

透過為其一致性提供某種程度的對稱性,CXL 3.0 使系統單晶片(SoC)中的加速器能與主機扮演更平等的角色,因此兩者可同時快取相同資料,而非依序進行。這使得特定類型的任務效能大幅提升。記憶體共享利用了硬體一致性的優勢,允許透過 CXL 連接的記憶體在各主機之間進行一致性共享。 因此,多個主機可同時存取記憶體的特定區段,且每個主機都能看到該位置的最新資料。憑藉這項能力,設計人員可透過共享記憶體架構,建立機器叢集來解決大型問題。

支援儲存級記憶體(Storage-Class Memory)意味著,當裝置關機時,資料並不會遺失。因此,不再需要擔心將資料儲存至磁碟的問題。舉例來說,若終端應用程式是電玩遊戲,即使遊戲裝置的電池耗盡,玩家仍能從上次中斷的地方繼續遊玩。

該協定先進的互連架構功能,標誌著與前幾代產品及其傳統樹狀架構的顯著轉變。新的互連架構最多可支援 4,096 個節點,每個節點皆能透過基於埠的路由(PBR)位址機制相互通訊。 一個節點可以包含多種元件:CPU 主機、CXL 加速器(不論是否包含記憶體)、PCIe 裝置,或是全球互連架構連接記憶體(GFAM)裝置。GFAM 裝置為建構系統開闢了一系列嶄新可能性,這些系統由運算與記憶體元件組成,並可依特定工作負載的需求進行配置。 舉例來說,若能存取 1 太位元組或 1 拍位元組的記憶體,便能建立全新的模型來應對人類基因組定序等複雜挑戰。與其基於「必須將大型問題拆解為較小部分來處理」的理念來編寫軟體並建構運算系統,不如從「系統能夠一次性處理整個問題」的構想出發。

CXL 3.0 IP 簡化新協定的採用流程

為促進並加速最新 CXL 協定的採用,新思科技(Synopsys)推出業界首套完整的 CXL 3.0 IP 解決方案,涵蓋控制器、PHY 及驗證 IP ,為人工智慧、機器學習及雲端運算應用提供安全、低延遲且高頻寬的互連方案。該解決方案包含:

我們的 CXL IP 解決方案基於新思科技(Synopsys)經矽片驗證的 PCIe IP 打造,可降低裝置與主機應用程式的整合風險,並協助設計人員充分發揮 CXL 3.0 為資料密集型應用程式的系統單晶片(SoC)所帶來的優勢。作為 CXL 的早期貢獻者,新思科技得以率先取得最新規格,使我們的工程師能提供比競爭對手更成熟的解決方案。

總結

數據是驅動數位世界運轉的關鍵,為那些致力解決當今最迫切問題的應用程式提供動力,從疾病管理到氣候變暖皆然。為因應這些高數據量應用程式對更高頻寬與更低延遲的持續需求,新型資料中心架構正逐漸嶄露頭角,例如解耦架構以及加速器的整合。 CXL 3.0 規格非常適合這些新方法,其速度是前一代規格的兩倍,且不會增加任何延遲。透過新思科技(Synopsys)完整的 CXL 3.0 IP 及驗證 IP 解決方案,設計人員可以放心,無論是下一代資料中心、人工智慧、網路、記憶體擴充或加速器設計,都能享有順暢的設計與驗證流程。

繼續閱讀

Ask BETA This experience is in beta mode. Please double check responses for accuracy.

結束聊天

關閉此視窗將清除您的聊天紀錄並結束本次會話。您是否確定要結束這次聊天? ```