Synopsys
Ansys

什麼是高頻寬記憶體 3(HBM3)?

新思科技 編輯部

2023年5月31日 / 閱讀時間 7 分鐘

定義

高頻寬記憶體 3(HBM3)是由 JEDEC 於 2022 年 1 月發布的一項用於 3D 堆疊式同步動態隨機存取記憶體(SDRAM)的記憶體標準(JESD238),相較於前一代的 HBM2E 標準(JESD235D),其性能有了顯著提升。 這些增強功能包括支援更高密度、更高運作速度、增加銀行數量、進階的可靠性、可用性與可維修性(RAS)能力、低功耗介面,以及全新的時脈架構。HBM3 勢將在人工智慧、圖形處理、網路,甚至潛在的汽車領域等高效能運算(HPC)應用中產生深遠影響。 HBM3 標準支援最高 32 Gb 密度及最多 16 層堆疊的裝置,總儲存容量可達 64 GB,相較於 HBM2E 幾乎增長了 3 倍。HBM3 的最高傳輸速率為 6.4 Gbps,幾乎是 HBM2E 3.6 Gbps 最高傳輸速率的兩倍。

HBM3 是如何運作的?

高頻寬記憶體 3(HBM3)是一項尖端記憶體技術,透過分散式介面與主機運算單元晶粒 緊密耦合。此介面分為多個獨立通道,這些通道可異步運作。HBM3DRAM 採用寬介面架構,以確保高速效能與能源效率。每個通道介面包含兩個偽通道,其 32 位元資料匯流排以雙倍資料傳輸速率運作(DDR )。

每個通道皆可存取一組獨特的DRAM 資料庫。來自某個通道的資料請求無法存取與另一個通道相關聯的資料。各通道採用獨立時鐘運作,且無需保持同步。

DRAM 晶粒  堆疊搭配 Channels 的整體概述

HBM3 的優勢

HBM3(高頻寬記憶體 3)是一項先進的記憶體技術,相較於前一代的 HBM2E,其性能有了顯著提升。憑藉著更高的儲存容量、速度及電源效率,HBM3 勢將為圖形處理、雲端運算、網路、人工智慧,乃至汽車產業帶來革命性的變革。以下我們將概述 HBM3 的主要優勢:

HBM3 相較於 HBM2E 的改進之處

儲存容量增加

HBM3 支援最高 32 Gb 的記憶體密度,並可堆疊至 16 層,因此最大儲存容量可達 64 GB。相較於 HBM2E,這幾乎是 3 倍的成長,能為進階應用提供更多的記憶體資源。

 

更快的数据傳輸速率

HBM3 的最高傳輸速率達 6.4 Gbps,幾乎是 HBM2E(3.6 Gbps)的兩倍。在不久的將來,市場可能會出現第二代 HBM3 裝置。 只需回顧 HBM2/2E、DDR5(從 6400 Mbps 升級至 8400 Mbps)以及 LPDDR5 的速度演進歷程——後者最高僅達 6400 Mbps,隨後便迅速被運作速度達 8533 Mbps 的 LPDDR5X 所取代。因此,HBM3 達到 6.4 Gbps 以上是合乎情理的。

 

提升電源效率

HBM2E 目前已具備最低的每位元傳輸能耗,這主要歸功於其採用未終端化的介面,但 HBM3 在此基礎上有了顯著提升。相較於 HBM2E 的 1.2V 核心電壓,HBM3 將核心電壓降低至 1.1V。  除了核心供電電壓降低 100mV 之外,HBM3 還將 I/O 訊號電壓從 HBM2E 的 1.2V 降至 400mV。

 

增強型通道架構

HBM3 維持了 HBM DRAM 的整體介面寬度不變——即 1024 位元資料寬度。然而,這 1024 位元的介面現已劃分為 16 個 64 位元通道,或者更關鍵的是,32 個 32 位元偽通道。  由於偽通道的寬度已縮減至 4 位元組,因此存取記憶體的突發長度已增加至 8 位元組——同時維持 32 位元組的記憶體存取封包大小。偽通道數量的倍增將帶來相較於 HBM2E 的效能提升。結合資料傳輸速率的提升,HBM3 相較於 HBM2E 可提供顯著的效能提升。

 

進階 RAS 功能

HBM3 在可靠性、可用性及可維護性(RAS)方面引入了多項改進,包括線上晶粒 錯誤校正碼(ECC)。當裝置處於自刷新模式,或主機發出「全銀行刷新」指令時,HBM3DRAM 裝置亦支援錯誤檢查與清除(ECS)功能。 可透過 IEEE 標準 1500 測試存取埠 (TAP) 存取 ECC 透明度寄存器,以取得 ECS 操作的結果。HBM3 標準的新 RAS 功能支援刷新管理 (RFM) 或自適應刷新管理 (ARFM)。

 

新型時脈架構

HBM3 透過將傳統的主機至裝置時脈訊號與資料觸發訊號解耦,從而改變了時脈架構。 事實上,雖然 HBM3 中 WDQS 和 RDQS 的新最高頻率為 3.2 GHz,可實現高達 6.4 Gbps 的資料傳輸速率,但從主機傳輸至裝置的 CK 最高頻率僅為 1.6 GHz(即使資料通道以 6.4 Gbps 運作時亦然)。 將時脈訊號與選通訊號解耦,使得時脈訊號的運行速度能遠低於資料選通訊號。由於 CA 時脈已被限制在 1.6 GHz 的最高速率,因此 CA 匯流排上的資訊最大傳輸速率現為 3.2 Gbps。  雖然 HBM2E 需要 3.6 Gbps 的 CA 傳輸速率,但 HBM3 僅需 3.2 Gbps 的命令與位址 (CA) 傳輸速率。

 

高速內部時脈

全新的 HBM3 時脈架構讓使用者在從 HBM2E 遷移至 HBM3 時,能持續專注於低延遲、高性能的解決方案。HBM3 的 CA 匯流排所定義的最高頻率為 1.6 GHz,而資料選通訊號則以 3.2 GHz 運作。 這使用戶能夠為 HBM3 控制器和 PHY 實現 DFI 1:1:2 的頻率比。在此情況下,控制器、DFI、PHY 及記憶體時脈均以 1.6 GHz 運行,而觸發訊號頻率則為 3.2 GHz。這為設計人員提供了 CA 介面的 DFI 1:1 頻率比,以及資料傳輸的 DFI 1:2 頻率比,所有這些設定皆能將延遲降至最低。

效益詳情
儲存容量增加每個堆疊最高可達 64 GB(32 Gb × 16 層)—— 幾乎是 HBM2E 的 3 倍
更快的数据傳輸6.4 Gbps – 幾乎是 HBM2E(3.6 Gbps)的兩倍;未來仍有提升速度的潛力
提升電源效率核心電壓 1.1V;I/O 電壓 400mV – 相較於 HBM2E 有所提升
增強型通道架構16 個通道、32 個偽通道;為提升效能而增加突發長度
進階 RAS 功能On-晶粒 、ECC、ECS、自適應刷新 (ARFM)
新型時脈架構CK 與觸發訊號解耦;CK 頻率為 1.6 GHz,觸發訊號頻率為 3.2 GHz
高速內部時脈DFI 1:1(CA)、DFI 1:2(資料)頻率比,以降低延遲

該方案提供哪些解決方案? 新思科技 提供哪些解決方案?

新思科技 提供完整的 HBM3 IP 解決方案,包含控制器、PHY 及驗證 IP ,適用於圖形處理、雲端運算、網路、人工智慧及汽車等應用領域。身為 JEDEC 的積極成員, 新思科技 致力推動最新記憶體標準的開發與採用,並提供可配置的記憶體介面 IP 解決方案,以精準滿足系統單晶片(SoC)的具體需求。

解決方案說明主要特色
HBM3 控制器 IP針對功耗、延遲、頻寬及佔用面積進行優化;支援 JEDEC HBM3 標準偽通道支援、APB v2.0 配置寄存器
HBM3 PHY IP適用於高效能運算(HPC)、人工智慧(AI)、圖形處理及網路的物理介面;最高傳輸速率達 7200 Mbps節能、微凸點陣列、4 種有效狀態
HBM 的 VC驗證 IP針對 HBM 設計的全面驗證解決方案通訊協定/時序檢查、ECC、供應商認證

新思科技 HBM3 控制器 IP

新思科技 的 HBM3 控制器 IP針對功耗、延遲、頻寬及佔用面積進行了優化,並支援 JEDEC HBM3 標準。該控制器可透過擴展的 DFI 5.0 介面與 新思科技 HBM3 PHY IP 透過擴展的 DFI 5.0 介面進行互通,以打造完整的記憶體介面解決方案。此 HBM3 控制器具備偽通道支援功能與靈活的配置選項,可提升記憶體頻寬。該控制器 IP 包含軟體配置寄存器,可透過 ArmAMBA APB v2.0 規格介面進行存取。

 

新思科技 HBM3 PHY IP

新思科技 的 HBM3 PHY是一款完整的物理層(PHY)IP 介面解決方案,適用於高性能運算(HPC)、人工智慧(AI)、圖形處理及網路領域的 ASIC、ASSP 及系統單晶片(SoC)應用,這些應用需要最高運作頻率達 7200 Mbps 的高頻寬 HBM3DRAM 介面。該 新思科技 HBM3 PHY 與任何其他片外記憶體介面相比,具備更優異的功耗效率,並支援多達四種活躍運作狀態,可實現動態頻率調整。為最小化佔用面積,該 PHY 採用了優化的微凸點陣列。對更長通道長度的支援,使 PHY 在 SoC 上的佈局更具彈性,且不影響效能。當與 新思科技 HBM3 控制器 IP 及 HBM3 記憶體模型 VIP 結合使用時,可提供完整的 HBM3 介面解決方案。

 

HBM 的 VC驗證 IP

新思科技 VC驗證 IP for HBM提供一套完整的協定、方法論、驗證及生產力功能,讓使用者能夠快速驗證基於 HBM 的設計。 新思科技 提供一套完整的DRAM 和快閃記憶體 VIP,支援 JEDEC、ONFi、SD 及 SPI 等標準組織所頒布的最新核准與草案規格。 新思科技該 VIP 團隊與領先的記憶體供應商密切合作,確保其 VIP 與供應商所生產的元件具備certify 100% 相容性。 新思科技 certify 記憶體 VIP 由記憶體控制器與 PHY IP 設計團隊用於驗證與簽核,其功能包含:運用執行時與隨機的 JEDEC 及廠商元件選取、協定與時序檢查,以及功能覆蓋率分析。透過與領先的記憶體供應商、SoC 市場領導者及業界頂尖 IP 團隊的早期採用與合作,確保了 新思科技 Memory VIP 的品質。

繼續閱讀

Ask BETA This experience is in beta mode. Please double check responses for accuracy.

結束聊天

關閉此視窗將清除您的聊天紀錄並結束本次會話。您是否確定要結束這次聊天? ```