高带宽内存 3(HBM3)是 JEDEC 于 2022 年 1 月发布的用于 3D 堆叠式同步动态随机存取存储器(SDRAM )的内存标准 (JESD238),与之前的 HBM2E标准 (JESD235D)相比有了显著改进。 这些增强功能包括支持更高的存储密度、更快的运行速度、更多的银行数量、更先进的可靠性、可用性和可维护性(RAS)能力、更低功耗的接口以及全新的时钟架构。HBM3有望在高性能计算(HPC) 应用领域(如人工智能、图形处理、网络,甚至潜在的汽车领域)产生重大影响。 HBM3标准 支持最高 32 Gb 密度的器件,并可堆叠至 16 层,总存储容量达 64 GB,相比 HBM2E 增长了近 3 倍。HBM3 的最高传输速率达 6.4 Gbps,几乎是 HBM2E 3.6 Gbps 最高传输速率的两倍。
高带宽内存 3(HBM3)是一项尖端内存技术,通过分布式接口与主机计算芯片紧密耦合。该接口被划分为多个独立通道,这些通道可异步操作 。HBM3 DRAM 采用宽接口架构,以确保高速性能并能效比 。每个通道接口包含两个伪通道,每个伪通道具有 32 位数据总线 ,并以双倍数据速率(DDR )运行。
每个通道均可访问一组独立的DRAM存储银行。来自一个通道的数据请求无法访问与另一个通道相关联的数据。各通道操作 ,具有独立时钟,且无需保持同步。
HBM3(高带宽内存 3)是一项先进的内存技术,相比其前代产品 HBM2E 有了显著提升。凭借更高的存储容量、速度和能效,HBM3 将彻底改变图形处理、云计算、网络、人工智能领域,甚至可能对汽车行业产生革命性影响。本文将概述 HBM3 的主要优势:
存储容量增加
HBM3 支持最高 32 Gb 的密度和最多 16 层堆叠,从而实现最高 64 GB 的存储容量。与 HBM2E 相比,这几乎增长了 3 倍,为高级应用提供了更多的内存。
更快的数据传输速率
HBM3 的最高速率达到 6.4 Gbps,几乎是 HBM2E(3.6 Gbps)的两倍。在不久的将来,市场可能会迎来第二代 HBM3 设备。 只需回顾一下 HBM2/2E、DDR5(从 6400 Mbps 升级至 8400 Mbps)以及 LPDDR5(最高 6400 Mbps,随后迅速被运行速度达 8533 Mbps 的 LPDDR5X 取代)的速率演变历程即可。因此,HBM3 突破 6.4 Gbps 也是合乎情理的。
提高能效
HBM2E 已经实现了最低的每比特传输能耗,这主要得益于其未终端化的接口设计,但 HBM3 在此基础上实现了显著提升。与 HBM2E 的 1.2V 核心电压相比,HBM3 将核心电压降低至 1.1V。 除了核心供电电压降低了 100mV 之外,HBM3 还将 I/O 信号电压从 HBM2E 的 1.2V 降至 400mV。
增强型通道架构
HBM3 保持了HBM DRAM 的整体接口大小不变——1024位数据。不过,这个1024位接口现在被划分为16个64位通道,或者更重要的是,32个32位伪通道。 由于伪通道的宽度已缩减至 4 字节,因此内存访问的突发长度增加至 8 字节——从而保持了 32 字节的内存访问包大小。伪通道数量的翻倍将带来相较于 HBM2E 的性能提升。结合数据速率的提升,HBM3 能够提供比 HBM2E 显著更高的性能。
高级 RAS 功能
HBM3 在可靠性、可用性和可维护性(RAS)方面进行了多项改进,包括片上纠错码(ECC)。当 HBM3 DRAM 器件处于自刷新模式时,或当主机发出“刷新所有存储银行”命令时,该器件还支持错误检查与清理(ECS)功能。 可通过IEEE 标准 1500测试访问端口(TAP)访问ECC透明度寄存器,从而获取ECS操作的结果。HBM3标准的新RAS功能支持刷新管理(RFM)或自适应刷新管理(ARFM)。
新型时钟架构
HBM3 通过将传统的主机到设备时钟信号与数据选通信号解耦,改变了时钟架构。 事实上,虽然 HBM3 中 WDQS 和 RDQS 的新最大速率为 3.2 GHz(可实现高达 6.4 Gbps 的数据传输速率),但从主机到设备方向的 CK 最高运行速率仅为 1.6 GHz(即使数据通道以 6.4 Gbps 运行时也是如此)。 将时钟信号与选通信号解耦,使得时钟信号的运行速度可以比数据选通信号慢得多。由于 CA 时钟总线 的最高速率被限制在 1.6 GHz,因此 CA 上的信息最大传输速率现为 3.2 Gbps。 虽然HBM2E要求CA传输速率为3.6 Gbps,但HBM3仅要求命令和地址(CA)传输速率为3.2 Gbps。
高速内部时钟
全新的 HBM3 时钟架构使用户在从 HBM2E 迁移至 HBM3 时,能够继续专注于低延迟、高性能的解决方案。HBM3 环境下,CA 的最高定义频率为总线 ,而数据选通频率操作 为 3.2 GHz。 这使用户能够为 HBM3 控制器和 PHY 实现DFI 1:1:2 的频率比。在此情况下,控制器DFI 、PHY 和内存时钟均以 1.6 GHz 运行,而数据选通频率为 3.2 GHz。这为设计人员提供了 CA 接口的DFI 1:1 频率比以及数据的DFI 1:2 频率比,所有这些都最大限度地降低了延迟。
| 优势 | 详情 |
| 存储容量增加 | 每个堆栈最高可达 64 GB(32 Gb × 16 层)——几乎是 HBM2E 的 3 倍 |
| 更快的数据传输 | 6.4 Gbps——几乎是 HBM2E(3.6 Gbps)的 2 倍;未来还有提速潜力 |
| 提高能效 | 核心电压 1.1V;I/O 电压 400mV——较 HBM2E 有所提升 |
| 增强型通道架构 | 16个通道,32个伪通道;为提升性能而增加了突发长度 |
| 高级 RAS 功能 | 片上ECC、ECS、自适应刷新(ARFM) |
| 新型时钟架构 | CK与选通信号解耦;CK频率为1.6 GHz,选通信号频率为3.2 GHz |
| 高速内部时钟 | DFI 1:1(CA)、DFI 、1:2(数据)频率比,以降低延迟 |
新思科技 提供完整的HBM3 IP解决方案,包括控制器、物理层(PHY)和验证IP,适用于图形处理、云计算、网络、人工智能和汽车等应用领域。作为JEDEC的积极成员, 新思科技 积极推动开发 的制定及最新内存标准的普及,提供可配置的内存接口IP解决方案,以精准满足系统级芯片(SoC)的具体需求。
| 解决方案 | 描述 | 主要特性 |
| HBM3 控制器 IP | 针对功耗、延迟、带宽和面积进行了优化;支持 JEDEC HBM3标准 | 伪通道支持,APB v2.0 配置寄存器 |
| HBM3 PHY IP | 适用于高性能计算(HPC)、人工智能(AI)、图形处理和网络的物理接口;最高速率可达 7200 Mbps | 节能型微型凸块 阵列,4种工作状态 |
| VC 验证 IP 用于HBM | 适用于HBM 设计的全面验证解决方案 | 协议/时序检查、ECC、供应商认证 |
新思科技 HBM3 控制器 IP
新思科技 HBM3 控制器 IP在功耗、延迟、带宽和面积方面均经过优化,支持 JEDEC HBM3标准 标准。该控制器可通过扩展的 5.0 接口与 新思科技 DFI HBM3 PHY IP,共同构建完整的内存接口解决方案。该HBM3控制器支持伪通道并具备灵活的配置选项,可有效提升内存带宽。该控制器IP包含软件配置寄存器,可通过Arm AMBA APB v2.0规范接口进行访问。
新思科技 HBM3 PHY IP
新思科技 的HBM3 PHY是一款完整的物理层(PHY)IP接口解决方案,适用于高性能计算(HPC) 、AI、图形处理和网络ASIC 、ASSP 以及系统级芯片(SoC)应用,这些应用需要最高工作速率达7200 Mbps的高带宽HBM3 DRAM接口。该 新思科技 与其他任何片外 内存接口相比,HBM3 PHY具有更出色的能效,并支持多达四种活动工作状态,从而实现动态频率调节。为了最大限度地减少占板面积,该PHY采用了优化的微凸块 阵列。对更长通道长度的支持,使SoC上的PHY布局 在保持性能的同时拥有更大的灵活性。当与 新思科技 HBM3 控制器 IP 和 HBM3 内存模型 VIP 结合使用时,该 PHY 可提供完整的 HBM3 接口解决方案。
VC 验证 IP 用于HBM
新思科技 (VC 验证 IP )针对HBM提供了一套全面的协议 、方法论、验证及生产力 功能,使用户能够快速验证基于HBM 的设计。 新思科技 提供了一套全面的 DRAM 和闪存 VIP,支持 JEDEC、ONFi、SD 和串行外设接口(SPI) 等标准组织最新批准和草案阶段的规范。 新思科技的 VIP 团队与领先的 存储器供应商密切合作,确保与他们生产的器件 100% 兼容。 新思科技 内存 VIP 被内存控制器和 PHY IP 设计团队用于验证签核,包括基于运行时和随机 JEDEC 及供应商器件选择的验证、协议 和时序检查,以及功能覆盖率验证。早期采用以及与领先的 内存供应商、SoC 市场领导者以及行业领先的 IP 团队的合作,证明了 新思科技 Memory VIP的质量。