Compute Express Link (CXL) 3.0 是一种先进的互连技术标准 ,可增强 CPU 与加速器、存储设备及其他外设之间的通信。其数据速率达到 64 GT/s,是上一代产品的两倍,同时具备低延迟、先进的交换能力以及高效的资源共享特性,因此非常适合高性能计算、数据中心和人工智能应用。
试想,如果你能彻底重塑解决问题的方式。例如,与其将一个大问题拆解成小问题,如果有一个系统能够整体解决“期刊 ”问题,会怎样? 这些正是 Compute Express Link™(CXL™)为高性能计算(HPC) 和基于云的应用程序带来的可能性。随着最新版本规范 CXL 3.0 的发布,数据中心和超级计算机正朝着提供更快、更高效性能的方向迈进。
换句话说,这些强大的系统将不再受以往限制的束缚。
对于致力于解决当今时代重大难题的每个人来说,这都是一个好消息,无论是人类基因组测序、气候变化建模,还是疫苗研发。与此同时,CXL 3.0 还为分散式数据中心、自动驾驶汽车等边缘应用,以及需要快速实时响应的相对较小规模的应用(如电子游戏)提供了极具前景的内存共享优势。 在这篇博客文章中,我们将深入探讨 CXL 3.0 能够为各类数据驱动型应用带来的可能性——这些应用对内存容量、带宽、安全 以及低延迟的要求日益提高。
非结构化数据(如视频、图像、文本和语音)的激增正推动着新型计算架构的发展,数据中心中越来越大的工作负载比例开始在加速器上运行。CXL 被誉为一种“突破性”的、支持CPU 到设备、缓存一致性的互连技术,适用于处理器、内存扩展和加速器。 CXL基于标准 的PCI Express®(PCIe®)物理层(PHY)运行(因此采用标准 的PCIe PHY),并采用灵活的处理器端口,该端口可通过自动协商选择标准 的PCIe事务协议协议 或替代的CXL事务协议,旨在为新的缓存和内存事务提供极低的延迟。
协议 (CXL)主要被数据中心服务器、超级计算机和企业级计算系统的设计者用于人工智能和机器学习等应用,它允许 CPU 和加速器相互访问彼此的内存。其技术规范由CXL 联盟制定,该联盟是一个开放的行业标准 组织。 CXL 3.0 的速度是前代的两倍,数据传输速率高达 64GT/s(与 PCIe 6.0 相同),且与前几代相比不会增加任何延迟。据 CXL 联盟称,最新规范还具备以下特点:
这些特性意味着更强的可扩展性和更优化的系统级数据流。此外,它还与前几代 CXL 保持向后兼容;更重要的是,设计人员可以选择在较低的链路速率下使用 CXL 3.0,从而充分利用其许多最新功能。
CXL之所以非常适合用于计算密集型应用的SoC,在于它能够在CPU 内存空间与外接设备上的内存之间保持内存一致性。内存一致性通过资源共享、简化软件栈的复杂性以及降低整体系统成本,为实现更高性能铺平了道路。这样,设计人员就可以专注于应用程序的目标工作负载,而不是设计中加速器内冗余的内存管理硬件。
CXL 3.0 很好地契合了当前数据中心解耦的趋势。在解耦架构中,存储、计算、内存和网络等同质资源通过光互连进行连接。这种方法能够提升平台的灵活性、提高密度并优化资源利用率,使数据中心设计人员能够根据特定工作负载的需求调配资源。 CXL 3.0 将资源视为可互换的,从而能够以更灵活的方式进行资源配置和管理,这正是解耦数据中心所必需的。
通过为其一致性提供一定程度的对称性,CXL 3.0 使系统级芯片(SoC)中的加速器能够与主机发挥更对等的角色,从而两者可以同时缓存相同的数据,而非依次进行。这使得某些类型的任务性能得到显著提升。内存共享利用了硬件一致性,允许连接到 CXL 的内存在大主机之间进行一致性共享。 因此,多个主机可以同时访问内存的特定区域,而每个主机都能看到该位置的最新数据。凭借这一能力,设计人员可以构建机器集群,通过共享内存架构来解决大型问题。
对存储级内存的支持意味着,当设备关机时,数据不会丢失。因此,不再需要担心将数据保存到磁盘上。例如,如果终端应用是一款电子游戏,即使游戏设备的电池没电了,玩家也能从上次中断的地方继续游戏。
协议的先进互连架构与前几代产品及其传统的树状架构相比实现了重大转变。该新型互连架构最多支持4,096个节点,每个节点均可通过基于端口的布线 (PBR)寻址机制与其他节点进行通信。一个节点 可以包含多种设备:CPU 主机、CXL加速器(无论是否包含内存)、PCIe设备,或是Global Fabric Attached Memory(GFAM)设备。 GFAM设备为构建由计算和内存单元组成的系统开辟了一系列新的可能性,这些单元可按特定工作负载的需求进行布局。 例如,借助1太字节或1拍字节的内存,可以构建全新的模型来应对人类基因组测序等复杂挑战。与其基于“必须将大问题拆解为小块处理”的理念来编写软件和构建计算系统,不如从“系统能够一次性处理整个问题”这一思路出发。
为了简化并加速 最新CXL标准协议 的采用,新思科技 推出了业界首个完整的CXL 3.0 IP解决方案,该方案涵盖控制器、物理层(PHY)和验证IP,旨在为人工智能、机器学习和云计算应用提供安全、低延迟、高带宽的互连。该解决方案包括:
我们的CXL IP解决方案基于经硅验证的新思科技 PCIe IP构建,可降低设备和主机应用的集成风险,并帮助设计人员充分利用CXL 3.0为数据密集型应用的SoC带来的优势。作为CXL的早期贡献者,新思科技 得以率先获取最新规范,这使得我们的工程师能够提供比竞争对手产品更成熟的解决方案。
数据是驱动我们数字世界运转的动力,为那些致力于解决当今最紧迫问题的应用程序提供支持,从疾病管理到气候变暖问题皆是如此。为满足这些数据密集型应用对更高带宽和更低延迟的持续需求,新的数据中心架构正应运而生,例如解耦架构以及加速器的集成。 CXL 3.0 规范非常适合这些新方案,其速度是前代的两倍,且不会增加任何延迟。借助新思科技提供的完整 CXL 3.0 IP 和验证 IP 解决方案,设计人员可以放心,他们将体验 为下一代数据中心、AI、网络、内存扩展或加速设计实现顺畅的设计和验证流程。