在这个高度互联的时代,数据已成为全球最具价值的商品之一,这并不令人意外。各行各业的各类企业都依赖大量数据来提取宝贵见解,进而推动业务增长。从特斯拉自动驾驶系统做出的明智决策、解决制造设施中的运营缺陷,到利用人工智能(AI)设计互联的游戏世界,大数据、物联网(IoT)与人工智能的结合带来了巨大的增长。随着到 2025 年全球生成的数据总量预计将达到 175 泽字节 (ZB),这种趋势丝毫没有放缓的迹象。
然而,随着产生、收集和存储的数据源源不断地涌入,IT 团队要想对每一个传入的字节进行分类、处理和分析,几乎成为一项不可能完成的任务。这种持续不断、永无止境的新信息流正在重塑我们所熟悉的传统计算格局。企业不能再仅仅依靠大型集中式数据中心来及时、成本效益高地处理数据,带宽、网络和延迟中断正对业务关键型运营构成风险。
这正是边缘计算发挥作用的地方。边缘计算绝非新概念,它已经历了显著的演进,在降低信息存储和通信成本的同时,以更低的延迟促进了新的应用。但究竟什么是边缘计算?人工智能又如何影响其实效?
请继续阅读,了解边缘计算的基础模块、其不同的架构、推动其增长的诸多应用、芯片设计人员需要克服的一些障碍,以及人工智能未来将如何发挥 impactful(具有重大影响的)作用。
顾名思义,边缘计算是指在数据源附近对数据进行处理和分析。这一概念也被称为“边缘云计算”和“雾计算”,它将数据处理所需的许多计算和存储资源转移到数据生成的地方——即终端或边缘设备。
在传统的企业计算中,网络功能占据中心地位,端点设备从其所在位置收集数据并将其发送到数据中心或云端,在云端进行存储和分析,然后再将响应发送回源头。这是一个耗时的过程,加上每日呈指数级增长的数据量,从而产生了延迟和带宽问题。随着 5G 电信提供商寻求分布式计算环境来提供新的实时服务和更多样化的连接功能,移动边缘计算(MEC)是另一个备受关注的术语。
边缘计算专注于重新部署计算资源以在本地收集和处理数据。无论是通过本地服务器、小型聚合器还是微型数据中心,企业都可以通过将工作负载移近其目标位置而获益匪浅。这不仅能增加容量和可靠性,还能降低传输成本和能耗。
尽管位置对边缘计算至关重要,但如何确定接近度?这究竟意味着 500 英里、5 英里还是 500 英尺?理论上,云计算资源距离端点设备或应用程序越近,处理数据所需的存储、内存和计算资源就越少。
边缘计算有三种基本的片上系统 (SoC) 架构:
这三种边缘计算系统都支持类似的 SoC 架构,由网络 SoC、服务器 SoC、存储和一个共享共同目标的 AI 加速器组成:实现更低的延迟以支持新的和现有的消费服务。
为了客观认识边缘计算的兴起及其重要意义,我们不妨来看看它如何影响我们的日常生活。像 Netflix 和 YouTube 这样的公司利用边缘计算来提供按需视频点播服务,方便观众随时随地观看。为了提供快速、触手可及的视频,流媒体公司会将视频托管在特定区域的目标用户附近,从而避免从数千英里外的数据中心进行流式传输。通过在最受欢迎的特定区域预先上传或“缓存”访问量最大的视频或电影,它们能够缩短两端的内容上传和下载时间。
当今推动边缘计算发展的应用场景远不止于此。市场的主要驱动力之一是 5G 的诞生及其与 AI 功能的融合,电信运营商正日益寻求在其基础设施上提供除数据和语音连接之外的附加服务。为了实现这一点,5G 电信运营商正在构建先进的生态系统,以托管具有集成 AI 功能的独特本地应用程序。新增的服务器为第三方应用程序开放了其网络,从而创造了新的商业机会,将高流量内容更靠近用户交付。
网络规模、游戏、混合现实、工业和企业综合体(如谷歌和微软)也在向 AI 驱动的边缘计算硬件、软件和服务转型,从而推动了市场的增长。通过在整个通信渠道中采用更多自动化,企业可以提高运营效率并确保客户体验符合预期。
为了支持这些市场进展,芯片设计团队在整个设计过程中需要考虑几个关键方面,其中首要任务之一就是在提高效率的同时降低能耗。大多数公司希望从数据中心转向边缘计算的主要原因之一是降低功耗,从而降低相关成本。为了解决这个问题,芯片设计团队需要生产出比传统数据中心 SoC 功耗更低且不折损效能的 SoC。
随着 AI 在新市场应用中的普及度不断提高,芯片设计人员和工程师还需要理解并找到放置 AI 算法的最有效位置,以适应其特定的功能和任务。对低能耗的需求也影响了 AI 功能在边缘计算中的采用,因为这涉及到降低整个应用设计所需的 AI 算法计算能力和内存资源。
尽管存在诸多挑战,但在所有这些边缘计算段和应用中通过服务器芯片添加 AI 加速功能的趋势,随着带宽需求的发展,预计只会不断增长。
AI 驱动的边缘计算已经在当今市场上证明了其价值。随着我们的生活互联程度日益加深,对快速可靠服务的需求也将呈指数级增长。无论是移动端还是 AI,应用程序都在向先进工艺节点迈进。
为了满足需求,各团队需要继续将强大的AI能力集成到其基础设施中,以确保高效处理、提升内存性能并提供无缝连接。在新思科技 ,我们经过硅片验证的DesignWare IP®产品组合通过一系列专门设计的解决方案来满足这些需求,这些解决方案旨在支持专用处理、功耗管理、内存性能以及实时数据连接。
新思科技 ARC® EV 处理器 支持通过标量 和向量功能实现完整的AI处理,为嵌入式应用提供高性能、灵活的处理能力。
我们的IP解决方案还能帮助构建适用于各种内存约束的高效架构,其中包括DesignWare多端口内存以及我们的嵌入式MRAM Compiler IP。例如,新思科技的HBM3和LPDDR5 IP解决方案能够直接解决带宽瓶颈问题,使设计人员能够以低延迟和最低功耗满足其内存需求。
在为系统级芯片(SoC)构建高性能、高能效的基础时,功耗同样起着重要作用。新思科技 提供了广泛的新思科技 DesignWare基础 IP产品组合,其中包括存储器编译器和非易失性存储器 (NVM)、逻辑库以及通用 I/O (通用输入/输出(GPIO)),使 SoC 设计人员能够降低集成风险,在尽可能低的功耗下实现最高性能,并提高速度上市时间 。
随着 AI 继续拓展边缘计算的边界并更紧密地嵌入各个应用中,我们非常高兴能继续构建创新的深度学习解决方案,并培育能够满足新兴 功耗、性能和面积 (PPA) 以及上市时间要求的 AI SoC。
数据爆发之势已然到来。边缘计算与 AI 的融合具有将云服务更靠近边缘设备同时降低延迟的独特能力,势必重塑传统的计算流程,并为未来几年的新应用和服务铺平道路。