存算一体——人形机器人的理想算力形态

 随着AI大模型的兴起，尤其是近期DeepSeek驱动下AI端侧推理需求爆发，存算一体技术开始被部分产业人士和投资人关注。根据我们的调研，存算一体技术也是人形机器人产业较为看好的技术方向，如果技术成熟，未来将是人形机器人的理想算力形态。本文我们将介绍这一技术并讨论其在人形机器人领域的前景。

存算一体兴起的背景——冯诺依曼结构与瓶颈

目前，主流的CPU、GPU、DPU芯片普遍按照冯诺依曼结构设计，计算与存储分离。一个典型的冯诺依曼结构CPU设计如下图所示，CPU与存储器互相传输数据并产生输出。

计算与存储的分离会产生所谓的冯诺依曼瓶颈，指计算单元对数据的处理、计算能力受到其与存储器之间的数据传输带宽限制，芯片空有计算能力，但拿不到计算需要的数据。这一瓶颈的主要原因是存储芯片的性能发展与成本下降长期滞后于计算芯片：

随着近年来摩尔定律发展日益趋缓，计算芯片的计算能力提升速度趋缓，芯片公司普遍开始改善与计算芯片配套的存储器以提升芯片的整体性能，比如当前热门的HBM（高带宽内存），提升的就是计算芯片与存储器之间的传输带宽。然而，搭配HBM的芯片依然属于冯诺依曼架构，计算单元与存储器是分离的，未来仍有可能面临冯诺依曼瓶颈。

什么是存算一体？近存计算、存内处理与存内计算

存算一体的界定并不严格，有广义、狭义之分，其技术理念其实不算新鲜。虽然严格意义的存算一体芯片（指存内计算）尚未成熟，但广义的存算一体架构早就被纳入现代CPU、GPU芯片的设计中。比如下图是现代典型的CPU+存储器架构。存储器被分为三级，第一级是CPU的三级缓存（L1-L3 cache，一般采用SRAM，L1 cache在CPU内部），与CPU交换数据的速度较快，但容量小、成本高，缓存的加入本身就涉及存算一体的技术理念。在第一级存储之外，才是以DRAM为主的第二级存储，以及SSD、HDD为主的第三级存储。

现代GPU的架构与之类似，实际上也配有高速但小容量缓存，以英伟达A100芯片为例，其计算单元内部有192 KB L1缓存，下一层级是40 MB L2缓存，再下一级才是40 GB的DRAM（HBM2）。

这里描述的CPU和GPU的多级缓存以及HBM，实际上就是一种近存计算或存内处理。

近存计算（Processing Near Memory, PNM）：指采用先进封装等技术将计算单元和存储器尽可能地靠近，使得计算单元和存储器之间数据传输的带宽提升、环节减少。HBM就算是一种近存计算，将DRAM内存颗粒通过硅通孔（TSV）多层堆叠以实现存储容量提升，再基于硅中介板的高速接口与计算单元互联提高互联带宽。

存内处理（Processing In Memory, PIM）：指将计算单元和存储器集成在同一个晶粒（Die）中，相比近存计算存算间距更近。CPU、GPU中的L1缓存可以视为一种存内处理，只是存储器容量极小。近年来也有HBM-PIM、PIM-DIMM等存内处理方案，在DRAM Die中内置计算单元，提供大吞吐量、低延迟的片上处理能力，可用于语音识别、数据库检索等场景。比如三星提出的HBM-PIM方案，将PIM单元、DRAM集成在同一个Die中再进行3D堆叠，这样DRAM的数据可以预先通过PIM进行初步处理再传输至GPU，从而加强数据处理的效率。

存内计算（Computing In Memory，CIM）:不再区分存储单元和计算单元，而是真正融合存储单元和计算单元，这种技术路线是真正狭义上的存算一体。存内计算最典型的场景是为AI算法提供向量矩阵乘法加速，目前的AI大模型背后的运算基本都是向量矩阵乘法，存内计算有望加速AI模型的运算速度。

存算一体芯片的可能形态

目前最为知名的以存算一体为特色的芯片可能是Groq开发的LPU，LPU是一款针对AI模型推理能力定制的ASIC芯片。其在设计上最主要的特色是并没有采取英伟达等公司采用的HBM存储器，而是选择了SRAM，即上文中一般用作小容量缓存的SRAM（静态随机存取存储）。SRAM历史悠久，早在上世纪便被开发出来，后来一般继承于SoC芯片中作为缓存使用。其具有高带宽、读写速度快、耐久度高的特征，但成本较高且受到芯片内部空间限制（SRAM单位面积大、功耗高），一般容量较小。而LPU通过搭载大容量的SRAM（是普通缓存用SRAM容量的千倍以上），使得其AI推理运算速度大幅提升。

除SRAM之外，其他可能用于存算一体芯片的存储器还包括NOR Flash、RRAM（阻变随机存储、忆阻器）、MRAM（磁性随机存储）、PCM（相变存储）等。

为什么端侧AI推理芯片需要存算一体？

AI推理任务可以简单理解为数据输入——带入模型运算（矩阵乘法）——产生输出。所谓大模型，指的就是模型庞大、参数多、矩阵运算规模大。随着AI大模型的不断迭代，人们逐渐发现了“内存墙”的问题，主要指AI芯片存储容量的提升滞后于AI模型规模的提高，比如英伟达从Pascal架构到Hopper架构的显存容量只有4倍，但大模型规模的提升却有十万倍以上。

事实上，当前不管是训练还是推理，主要的瓶颈都是在存储而不是芯片计算能力。尽管DeepSeek V3/R1模型能够大幅提升硬件调用和计算效率，但想要在端侧部署仍然需要相当大的内存容量，否则就只能牺牲模型效果去选择参数小、蒸馏过的模型。存内计算可能是未来这一限制、使得端侧能够本地运行高性能模型的关键。

存算一体在人型机器人领域的展望

不同于一般的AI应用，人形机器人的大脑芯片对推理的延迟性、稳定性、端侧计算能力要求极高，需要能够在不联网状态下进行低延迟且稳定的推理。自动驾驶也是同理，但自动驾驶芯片搭载在车上不太受体积、散热制约，而人形机器人芯片需要考虑体积、散热的性质。因此，为了提高端侧推理的能力和效率，存算一体可能是未来人形机器人端侧算力的理想形态。

目前已经有不少人形机器人产业的开发者开始关注存算一体技术或开发相关芯片。例如英国一家AI芯片公司Fractile正在利用存算一体技术开发高效率的AI推理芯片，宣称能够以100倍的速度、十分之一级别的成本（与H100对比）进行大模型推理，并且认为这款芯片将成为人形机器人大脑的关键。

此前我们的文章已经介绍过人形机器人AI模型的复杂程度。人形机器人需要通过机体内部和外部的多种传感器接收各种复杂信息，再带入到比自动驾驶模型复杂得多的AI模型内进行运算，且需要及时、稳定地输出结果，以保证人形机器人能够动态地与环境交互并完成任务。

目前，除特斯拉自行开发推理芯片（FSD芯片）外，人形机器人最为强大的端侧推理芯片应该是英伟达的Jetson系列，当前的旗舰版本搭载64GB DDR5显存、能够提供275TOPS算力。根据我们的分析，未来的人形机器人要具备完成多种任务的能力，可能需要1000TOPS以上的计算能力。在GPU摩尔定律趋缓的当下，存算一体可能是值得关注的未来趋势。

View Jetson Orin Technical Specifications