“一个GPU故事，资本还没有判断标准。”

作者丨陈悦琳

编辑丨包永刚

芯片一级市场又热起来了。

上一轮国产GPU投资陆续进入兑现期后，资本开始寻找下一批可能跑出来的AI芯片公司。近存计算、存算一体、3D近存、3D TokenPU……名字各不相同，却越来越频繁地被归入同一个标签：3D堆叠。

有的3D芯片企业半年内连续完成两轮融资，累计规模接近10亿元；还有的芯片尚未量产，估值已经攀升至百亿元。但当投资人真正开始比较这些公司时，却发现相似的技术语言背后，是不同的市场、工程难题和商业验证标准。

“技术架构看起来都差不多，谁的产品最好、谁能搞定大客户，我们都不知道。”参投过某上市GPU企业的投资人老张告诉雷峰网。经历过上一轮芯片投资后，他所在的机构更倾向于等企业完成流片、拿出真实订单，再决定是否下注。

这轮热潮背后，芯片瓶颈也在变化。

Agent将一次性的模型问答拉长为持续执行的任务，存储容量、带宽和数据搬运效率的重要性随之上升。

让数据离计算更近，成为这一轮芯片创业的共同故事，而3D堆叠则成为芯粒重组、存储扩容和存算融合共同使用的技术手段。

但同样是把芯片“叠起来”，不同企业究竟在解决什么问题？在先进制程、HBM和高端封装受到约束的情况下，国内创业公司为何尤其热衷于将计算与存储垂直集成？更多技术内幕，欢迎添加作者微信Evelynn7778互通有无。

01

AI进入推理「马拉松」时代，芯片瓶颈变了

Agent正在将一次性问答式的短任务，变成持续调用模型的“马拉松”。

在这一过程中，每一步查到的资料、形成的判断和尚未解决的问题，都可能被重新组织进后续提示词。随着模型调用次数增加和上下文长度增长，芯片不仅需要完成更多计算，还要面对数据访问量的持续增长。

过去，AI芯片竞争主要围绕峰值算力展开，GPU也通过多级缓存、HBM和先进封装，让数据更快抵达计算单元。但在部分推理负载中，制约性能的因素已经不只是“算得够不够快”，数据的供给效率愈发受到重视。

尤其是在Decode阶段，计算单元往往需要频繁读取模型权重和KV Cache，算力与带宽需求并不完全匹配。继续借助通用GPU同时扩展计算和存储能力，未必始终是成本最优的方案。

设计更适配推理负载的新型芯片架构，因此开始成为资本和产业关注的方向。

近期正在追踪新芯片架构的投资人Bob判断，推理需求的爆发速度可能超过市场预期，未来三到五年内，AI算力芯片仍可能处于供不应求的状态。

在这一预期下，近存计算、存算一体等围绕数据搬运展开的新架构迅速升温。3D堆叠则成为承载这些路线的集成手段之一。

“3D堆叠本质上是一种芯片集成形式，为了节省面积、缩短传输距离，把不同芯片纵向叠在一起。其中既包括逻辑与存储，也包括逻辑与逻辑、存储与存储。”Omdia半导体分析师总监何晖告诉雷峰网。

这也意味着，同样打着“3D堆叠”标签的公司，堆叠对象、技术目标和最终产品可能完全不同。

02

没有唯一答案的3D集成：

重组芯粒、扩展存储、重构存算

当3D堆叠将芯片集成方式由平面转向垂直，企业对问题的定义，决定了堆叠结果。

梳理国内外企业的公开表述后，雷峰网发现企业们看似共享同一个“3D”标签，三类方案背后对应的产业逻辑并不相同。

台积电SoIC、英特尔Foveros和AMD MI300等方案，主要通过拆分和重新组合逻辑（包括计算、I/O等）芯粒，延续芯片性能扩展。

这类路线并不是重新定义计算方式，而是在先进制程微缩越来越昂贵的情况下，让不同功能和制程的芯粒能够继续协同扩展。

AMD Instinct MI300 系列处理器

图源AMD官方《CDNA 3 Architecture》白皮书

HBM、HBF和3D V-Cache解决的则是存储问题：在有限的封装面积内装入更多数据，并提高数据抵达计算单元的速度。

它们分别瞄准带宽、容量和缓存层级，但核心仍是强化计算芯片周围的存储供给能力。

第三类方案进一步改变计算与存储的位置关系。紫光国芯、瑞芯微，以及多家国内3D近存芯片创业公司，尝试将逻辑（计算）与DRAM等存储单元垂直集成；三星HBM-PIM、思敏威和微纳核芯等方案，则进一步把部分计算移动到存储侧。

与海外头部企业利用Chiplet、HBM和先进封装继续扩大系统规模不同，国内新项目更集中于逻辑与存储的垂直集成。

这并非偶然。

“真正能参与3D存储（竞争）的只有三星、SK海力士、美光、长鑫存储和长江存储。”在AI芯片专家秦毅看来，这类技术通常掌握在少数具备存储晶圆制造能力的企业手中。

此外，Chiplet路线也依赖成熟的Die-to-Die互连、软件和产业生态。

对多数国内创业公司而言，与其正面进入由IDM（垂直整合器件制造商）、Foundry（晶圆代工厂）主导的竞争，不如在芯片架构和封装层面，重新组织现有的计算与存储资源。

在先进制程、HBM和高端封装能力受到约束的背景下，3D堆叠因此还承载了一层特殊期待：用架构和集成创新，弥补制造工艺上的差距。

据何晖观察，受制程条件限制，相较于海外企业在3nm、2nm等先进逻辑制程上叠加先进封装，国内企业更多从7nm等相对成熟的节点实行3D堆叠。

但她同时表示，当前先进封装还没有统一的技术标准，只要有能力把存储和逻辑集成起来，至于中间采用何种互连方案都不是重点。

但3D堆叠本身不会自动带来更强的芯片。不同方案最终仍要回答同一个问题——更高的带宽和更短的数据距离，能否真正转化为性能、成本和Token吞吐优势。

03

从架构到产品，3D芯片仍需跨工程关

在不少3D芯片企业的叙事中，提高带宽是核心卖点。

据程伊观察，部分国产3D芯片受成熟制程限制，呈现出“算力相对有限、带宽较高”的特征，恰好对应了对内存带宽更加敏感的Decode阶段。

基于此，他认为企业要关注的是能否在真芯片上跑通Decode，最好还能进一步完成Decode中Attention算子的验证，最终展示足够高的TPS（Tokens Per Second，每秒Token吞吐量）。

“高带宽最终必须兑现为Token吞吐。”程伊强调。

不过，这也意味着3D芯片只是打通推理链条的其中一环。“3D芯片真正的价值在于和GPU分工协作，并且降低Decode阶段的成本。”程伊并不看好那些将单点性能指标优化包装成通用算力替代的企业。

如果说高带宽解释了为什么需要3D芯片，那么如何把内部不同单元真正堆叠在一起，则决定了这条路线能否落地。

秦毅分析，相比HBM内部各层存储Die，计算Die与存储Die的尺寸、功耗和温度分布差异较大，这意味着在热循环过程中可能产生不均匀应力、翘曲和散热问题。

程伊也注意到散热和良率的约束。他认为，目前减少堆叠层数可能是更现实的工程选择。

某家3D芯片企业的技术高管也告诉雷峰网，对于计算逻辑与存储晶圆构成的异质堆叠，4至6层是现阶段更现实的工程范围。

此外，芯片能够堆叠多少层，仍需结合整个封装系统综合判断。

秦毅以台积电CoWoS先进封装为例，指出一颗计算Die搭配多少组HBM，并不是单纯取决于希望获得多少容量，需要综合考虑Die尺寸、中介层面积、布线、供电和整体封装轮廓等因素。

然而，即便硬件完成堆叠和封装，这也并不意味着3D芯片已经具备商业价值。

3D集成改变了计算与存储之间的数据组织方式，软件栈也需要重新理解新的存储层级和数据流动方式。

程伊认为，判断一家创企的软件能力，需要考察其ISA（Instruction Set Architecture，指令集架构）、编程模型、编译器、运行时、算子库和框架适配。

即使硬件提供了更高带宽，如果软件无法有效调度新的芯片结构，理论优势仍可能停留在架构图上。

对当前仍处于探索阶段的3D芯片公司而言，从技术路线走向真正的产品，至少要跨过三道门槛：在真芯片上证明目标负载的性能和成本优势，在封装制造中解决散热、翘曲和良率问题，再通过软件适配和客户验证，实现规模交付。

这也意味着，资本不能只用“3D堆叠”这个标签判断项目。重组逻辑芯粒、扩展存储能力与重构存算关系，面对的是不同市场，也需要不同的验证标准。

但最终，所有路线仍要回答同一个问题：更高的带宽、更短的数据距离和更激进的堆叠结构，能否真正转化为Token吞吐、单位成本和客户订单？

3D芯片叠几层、怎么叠没有标准答案，但如何从架构走向产品，却有一套相同的检验标准。

投资人的追问还在继续。关于更多新架构芯片的流片进展、真实性能与客户验证，欢迎添加作者微信 Evelynn7778 交流。

* 文中老张、程伊、秦毅、Bob均为化名。