新智元报道
一颗权重，只有 4 bit。
搬十亿次，让你和 AI 有了距离。
寒序科技决定，不搬了！
今天，寒序科技正式公布 uHBM®与 uLPU™推理计算架构。
寒序 uHBM®与 uLPU™产品路线图
如果最重要的数据，根本不用搬呢？
这件事在大模型 Decode 阶段尤其突出。
一次 Token 的生成，需要反复读取巨量模型权重；对于 FFN/GEMV 这类典型 memory-bound workload，很多时候真正限制推理速度的，并不是乘法器不够多，而是权重必须一次又一次穿过存储接口，抵达计算单元。
一颗 FP4 权重只有 4 bit。
一次搬运，几乎微不足道。
但是当几十亿颗权重，为每一个 Token，一遍又一遍地移动时，它最终变成带宽、功耗、延迟和散热，最后变成一整排服务器、一整座机房，以及一张越来越大的电费账单。
这就是寒序做 uHBM®的起点。
uHBM®未封装裸晶片颗粒
他们不想继续搬得更快。他们想让权重住在计算发生的地方。
uHBM®将 Persistent MRAM 与矩阵向量计算集成在同一颗 Compute-Memory Die 内。
权重长期驻留，矩阵向量计算在 Die 内完成，大规模权重不再为了每个 Token 反复跨越传统存储接口。
作为国内首家 MRAM 计算公司，寒序三年来持续推进超大带宽、Persistent MRAM、权重驻留和片内矩阵向量计算。
三年磨一剑。uHBM®与 uLPU™今天首次完整亮相。
uLPU™-Chip 爆炸结构图
Decode 的代价，藏在权重搬运里
Prefill 更像一次集中计算。Decode 则不同：模型每生成一个 Token，都要重新读取大批权重。
对于 FFN/GEMV，一轮计算只输入一个激活向量，却要让整层权重再次上路。模型越大，搬运越接近推理成本的中心。
Hot Chips 2026 上，三星公布 LPDDR5X-PIM，把计算进一步推入 DRAM。
三星 PIM 技术演进路线：从 2021 年 HBM-PIM 验证，到 2026 年 LPDDR5X-PIM 量产
NVIDIA 则展示 Groq 3 LPX 与 Vera Rubin 的异构推理路径：GPU 处理 Attention、承载 KV Cache，LPX 将权重保留在片上 SRAM 中并执行 FFN。
三星走 DRAM-PIM，Groq 走 SRAM LPU，寒序选择 Persistent MRAM。器件、工艺和系统形态完全不同，但三条路线都在追问同一件事：为什么每生成一个 Token，权重都要重新搬一次？
过去十年，行业从 DDR 走到 HBM3E，从 PCIe 走到 NVLink，答案一直是把存储与计算之间的路修得更宽。寒序换了一个问法：如果权重根本不用反复上路呢？
问题最终可以压缩成一张图：传统 GPU+HBM3E 在每个 Token 的生成过程中，需要逐层经片外接口读取权重矩阵；uHBM®将权重留在片内，系统主要交换激活向量。
典型 Decode 数据路径
u，是 Ultra 的意思
uHBM®给出的答案，不是再造一条更宽的外部接口。
它在同一颗 Compute-Memory Die 内集成 Persistent MRAM 与矩阵向量计算：模型权重完成加载后长期驻留；每轮 Decode 只让激活向量流入，在 Die 内完成权重读取、矩阵向量乘和局部归约，再将结果输出。
权重留下，计算在旁边完成。这就是 Weight-Resident Compute。
uHBM®名字里的u，取自 Ultra。它不只意味着 Ultra-High Bandwidth，更意味着高带宽发生位置的变化：从存储器与计算芯片之间，进一步进入权重所在的 Die 内。
uHBM®是寒序对 Compute-Memory 产品架构的命名，不对应 JEDEC HBM 的新一代 DRAM 标准。
它延续 HBM 以高带宽服务计算的产品逻辑，底层技术路径则转向 MRAM 计算存储。寒序把这项产品主张概括为一句话：
重新发明 HBM。
24 TB/s，比数字更重要的是它发生在哪里
首代 uHBM®架构给出的 In-Die Read Bandwidth 设计值是 24 TB/s。
它描述的是 Compute-Memory Die 内部的权重读取能力；行业常见 HBM 指标描述的，则是存储 Stack 与 GPU 之间的外部接口带宽。
一个数字发生在路上，一个数字发生在权重所在的地方。
两者不是同一测试口径，不能直接写成性能倍数；24 TB/s真正重要的，是高带宽读取紧邻驻留权重，并可直接送入片内 GEMV。这是架构设计值，仍待后续硅片实测。
HBM 把路修宽，uHBM®让权重不上路。
uLPU™架构核心指标
当权重驻留与片内计算合为一体，uHBM®不再只是一颗「存储芯片」。再向前一步，它成为 uLPU™。
从一颗 Die，走向一座 Rack
如果说 uHBM®回答了权重应该住在哪里，uLPU™回答的，就是它如何成为一台完整的推理计算机。
一颗 Die 只是起点，寒序的产品路线由此展开：
uHBM® → uLPU™ → uLPU™-Tray → uLPU™-Rack
按当前规划，端侧形态 uLPU™ Edge 将四颗 uHBM®与 NPU 集成。NPU 负责 Prefill、Attention、KV Cache、动态算子和系统控制；高带宽敏感的 FFN/GEMV 留在 uHBM®内执行。
它不是用存内计算替代一切，而是把最需要带宽的部分放回权重身边。
云端形态 uLPU™ Cloud 将四颗 uHBM®与 uIO Die 组合，通过 UCIe 完成 Scale-Up，并面向 112G / 224G SerDes 构建 Scale-Out 互联。
按照当前规划，16 个 uLPU™进入一个 2U Tray，多个 Tray 继续组成 Rack-Scale Inference System。
同一条 Weight-Resident Compute 路线，由此从机器人端侧一路延伸到云端整座机柜。
从 uHBM®、uLPU™到 2U Tray 与 Rack 的产品路线
机器人不会等下一个 Token
对于 Qwen-VLA 这一类具身模型，寒序正在瞄准另一个方向的数字：
>2,000 Tokens/s。
Qwen-VLA 建立在 Qwen3.5-4B 多模态骨干之上，并增加约 1.15B 参数的 DiT 动作解码器。
作为量级参照，NVIDIA 公布的 Jetson AGX Thor 单并发测试中，Qwen2.5-VL 3B 为 71.7 Tokens/s。
两者并非同模型、同精度测试；>2,000 Tokens/s是寒序面向 4B 多模态主干 Decode 提出的工程目标，不等同于完整 Qwen-VLA 动作解码或机器人控制频率。
寒序的目标，是把「机器人能够实时思考」从几十 Tokens/s，推到一个新的数量级。
对于聊天机器人，100 Tokens/s和1,000 Tokens/s可能只是「快一点」和「再快一点」。但对于一个正在伸手抓杯子、避开障碍物、观察人类动作并实时调整轨迹的机器人，延迟不是体验问题。
延迟就是动作本身。当推理进入 Physical AI，AI 不再拥有无限的时间等待下一个 Token。世界不会暂停，机械臂不会暂停，人也不会暂停。
寒序端侧机器人、云端数据中心两类 uLPU 产品，以及 3D 堆叠 uHBM 产品
三年磨一剑
寒序成立于 2023 年 8 月。2024 年初，北京市科委项目立项。
团队最初全面对标 Groq LPU 的超大带宽路线，却没有选择用更大面积的 SRAM 堆出带宽，而是押注 Persistent MRAM、权重驻留和片内矩阵向量计算。
高带宽推理验证芯片 SpinPU-ED01 此后完成流片、回片和第三方检测。
样片集成 120 个 MRAM Bank，实测片上访存带宽密度达到 0.105 TB/(mm²·s)；公司同时完成端到端模型推理与连续 24 小时稳定运行。
2026 年 3 月，寒序提交两项高带宽推理发明专利申请，并于 6 月陆续公开。相关方案从 MRAM 权重静态驻留、多 Bank 并行计算，延伸到 Transformer Decode 的系统分工和多芯片扩展。
先发优势不是一句标签，而是一条连续路径：从 MRAM Bank 到验证芯片，从已经公开的专利申请到 uHBM®与 uLPU™，再从端侧产品走向 Tray 和 Rack。
作为国内首家 MRAM 计算公司，寒序已经率先把磁计算从器件推到了完整产品路线。
未来两年，走向工程实现与量产
首代完整工程产品目前处于流片前收敛阶段。架构已经亮相；工艺、容量、功耗、完整带宽和模型性能，最终要由硅片回答。
未来两年，寒序将把重心放在工程实现与量产：流片、回片、软件栈、系统研发、客户验证和量产准备。
验证芯片已经回答「这条路能不能走」；下一阶段要回答的，是它能不能成为真正的产品。具体节奏仍以硅片进展和客户验证为准。
从架构到产品，中间隔着最难的工程实现：先进封装、计算模块、供电、散热、系统集成、软件栈，以及真实客户负载。
完整参数，等硅片。
从 uLPU™-Module 到 uLPU™-Tray
uLPU™-Rack
寒序启动全球核心研发人才招募
围绕 uHBM®与 uLPU™，寒序同步启动新一轮全球核心研发人才招募。
重点方向包括：
-
SoC 架构、数字设计、PPA 优化与物理实现
-
AI 编译器、Runtime、算子优化与多芯片任务调度
-
UCIe、SerDes、Scale-Up 与 Scale-Out 互联
-
先进封装、芯片供电、信号完整性与热设计
-
服务器、2U Tray 与 Rack 级系统研发
寒序也欢迎来自 GPU、NPU、交换芯片、高性能计算、通信、航空航天和复杂电子系统领域的工程人员加入。
团队支持北京、上海、深圳、横琴多地协同。
Hot Chips 2026 已经把权重搬运推到产业前台。
三星和 NVIDIA，已经完成了第一轮市场教育。
寒序接下来把时间留给流片、回片、编译器和系统。
让权重留下。
让计算来到它身边。
重新发明 HBM，从一颗 4 bit 权重开始。
三年前，寒序问：一颗只有 4 bit 的权重，为什么要反复搬？
一颗权重，只有 4 bit。
它不应该重到，需要一座数据中心来搬。
编辑：摩西
