超微计划为推理机架配置 1 万颗 SambaNova SN50 RDU,GPU 预填充、RDU 解码

编辑部 · 发布 2026/11/05 · 更新 2026/11/05

超微计划为推理机架配置 1 万颗 SambaNova SN50 RDU,GPU 预填充、RDU 解码

SambaNova 与超微计划构建结合 NVIDIA GPU 和 SN50 RDU 的分离式推理系统;超微最初规划配置 1 万颗 SN50 芯片。

SambaNova 与超微将构建并销售分离式推理系统,把 NVIDIA GPU 与 SambaNova 的 SN50 可重构数据流单元(RDU)结合起来。超微最初规划配置 1 万颗 SN50 芯片。这些机架将加入超微数据中心构建模块解决方案(DCBBS)目录,由超微负责集成、测试、交付和支持。双方均表示,这 1 万颗芯片是分阶段部署的规划数字;双方尚未披露购买承诺、定价或交付日期。

SambaNova 和超微的标志位于点状地球图案上,来自双方关于 SN50 推理机架合作的公告

NVIDIA GPU 运行预填充,SN50 RDU 运行解码

这种分工对应大语言模型推理的两个阶段。预填充处理提示词,主要受计算能力限制,SambaNova 将这一任务分配给 NVIDIA GPU;解码逐个词元生成回答,主要受内存限制,由 SN50 负责。SambaNova 认为,智能体工作负载的大部分时间都花在解码上,因为智能体会进行数千次模型调用,每次响应又决定其下一步操作,因此更快的解码阶段可以缩短整个循环。

SN50 是 SambaNova 第五代 RDU。该公司表示,它可以在不需要极高机架功率密度的情况下,以高吞吐量运行最大的模型,使运营商能够在现有设施中增加推理能力,同时继续让已有 GPU 负责预填充。SambaNova 称,与上一代产品相比,SambaRack SN50 每个加速器的计算能力达到 5 倍,网络带宽达到 4 倍;该系统采用风冷,可扩展至 256 个加速器。

SambaRack SN50 每个机架搭载 16 个 RDU,因此如果超微维持这一密度,最初规划的 1 万颗芯片相当于约 625 个机架。SambaNova 尚未公布 GPU 与 RDU 组合系统的吞吐量、延迟或功耗数据;超微也尚未说明服务器配置、GPU 型号、互连方式,以及每个系统包含多少 GPU 和 RDU。超微的 DCBBS 目录已经包括 NVIDIA Vera Rubin NVL72 机架,以及面向智能体沙箱的 Vera CPU 机架。

超微负责集成和现场支持

超微负责系统集成、测试、交付和客户支持,包括现场服务;SambaNova 工程师则负责将模型迁移到 SN50、针对硬件进行调优,并协助超微部署。对购买者而言,变化在于采购渠道:SN50 RDU 可以像机架其他部件一样,与 GPU 一同向超微订购,由一家供应商负责整个系统。

SambaNova 联合创始人兼首席执行官 Rodrigo Liang 表示:“智能体 AI 是推理的下一波浪潮,它必须能够在各处运行。超微为全球数据中心建设 AI 基础设施。现在,客户可以从他们信任的世界领先合作伙伴那里,把 SN50 RDU 和 GPU 一起订购。这就是快速、高效的推理实现规模化的方式。”

超微总裁兼首席执行官 Charles Liang 表示:“我们与 SambaNova 的合作扩大了广泛的 DCBBS 产品组合,支持将 GPU 计算与专用推理加速相结合的异构架构,帮助客户部署高效、可扩展的 AI 解决方案。”

初期目标是 NeoClouds 和主权云

双方将首先面向 NeoClouds 和主权云,然后扩展到在本地运行 AI 的企业。SambaNova 预计,这项合作将在 2027 年投入使用远多于其单独所能提供的高性能推理算力;该公司尚未公布客户名称,也未给出这 1 万颗芯片的时间表。此前,SambaNova 于 7 月以 110 亿美元估值完成 10 亿美元融资的首轮交割;与此同时,摩根大通部署了 SN40 和 SN50 系统用于本地推理,SambaNova 还与英特尔开展了异构推理合作。

SambaNova SambaRack SN50

超微数据中心构建模块解决方案

来源:Storagereview

Related Articles

继续阅读相关文章

Topics & FAQ

相关专题与 FAQ

暂无内容