AI 纪元 追踪人工智能最新进展,深度解读前沿技术

B300先到,MI400押注432GB显存:采购先算迁移账

B300已经可用,288GB HBM3e和CUDA路径适合近期部署;MI400计划2026年下半年出货,以432GB HBM4、19.6 TB/s带宽争取大模型推理。采购时还要算上交期、ROCm迁移和整机成本。

0 次阅读 约 2007 字 4 分钟 AI 生成

把数据中心扩容节点放在2026年下半年,采购团队先碰到的不是峰值算力,而是两款产品并不处于同一个交付阶段。

Spheron的规格整理称,英伟达B300已经可用,AMD MI400计划在2026年下半年出货。前者可以开始确认整机配置、交期并安排部署验证;后者还要等正式报价、供货节奏和第三方实测。

所以现在还不适合摆一张参数表,直接圈出赢家。B300是可以往采购流程里推的产品,MI400则需要提前留出预算和测试档期。

B300先拿到的是部署时间

B300配备288GB HBM3e,FP4算力为14 petaFLOPS。14 petaFLOPS很醒目,但它指向低精度计算,不能直接替代训练速度、推理吞吐或服务延迟的实测结果。

对已经使用CUDA的团队来说,少改东西比纸面峰值更直接。现有框架、算子、部署脚本、监控和故障处理流程可以继续沿用,项目需要重新验证的范围相对清楚。它未必在每种任务上都最省钱,但近期上线所需的工作量更容易估算。

显存账仍要单独算。

模型权重、KV缓存和批量设置一旦碰到288GB的容量上限,系统仍要增加跨卡切分与通信。14 petaFLOPS解决不了这类约束,采购前必须用目标模型跑完从加载、推理到监控的完整链路。

MI400的卖点集中在432GB HBM4

Tech Insider称,MI400系列采用CDNA 5架构和台积电2nm工艺,集成3200亿个晶体管,搭载432GB HBM4。BuildMVPFast与Spheron给出的内存带宽为19.6 TB/s,出货时间指向2026年下半年。

对大模型推理来说,这组数字值得专门安排测试。更大的显存可能让更多模型权重和KV缓存留在卡内,减少部分任务的跨卡切分。不过,能不能因此降低延迟和每 Token 成本,还要看模型精度、批量、互联、软件成熟度与实际利用率。

Tech Insider还给出了72亿美元的预期数字,但现有摘要没有交代完整统计口径。这个数字不能直接写成已确认收入、订单或首发销售额。

训练和推理,要拆成两张测试表

现有素材没有提供B300与MI400同口径的训练基准,无法据此判断哪一款训练更快。

已有CUDA分布式训练栈的团队,使用B300通常可以少做一轮跨平台迁移。测试MI400时,则要逐项检查ROCm下的算子覆盖、框架与库版本、通信效率以及长时间运行稳定性。

推理侧要看的项目不同。同一模型、同一精度和同一批量下,至少需要记录吞吐、延迟、显存占用、卡数与跨卡通信。MI400的432GB HBM4和19.6 TB/s带宽,只有放进这套测试里,才能换算成实际成本;B300的FP4能力也一样,不能只看峰值参数。

规格表不会列出迁移工时

BuildMVPFast的分析把重点放在每 Token 成本,以及ROCm与CUDA之间的取舍。

对存量英伟达用户,迁移到AMD通常要重新检查算子兼容、框架和库版本、分布式脚本、监控、故障恢复与性能调优。这些工作不写在GPU规格表里,却会直接占用项目排期。

Silicon Analysts把定价和TCO视为AMD较明确的切入口,但现有材料没有可以直接比较的报价,因此还不能断言MI400一定更便宜。

完整成本应覆盖GPU与整机、互联、电力、软件迁移、维护和停机风险。如果432GB显存确实减少了目标任务所需的卡数或跨卡通信,AMD可能省下一部分成本;如果迁移和调优耗时过长,硬件价差也可能被吃掉。

供货问题,别拿传闻填空

目前能够确认的是,B300已经可用,MI400计划于2026年下半年出货。至于台积电2nm良率、HBM3e供应和先进封装产能,现有素材没有可核验数据,不宜直接写成确定的交付瓶颈。

采购时更该向供应商追问具体事项:交期、可供配置、整机规格、故障替换流程和软件支持范围。

国内客户也可以把华为昇腾910C、寒武纪思元590放进候选清单。但当前素材没有它们与B300、MI400之间同口径的性能、出货或市场份额数据。测试时应使用同一模型、同一精度和同一服务目标,不用模糊份额代替结果。

采购表可以直接写成四种情形

  • 项目近期上线,现有应用高度依赖CUDA:优先评估B300,重点确认真实吞吐、整机功耗与交付条件。
  • 2026年下半年有测试窗口,推理任务长期受显存限制:把MI400纳入概念验证,观察432GB HBM4和19.6 TB/s带宽能否减少跨卡通信,并降低每 Token 成本。
  • 希望减少对单一供应商的依赖:让昇腾910C、思元590按同一套测试口径参与,不预设结果。
  • 无论选择哪款芯片,都要把软件改造、人力、维护和故障恢复写进TCO,而不是只比较单卡价格。

现阶段,B300手里是已经可用和CUDA现有路径;MI400拿出的则是432GB HBM4与19.6 TB/s带宽。在报价、供货和同口径实测补齐之前,讨论谁“全面超越”没有多少采购价值。

相关阅读