AI 纪元 追踪人工智能最新进展,深度解读前沿技术

Baseten调价后,昇腾910D和B200的账怎么比

Baseten披露,B200租赁单价将从2.63美元/卡/小时调至5.10美元,批量交付周期也被拉长。公开材料却没有给出昇腾910D的同口径报价、带宽和功耗,这笔TCO要先分清已知项、迁移费和待核数据。

0 次阅读 约 2380 字 5 分钟 AI 生成

6月17日,AI推理基础设施服务商Baseten CEO披露,英伟达B200租赁单价将从2.63美元/卡/小时上调至5.10美元,现有合同10月到期后执行新价格。

据英辰朗迪6月22日简报转述,B200全球批量采购的交付周期已经拉长至12—15个月,千片级新订单顺延至2027年第二季度。

这是一家服务商的调价,不能直接代表整个B200租赁市场。但对准备下半年预算的团队来说,两个问题已经绕不开:卡什么时候能到,以及换平台要花多少时间。

先把不能算的地方标出来

严格说,现有公开资料不足以完成昇腾910D与B200的精确TCO对比。B200一侧有租赁价、交付周期和带宽数据;910D一侧缺少同口径的采购价、内存带宽、功耗和集群配置。

账目 B200一侧 昇腾910D一侧
租赁或采购 Baseten报价将从2.63美元调至5.10美元/卡/小时 素材没有同口径报价
交付 批量采购周期为12—15个月,千片级新订单顺延至2027年第二季度 素材没有可直接对照的交付数据
内存带宽 8TB/s,约为昇腾910B的20倍 没有910D带宽数据,不能直接拿910B代替
硬件成本参考 缺少B200采购价 EET-China半导体周要闻仅转述估算:910D芯片组成本低于H200,对比对象不是B200
功耗 可引用材料把H100、B200等高端AI卡概括为700W甚至1200W级别 没有与B200一一对应的910D数据
软件工具链 CUDA CANN、MindSpore,迁移工作量取决于现有代码

这张表提醒了一件事:拿910B的带宽代替910D,再拿H200的成本代替B200,会把两组不同口径的数据拼成一个看似精确、实际并不可靠的答案。

8TB/s很亮眼,但不是20倍整机性能

53AI的对比材料给出的B200内存带宽为8TB/s,约为昇腾910B的20倍。B200还可以与Grace CPU组成GB200,节点间可使用NVIDIA Quantum-X 800 InfiniBand或Spectrum-X 800以太网平台,网络速率最高达到800Gb/s。

这说明B200卖的不只是一张卡,而是计算、内存和网络组成的整套系统能力。长上下文、高并发推理更容易碰到内存带宽瓶颈,B200在这类负载上有明确吸引力。

但带宽相差20倍,不代表模型吞吐也会相差20倍。模型结构、精度、上下文长度、批处理方式和推理框架都会影响结果。采购前应使用同一模型、同一精度和同一批处理设置,实测吞吐与延迟,而不是把规格表直接当成业务账单。

910D便宜多少,现在还不能下结论

目前能找到的成本线索,是EET-China摘要中“单颗昇腾910D芯片组成本较NVIDIA H200低”的估算。这里有两个限制:一是估算没有给出具体金额,二是参照物是H200,并非B200。

因此,这条信息只能说明910D可能存在硬件成本空间,不能直接推出它的整机TCO更低。服务器配置、机柜配电、制冷、集群网络、交付时间、保修支持和实际利用率,都可能改变最后的账面结果。

功耗也不能只看芯片标称值。可引用材料提到,高端AI卡已经进入700W乃至1200W级别,但没有给出910D和B200在同一测试条件下的精确对照。在缺少机房电价、制冷条件和利用率数据时,直接写出年度节省金额,只会制造一种并不存在的精确感。

迁移费不该凭感觉填

已有CUDA代码迁往昇腾平台,并不是把模型文件换个目录。团队需要检查自定义算子、推理框架、量化方案、分布式通信、驱动和编译器版本,还要重新跑性能测试与回归验证。

这笔费用取决于代码库,而不是卡的数量。一个主要使用标准算子的项目,与一个包含大量自定义层和底层优化的项目,迁移工作量不会相同。在没有工程师工时和人力单价时,迁移费不该先写成一个漂亮的整数。

已经运营大规模NVIDIA集群的企业,还要把现有部署脚本、监控系统和运维经验算进去。对新项目来说,小规模验证昇腾910D的门槛可能更低;对成熟业务来说,贸然切换平台造成的测试和上线风险,未必能被硬件差价覆盖。

不同团队,先算的不是同一项

已有CUDA代码、上线时间又紧的团队,应先比较B200调价后的租赁成本与迁移周期。即使租金上涨,继续使用原有工具链仍可能是更快的路径,但合同中的价格、生效时间和资源可用性需要逐项确认。

准备新建集群的团队,可以拿真实模型在昇腾910D上做小规模验证。重点记录吞吐、延迟、整机功耗、算子适配情况和工程师投入,不要只比较芯片宣传参数。

已经拥有大规模NVIDIA资源池的企业,更适合先把新任务或相对独立的服务放到候选平台测试,而不是因为一次租赁调价就全面迁移。只有调度、监控和模型发布流程都能同时覆盖两套平台,混合部署才不会变成新的运维负担。

把账落到一张可执行的表上

一份可用的TCO账单,至少要覆盖下面这些项目:

TCO = 采购或租赁 + 电力与制冷 + 网络与机柜 + 迁移人力 + 运维支持 + 等待交付造成的业务成本

目前可以确认的是,Baseten的B200租赁报价将在10月从2.63美元升至5.10美元,批量采购周期达到12—15个月;B200内存带宽为8TB/s。尚不能确认的,是昇腾910D的同口径报价、带宽、功耗、整机吞吐和迁移工时。

如果这些字段还是空的,“910D更省”或“B200更值”都只是口号。先用真实负载跑出数据,再谈采购数量和平台切换,才是一张能拿去做预算的算力账单。

资料口径:B200价格与交付信息来自英辰朗迪对Baseten CEO披露的转述;带宽与网络信息来自53AI;910D成本线索来自EET-China摘要;功耗仅采用可引用材料中的宽泛表述。由于缺少910D同口径关键数据,文中未做年化金额推演。

相关阅读