AI 纪元 追踪人工智能最新进展,深度解读前沿技术

WAIC 2026先查账:通专融合的推理成本怎么比

WAIC 2026会前发布会披露57个核心场景和162亿元意向合作,但公开材料还不足以给Qwen3-Max、书生·万象3.0和MiCo排出成本座次。真正要比的是硬件、量化、上下文、并发和服务边界。

0 次阅读 约 2074 字 4 分钟 AI 生成
A conceptual editorial shot of server hardware components representing computational cost and efficiency
A conceptual editorial shot of server hardware components representing computational cost and efficiency

WAIC 2026会期为7月17日至20日,场地分布在上海浦东世博、张江、徐汇西岸三地四馆。据《每日经济新闻》7月7日报道,1100余家企业将带来3000余项展品,超过300款产品计划全球首发。发布会还披露,57个核心场景已经落地,累计达成162亿元意向合作。

这些数字能说明大会有多大,却说明不了一个模型跑起来有多贵。

虎嗅的会前文章把问题落在一句话上:烧掉的每一分算力,到底换回了什么?通专融合到了采购环节,能力表旁边必须放一张成本表。

问题在于,截至上述报道发布,公开信息没有给出Qwen3-Max、书生·万象3.0和MiCo在同一任务、同一硬件、同一延迟目标下的横向测试。没有原始测试页的精确单价和节省比例,不适合拿来排座次。

Qwen3-Max:显存、吞吐和成本别连成一条等号

围绕Qwen3-Max,最容易被混在一起的是显存占用、峰值吞吐和总拥有成本。显存更省,可能提高部署密度;但量化方式、上下文长度、batch、KV Cache和GPU利用率一变,最终账单也会跟着变。

单张4090跑Demo,与多卡A100承载生产服务,原本就是两套成本口径。前者关注能否启动,后者还要计算持续并发、排队、故障切换和空闲时段。若要拿Qwen2-72B做基线,也得保证任务、精度和服务参数一致。

一份可核验的Qwen3-Max测试,至少应写清模型版本、权重精度、GPU型号与卡数、输入输出长度、持续吞吐和延迟分位。只报峰值,无法换算采购账单。

书生·万象3.0:MoE省的是哪一段

书生·万象3.0走MoE路线。每个token只调用部分专家,可以减少当次计算量;完整权重如何加载、专家如何分布、跨卡通信是否堵塞,仍会影响显存和吞吐。激活参数少,只回答了计算环节的一部分问题。

场景差异也不能省略。金融合同审查和多模态票据识别的输入结构、输出长度、图像预处理负担并不相同。峰值状态下测出的token单价,换到真实业务后未必还能保持。发布方若只给激活参数量,没有完整模型驻留、KV Cache和稳定并发数据,MoE的成本优势就很难核算。

MiCo要单独拆账

MiCo处在框架层,账单会跟着底层模型变化。接Qwen3-Max或书生·万象3.0,主要token费用仍由模型产生;MiCo需要单列预处理、缓存、任务编排和重试带来的开销。

接入LangGraph、Dify,或者复用embedding,确实可能减少重复处理。但工程兼容性不能直接写成成本降幅。上述公开来源没有提供复用前后的统一对照测试,也就无法得出具体节省比例。

做多模态Agent时,比较表里最好分成两栏:一栏记录底层模型的token账单,另一栏记录框架延迟、预处理耗时和失败重试。混在一起,只会让MiCo看起来既像模型,又像免费的中间层。

一张能用的成本表,应该长这样

字段 要记录的内容
任务 文本问答、金融合同审查、多模态票据识别等,不能混测
模型 产品名、具体版本、权重精度、量化方式
硬件 GPU型号、卡数、显存、云端或本地部署
负载 上下文长度、输入输出比例、batch、并发与QPS
结果 持续吞吐、P95/P99延迟、显存峰值、失败与重试
成本 API账单,或硬件折旧、电费、运维和空闲资源摊销

这张表看起来比一行token报价麻烦,却更接近企业真正支付的费用。会场可以报峰值,采购最终要付整月账单。

162亿元属于项目账,token账要另算

57个核心场景和162亿元意向合作,反映的是项目需求与交易规模。《科创板日报》6月17日的报道还提到,大会策划近140场论坛,汇聚超过1400位嘉宾,展览面积超过10万平方米。这些数字勾勒了WAIC 2026的体量,无法直接证明哪款模型的推理更便宜。

《每日经济新闻》的大会预告将华为Atlas 950超节点真机列为亮点,说明硬件基础设施同样被摆到台前。但超节点解决的是算力承载问题,具体模型能否降本,仍要看它在真实负载下的利用率和整机费用。

眼下能下的判断很窄:现有材料无法证明Qwen3-Max、书生·万象3.0或MiCo已经同时拿下低显存、低单价和高通用性。

小团队可以先拿同一批请求,对比云API账单与本地GPU的实际利用率;企业应把峰值并发、排队、重试和运维写进压测;做Agent的团队,则要把框架开销与底层模型分开记录。

谁先把推理成本打下来,答案不在展板上的单个数字里,而在稳定并发跑起来后的整张账单里。

资料来源

站内延伸阅读

相关阅读