据界面新闻·JMedia转述,阿里云千问大模型业务总经理徐栋在2026年向《硅谷101》介绍,一个五六人的小团队一天能生成6000条广告视频,成本压到10元以下,低于20至50元的市场售价。
这组数字最值得注意的,不是AI又会做什么,而是业务已经开始按产量、交付和价格算账。模型参数有多大,客户未必关心。
不过,这个案例不能直接证明3B模型已经能包办80%的日常任务。至少在公开信息中,案例没有披露具体使用了多大规模的模型。把商业闭环直接推导成“3B赢了万亿模型”,中间还缺少任务测试和成本对比。
先把“80%”拿掉
现有可引用材料中,没有统一测试能够支持“3B模型处理80%日常任务”这个判断。“日常任务”本身也过于宽泛:文本摘要、简单意图识别、格式化数据提取和基础代码补全,对上下文长度、准确率和容错率的要求完全不同。短文本摘要能跑通,不代表长文档也能保持质量;代码能补出来,也不等于能通过编译和测试。
像VibeThinker这样的轻量模型,可以拿来做具体任务测试,却不能仅凭参数量或个别演示推出统一覆盖率。
开发者对小模型的兴趣倒是真实存在。一名Reddit用户曾讨论在RTX 2060 6GB显卡上运行TinyLLaMA、Phi-2等3B及以下模型,并追问这类模型是否值得使用。这说明小模型已经进入个人本地实验的硬件范围,但这条讨论并不是能力评测。
用得上和做得好,差了一层;能演示和能上线,又差了一层。
单价降了,账单未必跟着降
电子工程专辑援引Gartner预测,到2030年,大模型推理成本预计下降90%,但前沿AI依旧昂贵。这里容易出现一个误区:Token单价下降,不代表企业的总账单一定同步下降。
模型更便宜后,调用次数可能增加,上下文可能变长,Agent还会在一项任务中反复调用模型。再算上失败重试、结果审核和多模态处理,单价省下来的钱很快就会被新的使用量吃掉。
基础设施也在降价。PPIO页面给出的促销信息显示,GPU Spot计费上线后,RTX 4090价格低至0.99元/卡时。这样的价格能降低租用算力的门槛,但企业仍要承担部署、适配、监控和维护成本。
端侧AI也是同一笔账。模型放到本地设备后,可以减少云端调用费和网络等待,但硬件、内存、功耗、模型更新并不会消失。更准确的说法是,端侧降低了单次调用的边际成本,并没有把总成本抹掉。
小模型先从窄任务里赚钱
3B模型更适合先接边界清楚的活:文本路由、意图分类、固定格式的信息提取、短文本改写,以及能够用编译器或测试程序校验的基础代码补全。
这些任务有几个共同点:输入范围可控,输出格式明确,结果容易自动检查,失败后也能及时拦住。模型不必什么都懂,只要在一条业务链路里稳定完成自己的环节。
实际部署时,可以先让小模型处理常规请求。遇到置信不足、规则校验失败或上下文过长的情况,再升级到更强的模型。路由、执行、校验拆开后,大模型只处理真正困难的请求,不必出现在每一次调用里。
这时需要比较的也不再是模型报价,而是完成一次合格任务的成本。便宜模型如果频繁返工,最终并不便宜;更强的模型若能一次完成高价值任务,反而可能更划算。
大模型更像教师,也要负责兜底
模型蒸馏让大模型有了另一种位置。较大的教师模型提供输出、软标签或合成样本,较小的学生模型学习某个具体任务,随后承担高频执行。
把前沿模型称为“知识工厂”有一定道理。它可以参与离线数据生成和难题处理,也能在小模型失效时接管请求。它的商业价值不只来自在线售卖Token,还包括训练资产和能力上限。
但蒸馏不是无损压缩。教师模型的错误可能进入训练数据,小模型也不会自动继承教师模型的全部能力。数据筛选、评测和持续更新仍然要做,否则只是把错误复制得更快。
因此,万亿参数模型依然值钱,只是角色变了。它不必一直站在前台,却要负责生产训练材料、处理长尾问题,并给整套系统兜底。
选型时,算完整任务的账
企业判断是否采用3B模型,可以先看几件具体的事:
- 用真实业务样本测试,不只看公开榜单;
- 把重试、人工审核和失败损失计入成本;
- 区分云端调用与本地部署各自的延迟和维护代价;
- 确认模型更新后,业务流程是否需要重新评测。
回到一天生成6000条广告视频的案例,真正有价值的是产量、质量和价格形成了闭环,而不是背后模型的参数标签。
3B模型不会天然覆盖80%的日常任务,但只要它能稳定接住一项高频、可校验的工作,就可能比全程调用最强模型更划算。大模型抬高能力上限并生产训练资产,小模型承担大量执行,路由和校验把两者接起来。这比简单讨论谁会取代谁,更接近企业实际要付的账单。