把 Qwen3.5 或 Llama 4 这类通用模型直接搬进医疗、法律、政务的系统,掉链子的速度往往比上线还快。一个做医保审核的客户最近反馈,70 亿参数的模型在 ICD 编码归类上时好时坏,同一症状换一种问法,准确率能从 82% 掉到 54%。换更大的模型又会撞上成本墙——这正是 2026 年「通专融合」重新被推到台前的真实动因。
为什么通用模型到了垂直场景就掉链子
问题不在参数规模,而在「路由失效」和「参数耦合」两条互相纠缠的链路。
先说路由。当下主流的 MoE(Mixture of Experts)架构,例如 Mixtral、DeepSeek-V3 的设计思路,是希望把不同类型的问题自动分发给不同的专家子网络。但专业领域的提问往往带有跨域特征——医保审核单里同时出现临床描述、行政编码和患者口吻,这三种信号会同时激活多个专家,导致输出在几个「都不太专业」的子网络之间反复横跳。DeepSeek 在 2025 年底的 paper 中公开承认过类似现象:当 query 同时跨域时,路由器(Router)的 top-k 选择会变得不稳定,需要额外加一个「领域嵌入向量」做先验引导。
再说耦合。通用基座在预训练阶段吃下的数据是「世界知识」,而垂直场景真正需要的是「工序知识」:哪份文件先交、哪条规则优先、哪个字段对应哪个编码。这部分知识一旦塞进基座的全量参数,更新一次的代价可能是上千万美元的微调;而只更新一小部分,又会和原有能力打架。
通专融合的三条当前路径
2026 年市面上能看到的「通专融合」方案,大致收敛到三条路径。
路径一:基座外挂 RAG(检索增强生成)。这是最低成本的做法,详见站内《本地法律文书审核实操:先清数据,再做 LoRA 和 RAG》一文里给的实操链路。优势明显:知识可以热更新,召回效果可量化,单次推理成本基本只多一次向量检索。但它解决不了「模型本身不具备的推理能力」——例如让一个通用模型判断罕见病的鉴别诊断顺序,光塞指南不够,模型根本没有医学 chain-of-thought。
路径二:MoE 内嵌专家子网络。在基座内部增加专门的垂直专家,例如 BIGAI 在 2026 中关村论坛上发布的「通通 3.0」就强调了空间、认知、社交三类专家与「AI 镇」场景的耦合(详见站内《通通 3.0 亮相,BIGAI 还缺一张成本表》一文)。这条路的效果最好,但要面对两个现实约束:一是专家数量越多,路由器的训练压力越大;二是当业务范围从医疗扩展到法律、原扩展到政务时,专家之间的协同又成了新问题。
路径三:轻量化适配器(Adapter)+ 参数隔离。这是 2026 年真正开始规模化落地的中间路线。它的核心思想是把「通用能力」和「专业知识」在参数层面解耦——基座冻结,只训练一组特定形态的适配模块。即便如此,传统 Adapter 的设计仍会破坏通用能力,因为适配器插入的层位和基座的注意力路径存在强耦合。
真正解耦的适配器长什么样
一种更稳的设计,是把 Adapter 拆成「输入侧特征选择器」和「输出侧知识注入器」两个独立模块,中间用一个可学习的稀疏门控矩阵打通。
输入侧的特征选择器干一件事:从 hidden states 中识别出「这条 query 属于专业场景」的信号,并提取对应的语义片段。它的参数量极小,通常在基座的 0.1% 量级,作用类似一个低秩投影。
输出侧的知识注入器则携带可独立更新的「专家参数」。这部分以键值对(KV)的形式存在,可以挂在基座推理的任意层之后。关键设计在于:这个 KV 池在物理和逻辑上都与基座参数隔离开,更新时只动 KV、不动基座。
中间的稀疏门控矩阵负责两件事:一是只让专业信号通过,避免对通用问题产生干扰;二是当同一问题同时跨域时(例如同时涉及医保和劳动法),门控会自动叠加多个 KV 池,生成「混合专家」输出。
这种设计带来的工程优势是直接的:基座保持 7B-14B 的可部署体量,单卡 A100 或国产昇腾 910D 都能跑(迁移细节可见站内《迁移昇腾 910C/910D,先查算子、显存和 HCCL》与《昇腾、海光、寒武纪要混训,先打通通信、调度和算子》两文);专业知识可以独立版本化,相当于给模型外挂了一个「知识 Git 仓库」。
一份可落地的参数共享方案
把上面的设计拆成可执行的步骤,对一家做医疗 AI 的中小公司而言是可控的:
第一步,基座选型。 7B 是甜点尺寸,把 INT4 量化算进内存,权重可压到 3.5GB 左右,再加上 KV Cache 和系统开销,16GB 显存的单卡可以覆盖 32k 上下文(具体数字可参考站内《7B 到 14B 模型上手机,先过内存和功耗两道关》对端侧模型的内存边界分析)。如果业务允许延迟更长,14B 也可以上 A100 80GB 跑全精度。
第二步,专业数据准备。 至少需要 5 万条带专家标注的样本,标注维度要覆盖「领域值」和「流程值」两类。领域值例如「这条问题属于哪个子科室」,流程值例如「对应的处置规范是哪一版」。
第三步,KV 池训练。 冻结基座,只训练门控矩阵和 KV 池。在 A100 上,7B 基座配典型训练量,单次全量训练周期可压缩到 24-48 小时,单次训练成本控制在五位数人民币量级。
第四步,知识热更新。 制度变更、药品目录调整这类知识更新,只对 KV 池做增量更新,分钟级即可推到线上,无需重启推理服务。这点对医院、律所这类「制度频繁更新」的场景尤其关键。
第五步,部署与回滚。 推理时基座与 KV 池分别加载,KV 池按业务路由选择配比。当某一条业务线出问题,可以秒级回滚到上一个 KV 版本,基座不受任何影响。
这套思路能解决什么,解决不了什么
它能解决:通用能力不退化、专业知识可独立更新、跨域问题有多专家叠加、新旧知识版本可控。
它解决不了:基座本身的幻觉问题(需要外部事实校验链路配合,例如对法律文书做 RAG 比对,详见站内那篇 LoRA 与 RAG 实操文);以及当业务彻底超出基座「世界知识」分布时的能力上限——例如让一个没有医学预训练的纯文本基座去做影像诊断,再精巧的适配器也救不回来。
如果把视野放远一点,2026 年 Q2-Q3 的融资信号已经说明:AI 公司的竞争重心从「参数规模」转向「场景闭环」(详见站内《告别单纯烧钱买卡》一文)。把通用模型改造成真正能用的垂直工具,靠的不是再训一个更大的基座,而是把通用能力与专业知识在架构层面分开管理——这正是「通专融合」在 2026 年重新被技术圈认真对待的原因。
对于正在评估 AI 落地方向的团队,这条思路给出了一个相对克制的预算表:基座沿用开源方案,知识层独立维护,迭代周期按周计算,单条业务线的边际投入可以预测。当 AI 创业公司开始按 UE(单位经济模型)算账的时候,这种「通用底座 + 轻量化专域知识」的组合,至少比再训一个 100B 行业大模型要诚实得多(这一趋势在《AI 创业开始算细账:模型做大以后,收入怎么来》一文中有更详细的资本侧数据)。
至于更强形式的通专融合——例如基座本身就以多模态、多智能体方式为行业预留接口——还在等 2026 下半年的几场硬仗给出答案。可以确定的是,「参数共享」这个词在 2026 年已经不再只是一个口号,而是一组正在被工程化的具体机制。