6月下旬，一家上海医疗AI公司的CTO在内部会议上拍板：90天内，把所有涉及患者电子病历的推理链路从第三方闭源API迁移到本地部署的DeepSeek开源模型上。
促使他这么做的，不是开源信仰，而是一份来自法务部的合规警告——就在上个月，同城另一家医疗公司因为用第三方API处理患者数据，被罚没全年利润。
这不是孤例。2025年下半年以来，全国AI违规行政处罚超200起，单笔最高罚500万（参见《AI营销频频触红线：数据出境与算法合规怎么破？》）。进入2026年，更多的开发者和企业架构师正在重新评估他们的LLM调用策略。
52万元的教训
2026年6月，深圳一家跨境电商的AI Agent在4小时内烧掉52万元Token。企业CTO复盘时直言：“如果当初选了DeepSeek开源模型做本地部署，这笔钱够买两台昇腾910C服务器，还能剩半年电费。”（事件详情可回顾《深圳电商Agent烧掉52万：自动续费背后的计费失控与监管收紧》）。
这个事故暴露了两个问题：一是计费失控，二是对API的过度依赖。当AI Agent自主执行任务时，Token消耗可能呈指数级增长，而API模式下用户连熔断开关都不在自己手里。
成本账：API按量付费的拐点
DeepSeek API刚推出时定价约输入0.14元/百万Token、输出0.28元/百万Token。一个日均处理1000万Token的客服系统，月度API成本约4200元。看似可控，但加入多轮对话和知识库检索后，Token消耗轻松翻倍。
本地部署的账怎么算？以DeepSeek-R2 (32B)模型为例，量化版FP16占用约64GB显存，单卡A100-80G可运行。单张A100租赁价约50元/小时，按月500小时算要2.5万。但这笔账不能这么简单比——实际场景中，一个模型跑起来后，可以在夜间和低峰期满载使用，无需为调试、回流和多次推理重复计费。IBM在企业AI应用前沿分析中指出，DeepSeek的开放权重特性允许企业自由进行本地部署、修改和二次开发（来源：IBM）。一旦第一年付清硬件成本，第二年起边际成本近乎为零。
杭州一家金融科技公司2025年就在私有云上跑DeepSeek-R1。据其技术负责人透露，72B模型的单推理成本比API低60%，而且没有“Token浪费”——API中用户的提示词也按Token算，本地部署则完全可控。他们从API切换到本地部署的决策点出现在2025年6月，当时DeepSeek发布R2开源权重，支持4K上下文和更灵活的量化方案。
隐私与合规：AI“黑盒”不再被容忍
成本只是明线，隐私是暗礁。欧盟《AI责任指令》生效一周年后（2026年6月），合规已从纸面防御变成技术刚需。上海礼丰律师事务所在专题研究中指出，DeepSeek开源模型提供多种接入方式，但本地部署时必须严格遵守开源许可证要求（来源：礼丰律所）。对于跨境企业，数据不出境是硬杠杆。API模式下，用户输入和输出都经过DeepSeek服务器，即便有数据隔离承诺，也绕不开欧盟“充分保护认定”的审查。
前述医疗AI公司的案例就是典型。他们后来全面转向DeepSeek本地化方案，在昇腾910C集群上跑通模型。选择本地化方案的关键在于，患者数据从采集到推理，全程不离开医院内网。
算法黑箱：从“信任但验证”到“必须溯源”
2026年3月，一家欧洲车企的智驾系统因API返回的异常决策导致测试事故。调查发现，API端悄然更新了模型权重但未通知。这迫使车企在合同中加入“模型版本锁定”条款，但API提供商通常拒绝。拥有模型权重，才能实现真正的版本控制。
DeepSeek的MIT开源许可证（V3/R1）允许商用、修改，甚至闭源分发——这给了开发者终极控制权。字节跳动和腾讯已经在2025年将DeepSeek-R1模型私有化部署到各自的企业协作工具中。科技日报在2025年2月的一篇报道中评价：“DeepSeek是开源模式的重要里程碑，展现了中国的技术自信，开辟出一条技术普惠与全球共生的新路径”（来源：科技日报）。
算力门槛正在降低
过去，本地部署的门槛是算力。但2025-2026年，生态发生了质变：RISC-V芯片出货破百亿颗，阿里玄铁C950原生支持千亿参数大模型（参见《玄铁C950跑通千亿参数大模型，平头哥重注RISC-V端侧算力》）；昇腾910C集群实现了万亿级参数训练（《昇腾910C跑通1.6万亿参数：国产算力的硬账与门槛》）。更轻量的方案也在涌现：DeepSeek-R2的INT4量化版本只需单张消费级显卡（RTX 4090 24GB）即可运行7B模型，推理速度达到30 tokens/s。
小米SU7 Ultra的智驾系统也使用了类似思路——端到端神经网络在车端芯片上运行，不依赖云端API（参见《小米SU7 Ultra赛道实测：端到端智驾在极限工况下的表现》）。这表明，即便在强实时性场景，本地推理已能胜任。
但前提：别踩开源许可证的坑
本地部署并非没有代价。上海礼丰律所的文章提醒：DeepSeek开源模型虽然采用MIT许可，但后续版本可能附带附加条款（如衍生模型需开源）。开发者必须逐行检查许可证，否则可能面临商业纠纷。2026年4月，一家初创公司因未遵守模型权重出处要求，被要求停止分发并赔偿。
此外，维护成本也不可忽视。昇腾集群的运维需要专业团队，且兼容层仍有Bug（如CANN算子库偶尔报错）。但正如那位跨境电商CTO所说：“比起API欠费跑到破产，本地部署至少死得明明白白。”
转向不是抛弃，而是选择
DeepSeek的开源路线，让开发者多了“本地部署”这个选项。它并非完全取代API——对于原型验证、突发流量弹性扩容，API仍是好工具。但当规模固化、数据敏感、合规收紧时，本地部署就成了无法回避的路径。
2026年6月，DeepSeek宣布即将开源R2的MoE版本，参数规模达1.6T。消息一出，多家企业立刻开始规划本地机房的扩容。这背后的逻辑很清晰：谁拥有模型权重，谁就拥有AI时代的主动权。而DeepSeek，正在用开源把主动权交还给开发者。
