AI 纪元 追踪人工智能最新进展,深度解读前沿技术

昇腾910C之后,中小企业怎么部署私有算力

昇腾910C集群完成DeepSeek-V4-Pro后训练,让国产算力的可用性被重新讨论。中小企业真正要判断的,不是追不追最新芯片,而是哪些数据必须留在本地、哪些任务可以上云,以及团队能不能接住国产软硬件栈。

0 次阅读 约 2684 字 5 分钟 AI 生成

2026年6月5日,深圳发布官方账号确认:深圳河套学院AI训练平台项目团队,联合哈尔滨工业大学(深圳)、深圳市大数据研究院、华为有关团队,协同深智城AI算力平台,依托昇腾910C国产AI算力集群,完成了1.6万亿参数大模型DeepSeek-V4-Pro全参数后训练。

这条消息的看点很直接:国产AI算力不再只停留在“能跑模型”的讨论里,而是进入了大模型训练工程的验证场景。

但对一家中小企业来说,它不等于“现在就该买一套昇腾集群”。更现实的问题是:你的数据能不能上公有云?业务到底需要训练、微调,还是只需要推理和知识库问答?团队有没有人能处理CANN、MindSpore、ModelArts这类国产栈?

如果这些问题没想清楚,买服务器只是把问题从采购单搬进机房。

910C验证了上限,不代表企业都要追上限

DeepSeek-V4-Pro的全参数后训练,是一个高强度的大模型工程验证。它证明昇腾910C集群可以支撑更复杂的国产算力任务,也让外界重新评估昇腾路线的工程成熟度。

不过,中小企业的典型需求往往没那么大。

多数企业更常见的场景是内部知识库检索、客服问答、合同和文档处理、代码辅助、销售资料生成,或者在自有数据上做小规模微调。这些任务关注的不是万亿参数模型训练,而是响应速度、数据隔离、系统稳定性和长期维护成本。

换句话说,DeepSeek-V4-Pro这次验证更像是给国产算力打了一个“上限样板”。企业落地时,仍然要从自己的业务负载往回算。

先分清:哪些任务必须放本地

私有化部署最常见的理由是数据合规。产品图纸、客户合同、财务记录、供应链报价、内部研发文档,这类数据如果不能离开企业内网,就需要本地算力或本地化模型服务承接。

但不是所有AI任务都要放在本地。

一个更稳妥的做法,是把任务拆成两类:

  • 涉及敏感数据的部分,放在企业本地环境中处理,比如文档向量化、内部知识库检索、权限控制下的问答、特定业务数据微调。
  • 不涉及核心数据的部分,可以使用云端服务,比如公开资料整理、通用文本生成、非敏感客服辅助、临时高并发推理。

2025年6月20日的华为开发者大会上,华为云计算CEO张平安宣布,新一代昇腾AI云服务全面上线,为大模型应用提供算力支持。对中小企业来说,这类云服务的价值在于:先试任务,再决定要不要把其中一部分沉到本地。

比起一次性建设完整集群,先用云服务跑通业务流程,往往更容易发现真实瓶颈在哪里。

买硬件前,先看软件栈能不能接住

昇腾不是一张卡的问题,而是一整套软硬件体系。

从公开资料看,昇腾计算产业基于昇腾系列处理器和基础软件构建。企业真正会接触到的,不只是服务器和芯片,还包括CANN、MindSpore、ModelArts,以及后续的模型适配、算子支持、推理服务和运维监控。

这也是中小企业容易低估的部分。

如果团队长期使用CUDA和PyTorch,切到昇腾体系时,模型迁移、算子兼容、训练脚本调整、性能调优都需要时间。供应商承诺“可适配”是一回事,企业自己的业务模型能不能稳定跑,是另一回事。

所以,采购前至少要做一次PoC验证。不要只看演示模型,要拿自己的数据、自己的文档格式、自己的并发场景去试。

PoC里建议重点看几件事:

  • 现有模型能否在昇腾环境中顺利运行;
  • RAG链路里的文档解析、向量化、检索和生成是否稳定;
  • 推理延迟是否满足业务系统要求;
  • 运维团队能否处理环境部署、日志排查和版本升级;
  • 供应商能否给出明确的适配边界,而不是只给笼统承诺。

能跑通这些,再谈采购规模。

不要把“国产算力”理解成单一选择题

2025年5月13日,美国商务部宣布撤销拜登政府2025年初发布的《人工智能扩散规则》,并计划制定替代规则;同时BIS发布指导文件,加强对海外AI芯片出口管控。外部环境变化,是国内企业关注自主可控算力的重要背景。

但自主可控不等于所有系统都必须自建。

对中小企业更合理的架构,通常是“本地最小可用环境 + 云上弹性算力”。本地保住敏感数据和关键流程,云端处理临时峰值和通用任务。这样既能降低一次性投入,也能避免团队一开始就背上复杂集群运维压力。

这种模式尤其适合几类企业:

  • 有明确数据合规要求,但AI团队规模不大的企业;
  • 已经有内部知识库、客服、文档处理等场景,希望先提升效率;
  • 业务峰值不稳定,没必要长期持有大量闲置算力;
  • 想验证国产算力路线,但还没有完整国产栈运维经验。

反过来,如果企业没有敏感数据约束,也没有稳定的AI业务负载,直接建设私有算力集群就要谨慎。很多时候,先用云API和云上模型服务验证需求,成本和风险都更低。

中小企业的部署顺序,可以更保守一点

中小企业部署私有算力,不建议从“大而全”的方案开始。更可控的顺序是:

第一步,盘点数据边界。哪些数据绝对不能出内网,哪些数据脱敏后可以调用云端服务,哪些数据本来就是公开资料。这个边界不清楚,后面的架构设计会反复返工。

第二步,选一个高频场景试跑。比如内部知识库问答、售后工单辅助、合同条款检索、研发文档查询。场景越具体,越容易判断模型是不是真的有用。

第三步,用云服务或测试环境完成PoC。重点不是看模型回答是否“像人”,而是看准确率、权限控制、响应时间、日志追踪和人工复核流程是否能接进现有系统。

第四步,再决定本地部署范围。不是所有模型、所有数据、所有推理任务都要搬到本地。能用小环境解决的问题,就不要一开始堆成复杂集群。

第五步,补齐运维能力。国产算力部署之后,版本升级、框架适配、模型迭代、故障定位都会成为长期工作。没有人负责,系统很快会变成一次性项目。

判断要不要上昇腾,可以问四个问题

采购前,不妨把问题压缩到四个:

  1. 核心数据是否必须留在本地?如果答案是否定的,云服务可能更适合起步。
  2. 主要任务是推理、RAG,还是大规模训练?多数中小企业先从推理和RAG开始就够了。
  3. 现有团队是否能维护国产软硬件栈?如果不能,要把供应商服务能力一起纳入评估。
  4. 业务是否已经跑出稳定需求?如果只是试验性质,不宜过早重投入。

昇腾910C完成DeepSeek-V4-Pro后训练,说明国产算力的工程能力正在被更大规模项目验证。华为从Atlas超节点、标卡到TaiShan通算平台,再到后续昇腾芯片路线,也在补齐AI算力体系。

但企业落地不能只看路线图。

对中小企业来说,最重要的不是追最新硬件,而是让算力进入真实业务:数据能管住,模型能跑稳,成本能解释,团队能维护。做到这几件事,私有化部署才不是一笔好看的采购预算,而是能持续产生价值的基础设施。

相关阅读