昇腾910C跑通万亿大模型后,国产智算集群怎么混部海光DCU
深圳河套学院用1000颗昇腾910C跑通了1.6万亿参数的DeepSeek-V4-Pro,故障率0.3‰。但现实机房里,昇腾、海光往往并存。怎么让这两类卡在同一集群高效协同?算子层和通信协议的适配是核心。
阅读全文关注开源工具、模型部署、性能优化及开发者社区动态,服务技术从业者。
深圳河套学院用1000颗昇腾910C跑通了1.6万亿参数的DeepSeek-V4-Pro,故障率0.3‰。但现实机房里,昇腾、海光往往并存。怎么让这两类卡在同一集群高效协同?算子层和通信协议的适配是核心。
阅读全文从 CUDA/PyTorch 迁到昇腾 910C,问题常不在模型代码本身,而在 CANN 算子、HCCL 拓扑和精度对齐。把这三处先跑通,后面的改造会少很多返工。
阅读全文DeepSeek-V4-Pro在昇腾910C上的跑通只是第一步。当海光DCU等异构力量入场,通信协议断裂、算子对齐困难、混合集群稳定性不足等工程鸿沟,远比单卡参数更考验开发者。
阅读全文深圳光明大装置1.55亿大单明确“拒绝进口”,昇腾910C走向前台。从HCCL通信改造到CANN算子补齐,开发者的实战细节才是国产算力突围的关键。
阅读全文2025年4月H20禁令后,昇腾910C开始大规模出货。从深圳光明大装置1.55亿全国产采购大单,到下半年即将发布的昇腾920,算力替代正在发生。但对开发者而言,HCCL通信和迁移成本是必须算清的一笔账。
阅读全文FlashMLA GitHub Star破7.2K,中小团队私有化部署进入实战期。实测RTX 4090双卡跑70B模型,拆解昇腾910D的HCCL优化与PPIO的PD分离架构,看清本地部署的真实算力账。
阅读全文Arm架构在PC和平板市场的份额突破40%,标志着AI算力从云端向边缘的重心转移。本文结合2025-2026年最新数据,拆解NPU在端侧大模型推理中的成本与延迟优势,探讨物理AI与边缘计算的落地现实。
阅读全文2026年5月微软Build大会发布Copilot Studio新版编辑器,完成底层重构。它从低代码构建器变为行动驱动型Agent平台,能调用API和ERP系统。随之而来的权限滥用和成本失控,倒逼企业建立数据不出域的治理
阅读全文2026年2月中国AI模型Token调用量达5.16万亿,超越美国。庞大的推理需求下,昇腾910C吞吐表现强劲但软件适配成本高,英伟达H20面临市场份额缩水,天数智芯、寒武纪等则在特定场景突围。
阅读全文6月5日,深圳河套学院联合哈工大(深圳)等团队,依托昇腾910C万卡集群完成1.6万亿参数DeepSeek-V4-Pro全参数后训练。全程脱离英伟达硬件,且由第三方主导验证了国产算力的工业级可用性。
阅读全文3月1日DeepSeek公开V3/R1推理系统概览,披露理论成本。假设GPU租赁成本2美元/小时,每日总成本约8.7万美元。低成本不仅让英伟达市值单日蒸发6000亿美元,更迫使算力基建向容器化与云原生制品分发转型。
阅读全文昇腾910D跑Llama 3.3,直接加载权重常遇算子报错。结合CANN 8.0与MindIE框架,用Ascend C自定义算子和MindQuantize量化工具可解决显存瓶颈。梳理了从环境配置到算子适配的工程避坑点。
阅读全文