深圳千卡集群跑通1.6万亿参数：30% MFU背后的硬核细节
2026年6月，深圳河套学院联合华为团队，依托1000颗昇腾910C完成DeepSeek-V4-Pro全参数训练。在MFU稳定30%、故障率0.3‰的背后，是算子适配、HCCL拓扑优化及长序列显存管理的实战经验。本文拆解
阅读全文
Search
站内搜索
关键词：适配
找到 130 篇相关文章
端侧大模型变了：从拼参数到拼系统配合
2026年，端侧AI竞争焦点从模型压缩转向软硬件协同。苹果WWDC2026发布AFM3系列，强调结构与芯片的配合；安卓阵营则在算力堆料与量化适配上寻找突破口。行业人才需求也从基础算法转向系统级优化。
阅读全文1000卡昇腾910C跑通1.6万亿参数：MFU超30%的工程账
6月，深圳河套学院等团队利用1000颗昇腾910C，成功完成DeepSeek-V4-Pro全参数后训练，算力利用率(MFU)超30%，故障率仅0.3‰。文章拆解千卡集群实战中的三大痛点：HCCL通信拓扑优化、长序列显存碎
阅读全文苹果AI入华三周，微信读书、支付宝、抖音踩了哪些坑
iOS 19推送三周，微信读书、支付宝、抖音团队分享了适配Apple Intelligence的具体问题：微信读书限制屏幕感知防止阅读轨迹泄露；支付宝强制金融Agent手动确认以过审；抖音用双层审核和INT8降频应对内容
阅读全文开源LLM被大厂抛弃？2026年私有化部署的性价比重新计算
2026年，DeepSeek-V3 API降至0.5元/百万token，Llama 4逼近GPT-4o。日均百万请求下，自建集群年成本约17万，API超300万。但算力波动、团队要求、合规（欧盟AI法案）和国产芯片（昇腾
阅读全文昇腾910C迁移手记：万亿模型跑通之后，踩坑才刚开始
2026年6月，深圳河套学院基于昇腾910C跑通1.6万亿参数模型；同期，电商团队因CANN算子问题加班排查。一次真实迁移的完整记录：从算子替换到训练策略调整，附避坑清单。
阅读全文豆包AI 2.0上线：长文本记忆能撑住字节的大考吗
2026年2月字节跳动发布豆包大模型2.0，主打无限上下文与长期记忆。实测显示百万字文档解析准确率超92%，但端侧算力瓶颈和API适配成本让开发者头疼。面对Kimi等竞品，字节押注企业知识库，但这场大考才刚刚开始。
阅读全文Llama 4国产适配实测：性能差距、成本对比与迁移指南
昇腾910D跑Llama 4 70B首字延迟2.3秒，是A100的3倍。单卡吞吐达A100的83%，但集群通信和算子适配仍是短板。自建集群和调用API成本差距悬殊：日均百万请求，自研年运维17万，API要365万。文中还
阅读全文昇腾910D金融风控压测实录：吞吐、延迟与迁移成本
2026年6月，某股份制银行在实时风控系统上完成昇腾910D集群压测。单卡推理吞吐2500 TPS，p99延迟6.8ms，达到A100的83%。但集群通信、算子迁移和稳定性仍有差距。实测数据对比A100/H100，梳理C
阅读全文H20禁令一年后：国产芯片参数亮眼，但迁移才是真门槛
英伟达H20被禁一年，国产芯片迅速补位。华为昇腾单卡推理吞吐2300 Tokens/s超越H100，平头哥真武810E性能对标H20，寒武纪思元590达A100级。但纸面参数不等于落地效果，算子支持与迁移适配才是真正的门
阅读全文华为910C与寒武纪MLU590：我们实测了PyTorch迁移的全程
我们花了两周时间，把ResNet-50、Whisper、Llama-3三个模型迁移到华为昇腾910C和寒武纪MLU590上。从驱动安装、算子适配到性能压测，记录了所有高频报错和性能数据，包括与A100的对比。
阅读全文