昇腾910C推理提速43%？这组数据还缺关键条件
公开材料确认，昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练；但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降，仍需补齐模型分片、精度、并行方式与测试日
阅读全文
Search
站内搜索
关键词：万亿参数
找到 39 篇相关文章
产业动态
8000P算力入园，BIGAI要验证什么AGI假设
2026年7月，BIGAI接入8000P算力。公开资料没有披露万亿参数训练计划，但SceneVerse++、TongSIM、TongAgents、OmniXtreme与奥数几何AI已经勾勒出一个可检验的问题：模型学到的场
阅读全文
前沿研究
万亿模型继续变大，企业却在重算3B的账
Kimi K3把开源模型推到2.8万亿参数，企业部署端却在问：哪些请求真的需要旗舰模型？3B小模型的价值不在全面平替，而在任务清楚、调用频繁且有兜底的场景里，控制时延和持续成本。
阅读全文3B小模型进垂直业务：先测漏检，再谈平替
Nanbeige4-3B让3B级SLM进入企业候选清单，但现有材料还不足以证明它们普遍追平千亿、万亿参数模型。合同审查和医疗分诊能否上线，得看严重漏检、知识更新、真实硬件表现与人工兜底，而不是只看榜单。
阅读全文
产业动态
算力租金涨价后，小规模 AI 公司如何靠‘模型蒸馏’续命？
2026年算力租赁市场开启新一轮涨价潮，中小 AI 初创公司面临生死考验。本文拆解了如何通过“模型蒸馏”技术将万亿参数模型的能力压缩至 3B 小模型，从而在保障业务表现的同时将推理算力成本降低 90% 以上，帮助初创公司
阅读全文3B小模型开始接活，万亿参数模型还值不值钱
3B小模型正进入摘要、分类、提取等边界清晰的任务，但“覆盖80%日常工作”没有统一证据。企业真正要算的是完成一次任务的总成本：调用、延迟、返工和审核。大模型不会失去价值，它更适合复杂请求、模型蒸馏和能力兜底。
阅读全文
前沿研究
昇腾910C跑通1.6万亿参数模型，下一关在CANN
DeepSeek-V4-Pro已在昇腾910C集群完成全参数后训练，说明这套软硬件承接过1.6万亿参数模型任务。对PyTorch团队，更现实的考验是算子覆盖、版本匹配、OOM定位和性能复现。
阅读全文
开发者生态
从 910B 迁移到 910C：那些被忽略的算子兼容性坑位清单
一线团队踩坑实录：从昇腾910B迁移到910C，处理万亿参数MoE模型时最常见的六大算子兼容性陷阱，包括FlashAttention跨die变慢、TopK精度隐雷、显存碎片等，附2026版国产算力集群调优Checklis
阅读全文
前沿研究
MoE 架构跑通万亿参数了，但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利，反而因专家权重全量驻留引发的显存碎片化和访存瓶颈，让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题，并结合昇腾等厂商的最新无损优化方案，探讨从算子调度到底层
阅读全文昇腾910C扩到万卡之前，先把运保账算清
据公开通报，昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练，但通报未披露卡数、PUE、故障率和运保成本。准备扩到万卡时，能耗边界、备件粒度、版本适配与服务响应，都应写进验收和合同。
阅读全文
技术应用
2026暑期AI手机横评：三款旗舰的端侧多模态谁更懂生活
2026年暑期，iPhone 18、华为Mate 80与小米15 Ultra的端侧AI实测揭示了不同的技术取舍。苹果凭借稀疏架构实现极致能效，华为在中文多轮对话中展现深度理解，小米则以万亿参数模型提供强大的本地创意能力。
阅读全文
前沿研究
华为智算集群实测：昇腾910C在混合精度训练中的真实吞吐率
基于2026年6月千颗昇腾910C完成1.6万亿参数DeepSeek-V4-Pro训练的实测数据，分析FP8/FP16混合精度下的MFU和吞吐率，对比A100/H100的性价比，揭示国产算力的工程极限与选型真相。
阅读全文